Вопрос или проблема
У меня есть около 5 лет данных индекса, содержащего много признаков на ежедневной основе. Я хочу классифицировать, будет ли индекс двигаться вверх или вниз в следующий торговый день (движение вверх или вниз определяется по ценам открытия/закрытия следующего дня). Я использую классификатор SVM для этой классификации. Какие основные шаги мне нужно выполнить? Полагаю, поскольку я использую финансовые данные, могут быть некоторые отклонения от традиционного метода применения машинного обучения. У меня есть следующие шаги на уме:
-
Подготовить данные, содержащие все доступные признаки и переменную направления.
-
Инженерия признаков: то есть создание различных признаков с помощью трансформаций, таких как логарифм, процентное изменение по различным доступным признакам. Я еще не включил этот шаг, но сделаю это позже, когда у меня будет работающая модель.
-
Отбор признаков: как к этому подойти? Сначала я использую различные признаки, которые, как я думаю, обладают предсказательной силой, но как подойти к этому систематически.
-
Моделирование по методу “Walk Forward”: после отбора признаков у меня есть данные, которые я буду использовать для своей модели. Я использую первые 500 дней данных для тренировки модели, тестирую ее на следующий день, затем использую данные с 2-го дня по 501-й для тренировки модели и тестирую ее на 502-й день и так далее, пока не дойду до текущего дня. Я следую, чтобы масштабировать свои тренировочные данные в диапазоне 0-1 и использую тот же скейлер для тестовых данных перед запуском модели. В данный момент я использую параметры по умолчанию для SVM в sklearn.
-
Затем я проверяю производительность своей модели, используя различные метрики, полученные из матрицы ошибок, такие как точность, F1-меря и т. д.
Для применения SVM я использую это руководство, которое говорит о необходимости использования кросс-валидации для выбора C и гамма. Как мы можем использовать кросс-валидацию здесь, если у нас есть финансовые временные ряды? Что еще мне следует включить в свои шаги?
Зачем вам использовать SVM + инженерию признаков в 2021 году? Если у вас есть набор данных временных рядов, используйте LSTM/GRU/biLSTM для бинарной классификации (последний слой полностью связан). Функция потерь — бинарная кросс-энтропия, метрики точности — общая точность или F1 или точность-полнота.
Ответ или решение
Для того чтобы создать предсказательную модель, способную классифицировать движение индекса (вверх или вниз) на следующий торговый день, необходимо следовать ряду ключевых этапов. Вот полное руководство по этому процессу, включая подходы, специфичные для финансовых данных.
1. Подготовка данных
Первый шаг состоит в подготовке набора данных, включающего все доступные признаки и переменную направления движения рынка. Вам понадобится создать переменную-мишень (например, 1 для движения вверх и 0 для движения вниз) на основе открывающей и закрывающей цены следующего дня.
2. Инженерия признаков
На этом этапе создайте новые признаки, используя трансформации, такие как логарифмические преобразования, процентные изменения, скользящие средние и дополнительные индикаторы (например, RSI, MACD и т.д.). Инженерия признаков критически важна в финансовых данных, так как она может значительно повысить предсказательную способность модели.
3. Выбор признаков
Систематический подход для выбора признаков может включать:
- Использование корреляционного анализа для выявления значимых признаков.
- Проводите метод последовательного выбора (например, рекурсивное исключение признаков).
- При использовании моделей, таких как случайный лес, вы можете получить оценки важности признаков.
- Обязательно разбивайте данные на обучающую и тестовую выборки, чтобы избежать переобучения.
4. Моделирование с использованием Walk Forward
Используйте метод Walk Forward для валидации модели:
- Обучайте модель на первых 500 днях данных, затем тестируйте ее на 501-й день, после чего добавляйте следующий день в набор обучающих данных и повторяйте процесс.
- Убедитесь, что данные предварительно масштабированы (например, с использованием MinMaxScaler), сохраняя одну и ту же шкалу для обучающего и тестового наборов.
5. Оценка производительности модели
Оцените качество модели с использованием различных метрик, таких как:
- Точность (Accuracy)
- F1-score
- Precision и Recall
Работайте с матрицей путаницы (confusion matrix) для глубже анализа ошибок и особенностей работы модели.
6. Настройка гиперпараметров
Для выбора гиперпараметров, таких как C и gamma для SVM, можно использовать кросс-валидацию. Однако, учитывая временные ряды, применение стандартной кросс-валидации неуместно. Вместо этого применяйте стратифицированную кросс-валидацию, разделяя данные на несколько временных окон.
7. Альтернативные модели
Рассмотрите использование современных подходов, таких как LSTM/GRU, которые хорошо работают с временными рядами. Используйте бинарную кросс-энтропию в качестве функции потерь, и метрики вроде точности или F1 для оценки эффективности модели. Эти нейронные сети могут захватывать более сложные зависимости во временных рядах.
8. Визуализация и интерпретация результатов
После завершения всех этапов важно визуализировать предсказания модели и проанализировать, как визуализация соотносится с фактическими движениями индекса. Это может помочь в понимании и интерпретации значимости выбранных признаков и предсказаний.
Заключение
Следуя этим этапам, вы сможете построить более надежную модель для классификации движения рынка. Помните, что финансовые данные могут быть шумными и непредсказуемыми, поэтому важно тестировать и адаптировать свою модель, основываясь на новых данных и изменениях на рынке.