Вопрос или проблема
У меня есть данные временного ряда, полученные из видео. Данные состоят из пар битрейтов и соответствующих меток для каждой временной метки:
Распределение за первые 30 секунд выглядит следующим образом:
Я построил модель LSTM для этого набора данных, чтобы иметь возможность классифицировать метки на основе битрейта. Однако кажется, что моя модель не может обучиться. Точность валидации начинается примерно с 0.3 (что разумно, поскольку у меня 2 класса (log2 = 0.3)) и не улучшается.
У вас есть идеи по этому поводу? Это нормально, учитывая это распределение выборки, или что-то может быть не так с моей моделью? Спасибо!
Модель LSTM использует предшествующую последовательность битрейтов для получения метки. Если метку можно предсказать из этих битрейтов, то ваша проблема подлежит обучению с помощью LSTM.
Из вашего комментария: метка – это “этап видео”: бег, ходьба и т.д. Вопрос в том, можно ли это вывести из битрейта? Ходьба на фоне с высокой нагрузкой может дать более высокий битрейт, чем бег. Судя по вашему примеру на глаз, у меня есть сомнения, что это возможно. Я думаю, вам нужно извлечь больше признаков из видео, чем просто битрейт.
Ответ или решение
Исследование проблемы: Невозможно ли извлечь информацию из набора данных или LSTM недостаточно умна?
Когда речь идет об анализе данных и машинном обучении, одним из самых волнующих и, порой, самых запутанных вопросов является ситуация, когда модель не способна эффективно учиться: "Является ли мой набор данных неизучаемым, или мой LSTM недостаточно умный?" Давайте подробно рассмотрим ваше время-пространственное представление и методы, используемые в вашей модели LSTM.
1. Структура данных и их значения
Ваши данные, состоящие из пар "битрейт и метка для каждого временного штампа", подчеркивают связь между видеоконтентом и его характеристиками, но для успешного использования LSTM следует учитывать, что модели этого типа хорошо работают с последовательными данными, где контекст предыдущих значений помогает определить текущее состояние. Однако важным остается вопрос о том, может ли метка (этап видео: бег, ходьба и т. д.) быть выведена из битрейта.
2. Качество характеристик
Как упоминается в ваших замечаниях, метки, такие как "бег" и "ходьба", могут варьироваться в зависимости от контекста видео. Проблема заключается в том, что битрейт является относительно ограниченным признаком, который не сможет полностью отразить динамику действий человека. Например, в сцене с быстро движущимися объектами — даже при беге — битрейт может оказаться высоким, а в условиях спокойной сцены с высоким разрешением движение может быть менее значительным. В результате LSTM не будет способна выделить характерные паттерны, необходимые для предсказания меток.
3. Оценка обучаемости набора данных
Давайте проанализируем ваш набор данных с точки зрения обучаемости. Если ваша валидационная точность остается на уровне 0.3 (что соответствует случайным предсказаниям для бинарной классификации), это может указывать на проблему, связанную как с данным набором, так и со структурой модели. Вот несколько пунктов, на которые следует обратить внимание:
-
Отсутствие достаточной информации: Если информация, которую вы обрабатываете, не может четко различать классы, модель просто не сможет научиться выделять эти классы. Возможно, требуются дополнительные характеристики (например, оптические потоки, фреймы или звуковые данные), чтобы модель могла её анализировать.
-
Неправильная архитектура модели: Настройки гиперпараметров модели LSTM (например, количество слоев, размер скрытых единиц, скорость обучения) могут оказывать значительное влияние на качество обучения. Если ваша модель излишне проста или наоборот, сложна для задачи, это также может привести к низкой точности.
-
Проблемы с предобработкой данных: Прежде чем подавать данные в LSTM, убедитесь, что они правильно нормализованы. Неправильные масштабы или нерегулярные временные промежутки могут сбивать модель с толку.
4. Выводы и рекомендации
С учетом вышеизложенного, можно утверждать, что вопрос заключается не только в "умности" вашей модели LSTM, но и в характере ваших данных. Если битрейт не является показателем меток, то LSTM может быть не в состоянии выучить закономерности. Таким образом, вы можете предпринять следующие шаги:
-
Расширьте набор данных: Расширьте источники информации, используемые для предсказания меток. Вы можете рассмотреть возможность добавления других признаков, таких как визуальные или аудиоданные.
-
Итеративный процесс: Применяйте итеративный подход — изменяйте архитектуру модели, проводите эксперименты с гиперпараметрами и проверяйте их влияние на результаты.
-
Анализируйте результаты: Используйте инструменты для визуализации характеристик наборов данных, чтобы понять, где возникают трудности при предсказании.
Таким образом, хотя ваш LSTM может быть недостаточно "умным" для обработки текущего набора данных, существует высокая вероятность того, что первоочередная проблема заключается в самой информации, которую вы пытаетесь извлечь.