Как правильно обучаться на расширенном наборе данных

Я обучил свой классификатор на изображениях с смесью нескольких классов на каждом изображении, например, A-F. Классификатор способен (почти) правильно сегментировать эти классы на изображениях.

Теперь у меня есть больше данных с изображениями, показывающими класс G. Чтобы минимизировать свою работу, я только пометил класс G на изображениях и оставил остальное без пометок (Недействительно).

Возникает два вопроса для моего обучения:

1. Если в моем первом наборе данных нет примеров класса G (поскольку он мог быть подкатегорией A-F), как мне правильно его обучить?
   Предложенное решение: Я могу добавить мои новые данные к старым, но я должен сообщить CNN, когда есть изображение с классом G, потому что мне нужно как-то изменить измерение ошибки моего CNN. Но как?
2. Если G уже был включен в мой первый набор данных (предположим, G – ‘полицейская машина’, а B – ‘машина’, но некоторые изображения показывали полицейскую машину), как мне правильно обучить в этом случае?

Передача обучения – это то, что вам нужно.

Посмотрите эту запись из CS231n, она предоставляет некоторые общие советы по передаче обучения и тонкой настройке модели.

Тем временем этот блог от keras показывает, как использовать предварительно обученную сеть VGG16 для классификации собак и кошек.

Чтобы адаптировать ваш классификатор к новому классу, вам нужно изменить архитектуру вашей нейронной сети, чтобы учитывать новый класс, и переобучить модель на объединенном наборе данных (т.е. исходном наборе данных плюс новые размеченные данные, содержащие только класс G).

Один из подходов к адаптации вашей нейронной сети – это добавление нового выходного слоя к существующей модели для классификации нового класса. Этот новый выходной слой будет иметь только один нейрон, соответствующий бинарной классификации класса G против класса “Недействительно”. Вы можете инициализировать веса нового выходного слоя случайным образом и зафиксировать веса уже существующих слоев, чтобы сохранить заранее изученные признаки из исходного набора данных, и только веса нового выходного слоя обновлялись во время обучения.

Другой подход заключается в том, чтобы тонко подстроить всю нейронную сеть на объединенном наборе данных, включая веса предварительно существующих слоев. В этом случае вы бы инициализировали веса предварительно существующих слоев с предварительно обученными весами из оригинальной модели, а веса нового выходного слоя были бы инициализированы случайным образом. В процессе обучения все веса в модели обновляются для минимизации потерь на объединенном наборе данных.

Чтобы справиться с дисбалансом классов в объединенном наборе данных, вы можете использовать взвешенную функцию потерь, которая придает более высокие веса неправильно классифицированным примерам нового класса, или использовать техники увеличения данных для генерации синтетических примеров нового класса. Кроме того, вы можете применять такие техники, как регуляризация (dropout) и ранняя остановка, чтобы предотвратить переобучение.

После обучения вы можете оценить эффективность адаптированного классификатора на валидационном наборе данных и уточнить гиперпараметры по мере необходимости для оптимизации производительности.

В первом случае, когда ваш исходный набор данных не включает класс G, вы можете использовать передачу обучения, чтобы использовать предварительно обученные признаки вашего существующего классификатора. Вы можете тонко настроить вашу предобученную модель на новых данных с классом G, заменив последние слои вашего классификатора и обучив только эти слои на новых данных.

Чтобы изменить измерение ошибки вашего CNN при обучении с новыми данными, вы можете изменить функцию потерь, чтобы включить новый термин, который штрафует за неправильную классификацию класса G. Один из способов достичь этого – добавить взвешенную кросс-энтропийную потерю, где вес для класса G увеличивается, чтобы отразить дисбаланс классов в вашем новом наборе данных. Другой вариант – использовать фокусированную потерю, которая является вариантом кросс-энтропийной потери, который уделяет больше внимания трудно классифицируемым примерам. Настраивая параметры функции потерь, вы можете контролировать, насколько сильно CNN акцентирует внимание на классе G во время обучения.

Во втором случае, когда ваш исходный набор данных уже включает класс G, вы можете обучать свой классификатор аналогично предыдущему, добавляя новые данные к существующему набору данных и изменяя функцию потерь по мере необходимости. Однако вам следует быть осторожным, чтобы избежать переобучения к классу G, поскольку он теперь представлен в обоих наборах данных. Для этого вы можете использовать такие техники, как увеличение данных, регуляризация (dropout) и ранняя остановка, чтобы предотвратить запоминание новых примеров моделью и вместо этого способствовать обучению более обобщаемым признакам.