Общие практики построения инкрементальной обучающей модели, которая никогда не забывает?

Я новичок в области науки о данных и ценю ваш мудрый совет! Мне нужно построить модель с инкрементальным обучением, и я понимаю, что в это вкладывается много усилий, но я хотел бы выделить самое фундаментальное, абстрактное требование в моем конкретном случае и попросить вас сосредоточить внимание на этом.

Однако, как бы я ни строил модель с инкрементальным обучением, она никогда не должна забывать выученное. Это значит, что при изучении чего-то нового она не может забыть то, что уже было изучено.

Мне нужно знать, какой алгоритм или серия алгоритмов могут помочь в этом.

Я хотел бы привести игрушечный пример, чтобы убедиться, что меня правильно поняли. Представьте, что я решил использовать нейронную сеть как модель, которая обучается инкрементально. Представьте, как игрушечный пример, что я тренирую ее на следующих входах → выходах:

0 → 0

2 → 2

4 → 4

Мы можем даже визуализировать это как 2D график (y = x):

Мы натренировали ее, таким образом, что она имеет 100% точность, отлично. Теперь мы внедряем ее, и она начинает видеть больше наблюдений и должна учиться от них инкрементально.

В этом примере притворимся, что когда она видит новый ввод, она спросит меня, был ли правильным вывод модели. Если он правильный, я хочу, чтобы она запомнила это конкретное наблюдение и никогда его не меняла, оно зафиксировано. Это будет означать, что если он не правильный, все фиксированные точки в модели не движутся.

Например, давайте представим, что она видит новый ввод: 1 и приходит к правильному выводу модели: 1. Ее память визуализирована выглядит так:
(заметьте, есть точка в x=1, y=1)

Это не то, что я хочу. Я хочу интегрировать новую информацию в модель, не портя проверенные наблюдения. Некоторые из вас могут сказать: “чувак, это просто таблица поиска.” Но нет, не так, потому что я все еще хочу, чтобы новые наблюдения влияли на необученные или непроверенные наблюдения (как 2.5, например) вот так:
(заметьте, что x=0 все еще y=0, и x=2 все еще y=2, и x=4 все еще y=4, и x=1 все еще y=1, но все остальное изменилось?)

Хорошо, так что, надеюсь, я эффективно донес свои требования, мой вопрос: какой алгоритм использовать для удовлетворения этих требований к модели?

Входные и выходные данные модели будут сложнее, чем мелкие целые числа, но я мог бы привести все входы к числовому виду до того, как они дойдут до модели. Мне интересно, не может ли граница между отображением данных (которая есть модель) быть напрямую выведена в N-мерном пространстве точно так же, как она выводится на 2D сетке в приведенном выше игрушечном примере. Есть ли название для такого подхода?

Быть может, использование чего-то такого гибкого и сложного, как нейронная сеть для выведения этой границы, на самом деле не нужно, не знаю, хотел бы услышать ваше мнение.

Конечно, когда вы начинаете говорить об алгоритмах, у них есть свои требования к структурам данных, поэтому я не столько спрашиваю об алгоритмах, сколько просто спрашиваю, как это сделать в общем. Например, лучшие практики или шаблоны проектирования или что-то в этом роде.

Я действительно ценю ваши отзывы, экспертизу и опыт по этой проблеме. Спасибо!

Один из возможных подходов к обучению на дополнительных данных, при этом сохраняющее производительность на предыдущих данных, заключается в проведении модульных тестов на производительность модели. Если обновленные веса модели не проходят модульные тесты, то обновленные веса модели не принимаются.

Если наблюдается снижение производительности на предыдущих данных, эти данные могут быть снова поданы в модель, так что обновленные веса модели будут склонны подстраиваться к важным предыдущим данным тоже.