pretraining - ответы на вопросы

Data Science

Существует ли обеспокоенность по поводу того, что предобученная модель может переобучиться на задаче дообучения, если имеются пересекающиеся данные предобучения и обучения?

Вопрос или проблема Допустим, моя языковая модель предварительно обучена на общем текстовом корпусе, и я хочу использовать её для какой-то конкретной задачи, для которой наборы данных также включены в общий корпус. Есть ли какие-либо опасения по поводу

Data Science

Семантическая сегментация с использованием grayscale-изображений

Вопрос или проблема Я пытаюсь воспроизвести исследование с использованием грейскейл-изображений вместо цветных изображений. Я обнаружил, что существуют предварительно обученные сети, такие как VGG16, с ImageNet. Но этот набор данных содержит цветные изображения

Data Science

Предобучение модели RoBERTa на новых данных с использованием библиотеки PyTorch

Вопрос или проблема Я предварительно обучил модель RoBERTa на новых данных, используя библиотеку ‘simpletransformers‘: from simpletransformers.classification import ClassificationModel OUTPUT_DIR = 'roberta_output/' model = ClassificationModel('roberta'

Data Science

Повторное использование модели, обученной на 19 классах, для всего лишь одного из этих классов

Вопрос или проблема У меня есть предобученная нейросеть для семантической сегментации, которая была обучена на датасете Cityscapes и его 19 классах (Человек, автомобиль, дорожный знак и т.д.). Один из этих классов — “Человек”