Сдерживающие значения или сглаживание результатов при подгонке модели

Я работаю над обучением сети для предсказания направления прихода, и у меня возникла проблема: независимо от того, какая у меня сеть (ResNet 18 – 101, CRNN, CNN и т. д.), мои результаты склоняются к одному небольшому диапазону значений, как видно на изображении ниже

Это, очевидно, приводит к следующим ошибкам:

Я пытался просто “подождать”, пока моя сеть наконец не обучится, но моя валидационная потеря сразу же начинает увеличиваться. Пример можно увидеть ниже.

Странно, что даже моя потеря обучения не стремится к 0. Я думал, что если бы моя сеть переобучалась, она просто идеально выучила бы мой набор данных, но этого не происходит, независимо от того, насколько сложной я делаю свою модель. Единственное, что приходит мне в голову, это то, что моё представление признаков совершенно бессмысленно или у меня есть опечатка где-то в функции обучения, и происходит что-то странное.

Я пытался поиграться с функцией потерь, пробовал разные функции активации на выходе сети, такие как Tanh, сигмоид, ReLU и вообще без функции активации. В данный момент я максимально упростил свои обучающие данные и работаю с 8-канальным звуковым сигналом Chirp длительностью 1 секунда, который можно найти (по крайней мере временно) здесь: https://file.re/2021/06/20/chirp/

Как упоминалось выше, я пробовал стандартные ResNet всех размеров и различные представления признаков, последнее из которых — это комплексное STFT всех 8 каналов, где величины сложены вертикально, а информация об угле добавлена к оси X, как видно ниже:

Если у кого-то есть идеи, я с радостью их попробую. В данный момент я использую CNN с вертикальными свертками и без операций подвыборки в попытке сохранить временную информацию.

Мой основной метод обучения можно увидеть ниже:

def train(self):
        steps, losses, metrics = TrainingUtilities.get_training_variables(self.parameters)
        patience_counter = 0
        best_epoch_data = None
        best_epoch_validation_loss = 999
        best_epoch = 0
        exit_training = False
        try:
            for epoch in range(steps, self.epoch_count):
                epoch_metrics = TrainingUtilities.initialize_metrics(self.mode)
                if exit_training:
                    break
                for idx, phase in enumerate(['train', 'val']):
                    if phase == 'train':
                        self.model.train()
                    else:
                        self.model.eval()
                    for _, data in tqdm(enumerate(self.data_loaders[idx])):

                        self.optimizer.zero_grad()
                        inputs, labels = data

                        outputs = self.model(inputs.to(self.device))
                        # labels = azi_class.squeeze_().to(self.device)
                        loss = self.criterion(outputs.squeeze(), labels.to(self.device))

                        epoch_metrics = TrainingUtilities.get_epoch_metrics(
                            outputs, labels, loss, epoch_metrics, phase, self.mode)

                        if phase == 'train':
                            loss.backward()
                            self.optimizer.step()

                    TrainingUtilities.report_metrics(self.writer, epoch_metrics, epoch, phase, self.parameters, self.mode)
                    if phase == "val":
                        TrainingUtilities.step_scheduler(
                            self.scheduler, np.mean(epoch_metrics[0][phase]), self.parameters)
                  
                losses.append(epoch_metrics[0])
                metrics.append(epoch_metrics)
                if epoch % self.epoch_save_count == 0:
                    TrainingUtilities.save_checkpoint(self.model, losses, metrics, self.training_dir, epoch, self.mode, self.model_name, self.size)

                steps += 1

        except (KeyboardInterrupt, RuntimeError) as error:
            print(f"Ошибка: {error}")
            TrainingUtilities.save_checkpoint(self.model, losses, metrics, self.training_dir, steps, self.mode, self.model_name, self.size)

Возможно, я просто что-то упустил, но основная идея, как мне кажется, довольно проста. Я абстрагировал много вещей, так как тестировал множество различных моделей с разными наборами данных и хотел легко переключаться между классификацией и регрессией.

Я не могу получить доступ к файлу. Если вы не можете его поделиться, не могли бы вы поделиться небольшим образцом?

Несколько идей:

1- Вы пробовали нормализовать свои данные? Некоторые данные с необычными значениями нужно нормализовать, чтобы их можно было правильно обучить.

2- Также может быть проблема в обучении, возможно, переобучение. Вы применяли дропаут для увеличения обобщающей способности.

3- Если ошибка одинаковая для любой используемой вами модели, возможно, что-то не так в вашем процессе обучения: возможно, начальная трансформация данных, которую вы не применяете к данным для предсказания.