LTSM плохо предсказывает колонку закрытия акций Apple.

Я использую LSTM (долгая краткосрочная память) для прогнозирования цен закрытия акций Apple, используя данные о трех предыдущих днях. Моя проблема заключается в том, что модель недооценивает цены закрытия. Фотография конечного результата представлена в конце этого текста.

Прежде всего, у меня есть набор данных акций Apple с сильным левосторонним смещением, как видно на фотографии ниже. Я использовал модель LSTM для прогнозирования цен закрытия, используя данные о трех предыдущих днях и размер батча 10.

rec_obj <- recipe(Close ~ .,aapl) %>%
    step_sqrt(Close) %>%
    step_center(Close) %>%
    step_scale(Close) %>%
    prep()

aapl_normalized <- bake(rec_obj, aapl) #10372 наблюдений. 

# сохраняем центры для денормализации позже
center_history <- rec_obj$steps[[2]]$means["Close"]
center_history
scale_history  <- rec_obj$steps[[3]]$sds["Close"]
scale_history
c("center" = center_history, "scale" = scale_history)

Обучающие, валидационные и тестовые наборы данных

aapl_trn <- aapl_normalized[1:8500,] 
aapl_val <- aapl_normalized[8501:9401,] #900
aapl_test <- aapl_normalized[9402:10372 ,] #970

Изменение формы данных

n_inputs <- 3 #число входов в RNN, например, 1-е использование первых 10 дней для прогнозирования 11-го
n_predictions <- 1
batch_size <- 10 #число батчей, которые вы передаете. чем больше, тем быстрее модель -- параметр

Функции

build_windowed_matrix <- function(data, timesteps) { #преобразует данные в окна 4+1) если у вас 14K строк, это создаст матрицу 14K x 5
  t(sapply(1:(length(data) - timesteps + 1), function(x) 
    data[x:(x + timesteps - 1)]))
}

reshape_3D <- function(df){ #для получения размера 14kx5x1, так как это требуется keras. Если бы это было многомерное (n), это должно быть 14kx5xn!!!
  dim(df) <- c(dim(df)[1], dim(df)[2], 1)
  df
}

get_x <- function(mtx, n_inputs, batch_size){#для каждой строки получает x (всего 4) 
  mtx <- mtx[, 1:n_inputs]
  mtx <- mtx[1:(nrow(mtx) %/% batch_size * batch_size), ]
  reshape_3D(mtx)
}

get_y <- function(mtx, n_inputs, n_predictions, batch_size) {#для каждой строки получает y (5-й элемент) + помещает их в 3D
  mtx <- mtx[, (n_inputs+1):(n_inputs+n_predictions), drop=FALSE]
  mtx <- mtx[1:(nrow(mtx) %/% batch_size * batch_size), , drop=FALSE]
  if(n_predictions==1){
    dim(mtx) <- c(length(mtx)[1], 1)
  }
  reshape_3D(mtx)
}

Извлечение значений ‘Close’

Извлекаем значения закрытия и игнорируем даты

trn <- aapl_trn %>% select(Close) %>% pull() #в векторе
val <- aapl_val %>% select(Close) %>% pull()
test <- aapl_test %>% select(Close) %>% pull()

Создание матриц

на самом деле, используя функции, которые я определил выше

trn_mtx <- build_windowed_matrix(trn, n_inputs + n_predictions)
val_mtx <- build_windowed_matrix(val, n_inputs + n_predictions)
test_mtx <- build_windowed_matrix(test, n_inputs + n_predictions)

X_train <- get_x(trn_mtx, n_inputs, batch_size) #X_train_close
Y_train <- get_y(trn_mtx, n_inputs, n_predictions, batch_size)
X_val <- get_x(val_mtx, n_inputs, batch_size)
Y_val <- get_y(val_mtx, n_inputs, n_predictions, batch_size)
X_test <- get_x(test_mtx, n_inputs, batch_size)
Y_test <- get_y(test_mtx, n_inputs, n_predictions, batch_size) #Y_test это фактическое значение закрытия в тестовом наборе. 
head(X_test)
head(Y_test) 

Я использую модель LSTM ниже:

1.) Постройте первую модель (используйте только закрытие)

model <- keras_model_sequential()

model %>%
  layer_lstm(  #lstm с 32 единицами в каждой ячейке
    units = 32,
    batch_input_shape = c(batch_size, n_inputs, 1) #включена 1 признака
  )

 layer_lstm(  #lstm с 32 единицами в каждой ячейке
    units = 16,
    batch_input_shape = c(batch_size, n_inputs, 1)
  )

model %>% 
  layer_dense(units = 1)

model %>%
  compile(
    loss="mean_squared_error",
    optimizer="sgd",
    metrics = list("mean_squared_error")
  ) '''

```{r}
callbacks <- list(#критерий остановки зависит от того, учится ли сеть больше...остановить модель от обучения после 5 эпох, если нет обучения
  callback_early_stopping(patience = 5)
)

history <- model %>% fit(
  x = X_train,
  y = Y_train,
  validation_data = list(X_val, Y_val),
  batch_size = batch_size,
  epochs = 100,
  callbacks = callbacks
)

Прогнозы, используя одну характеристику

pred_test <- model %>%
  predict(X_test, batch_size = batch_size) 

# денормализация до оригинального масштаба
pred_test <- (pred_test * scale_history + center_history) ^2 #денормализация
mse_test <- (pred_test - Y_test[,,1]) ^2  #Y_test это фактическое значение закрытия в тестовом наборе. 

График прогнозов против фактических данных

ggplot(aapl[(9402 + n_inputs):(9401 + n_inputs + dim(pred_test)[1]),], aes(x = Date, y = Close, group = 1)) + geom_line() +
  scale_x_discrete(breaks = levels(aapl$Date)[floor(seq(1, nlevels(aapl$Date),length.out = 5))]) +
  geom_line(aes(y = pred_test), color = "blue") +
  labs(x = "Дата", y = "Закрытое значение", title = "Акции Apple")

Как вы видите из графика, моя модель, кажется, действительно недооценивает значения. Как я могу это исправить? Я пробовал настройку гиперпараметров, но это не сработало. Это потому что мои данные были очень сильно левосторонне смещенными? Как мне подойти к этому?

С наилучшими пожеланиями

Я бы предложил сначала сгладить данные с помощью скользящей средней или какой-то другой техники. Кроме того, у вас есть 16 скрытых узлов в слое. Я бы предложил увеличить оба слоя до 64, при этом последний слой по желанию в конструкции модели.

У меня есть несколько вопросов и несколько предложений.

Сначала вопросы :

• Вы установили нелинейный слой между слоями?
• Каковы ваши параметры обучения? такие как функция потерь

Предложение:

• Я думаю, что вам нужно нормализовать данные цены закрытия для каждой партии данных.

Если вы ответите на мои вопросы, я смогу получить лучшее руководство.