Прогнозирование ежедневного баланса с использованием LSTM и ARIMA

Вопрос или проблема

def LSTM(train, n: int, number_nodes, learning_rate, epochs, batch_size):
middle_data, target_data = apply_transform(train, n)

# Определяем модель
model = tf.keras.Sequential([
    tf.keras.layers.Input(shape=(n, 1)),  
    tf.keras.layers.LSTM(number_nodes),
    tf.keras.layers.Dense(units=number_nodes, activation="relu"),
    tf.keras.layers.Dense(units=number_nodes, activation="relu"),
    tf.keras.layers.Dense(1)
])

# Компилируем модель
model.compile(
    loss="mse",
    optimizer=tf.keras.optimizers.Adam(learning_rate),
    metrics=["mean_absolute_error"]
)

# Печатаем размеры и сводку модели
print(f"формат middle_data: {middle_data.shape}")
print(f"формат target_data: {target_data.shape}")
print(f"входная форма LSTM: {model.input_shape}")

# Обучаем модель
history = model.fit(
    middle_data, target_data,
    epochs=epochs,
    batch_size=batch_size,
    verbose=0
)

# Предсказываем и извлекаем результаты
full_predictions = model.predict(middle_data).flatten()

return model, history, full_predictions

def Parameter_calculation(data):
  finding = auto_arima(data,trace = True)
  plot_acf(data,lags = lag)
  address = Output_address + "ACF" +".jpg"
  plt.savefig(address)
  plot_pacf(data,lags = lag)
  address = Output_address + "PACF" +".jpg"
  plt.savefig(address)
  ord = finding.order
  return ord

def ARIMA_Model(train,len_test,ord):
  model = ARIMA(train, order = ord)
  model = model.fit()
  predictions = model.predict(start = len(train),end = len(train) + len_test ,type="levels")
  full_predictions = model.predict(start = 0,end = len(train)-1,type="levels")
  return model,predictions,full_predictions

Ответ или решение

Прогнозирование суточного баланса с использованием моделей LSTM и ARIMA

Ваша задача по прогнозированию ежедневного баланса на основании исторических данных транзакций представляет собой интересный и сложный проект, сочетающий в себе методы глубокого обучения и классической статистики. Рассмотрим подходы, которые были использованы, и причины, по которым предсказания могут оказаться неудачными, а также предложим рекомендации по улучшению.

Исходные данные

Вы обладаете данными о транзакциях с 1 января 2022 года по 24 июня 2024 года, которые разделены на обучающую и тестовую выборки. Данные включают даты, суммы дебета, кредита и, соответственно, баланс. Это временной ряд, который можно использовать для анализа и прогнозирования.

Обзор моделей

1. LSTM (Long Short-Term Memory):

   • LSTM является методом глубокого обучения, подходящим для работы с временными рядами благодаря своей способности запоминать долгосрочные зависимости.
   • Вы используете многослойную архитектуру, включающую слои LSTM и Dense.
   • В вашем коде реализована функция подготовки данных, что обеспечивает использование задержек в 10 периодов в качестве входных данных для LSTM.

   def LSTM(train, n: int, number_nodes, learning_rate, epochs, batch_size): 
       middle_data, target_data = apply_transform(train, n) 
       model = tf.keras.Sequential([ 
           tf.keras.layers.Input(shape=(n, 1)),  
           tf.keras.layers.LSTM(number_nodes), 
           tf.keras.layers.Dense(units=number_nodes, activation="relu"), 
           tf.keras.layers.Dense(units=number_nodes, activation="relu"), 
           tf.keras.layers.Dense(1) 
       ]) 
       model.compile(loss="mse", optimizer=tf.keras.optimizers.Adam(learning_rate), metrics=["mean_absolute_error"]) 
       model.fit(middle_data, target_data, epochs=epochs, batch_size=batch_size, verbose=0) 

2. ARIMA (Autoregressive Integrated Moving Average):

   • ARIMA — это классическая статистическая модель, подходящая для анализа временных рядов, основанная на идентификации автокорреляций и использовании сглаживания для корректировки трендов.
   • Вы применяете ARIMA для оценки ошибок предсказаний LSTM и корректировки финальных прогнозов.

   def ARIMA_Model(train, len_test, ord): 
       model = ARIMA(train, order=ord) 
       model = model.fit() 
       predictions = model.predict(start=len(train), end=len(train) + len_test, type="levels") 
       return model, predictions 

Причины низкой точности предсказаний

Несмотря на использование сложных моделей, ваши предсказания могут не совпадать с фактическими значениями по нескольким причинам:

1. Недостаток данных: Возможно, данные недостаточно разнообразны или имеют черты, которые не учитываются при подготовке и обучении моделей. Например, сезонные эффекты могут не учитываться.

2. Выбор параметров: Параметры для LSTM, такие как количество узлов и количество эпох, могут быть подобраны не оптимально. Возможно, стоит провести оптимизацию гиперпараметров.

3. Качество данных: На исходный ряд могут влиять выбросы или ошибки. Аномальные значения в дебетах или кредитах могут сильно исказить результат. Проверьте данные на наличие аномалий, пропусков и несоответствий.

4. Неправильная структура модели: Возможно, архитектура LSTM не подходит для ваших данных. Применение более сложных архитектур, таких как две последовательные LSTM, может улучшить результат.

5. Переобучение: Модель может быть переобучена на обучающих данных, что делает её менее способной к обобщению на тестовые данные. Регуляризация и уменьшение структуры сети могут помочь.

6. Неправильная коррекция ошибок: Использование моделей ARIMA для коррекции выходов LSTM может также оказаться неэффективным, особенно если ошибка не является стационарной.

Рекомендации по улучшению

1. Сбор больше данных: Расширение функциональности набора данных с новыми аспектами, такими как категории транзакций или применение специальных меток.

2. Анализ оставшихся ошибок: Определите закономерности в ошибках предсказания — это может указать на область улучшения.

3. Оптимизация параметров: Используйте методы оптимизации, такие как Grid Search или Random Search, для поиска наилучших гиперпараметров для LSTM.

4. Использование дополнительных методов: Попробуйте другие алгоритмы машинного обучения для сопоставления результатов с LSTM, например, модели общего регрессора или дополненные методы Learn-Transfer Learning.

5. Улучшение обработки данных: Подумайте о методу предобработки данных, чтобы уменьшить воздействие выбросов.

Заключение

Сочетание моделей LSTM и ARIMA требует тщательной настройки и анализа данных. Определение причин низкой производительности предсказаний и применение стратегий по их улучшению может значительно увеличить точность прогнозов. Уделите внимание исследованию и настройке моделей, и вы сможете улучшить своё прогнозирование баланса на основе доступных данных.