Значения Shap и Отношения шансов

Содержание

Вопрос или проблема
Ответ или решение
Теория
Пример
Применение
Для категориальных переменных
Для непрерывных переменных
Рекомендации

Вопрос или проблема

Надеюсь, у всех все хорошо. Я разработал и подтвердил логистическую регрессионную модель прогнозирования гипертонии и сгенерировал с помощью пакета имл для R диаграмму Шепли для данного наблюдения, показывающую вклад каждого предиктора модели в предсказанную вероятность. Теперь я хочу рассчитать скорректированные коэффициенты шансов (ОР) и 95% доверительные интервалы (ДИ) для каждого предиктора в моей модели на основе значений Шепли для всего моего набора данных.

Я создал функцию в R, чтобы помочь мне в этом, но мне интересно, правильно ли это. Насколько я помню, значения Шепли соответствуют логарифмам шансов. Поэтому для категориальных предикторов я возводил в экспоненту разницу между средним значением Шепли для группы вне опорной категории и средним значением Шепли для опорной категории, чтобы получить ОР. Однако мне интересно, как быть с непрерывными предикторами, для которых нет опорных значений, в то время как у подавляющего большинства в наборе данных есть уникальное значение для каждого предиктора. Пока что я просто возводил в экспоненту среднее значение Шепли для всего предиктора, но меня это беспокоит. Моя функция приведена ниже.

Буду признателен за отзывы!

Спасибо

# Функция для расчета скорректированных коэффициентов шансов Шепли и доверительных интервалов
calculate_shap_or_ci <- function(shap_values_df, predictor) {
  # Фильтрация значений Шепли для предиктора
  shap_filtered <- shap_values_df %>% filter(feature == predictor)
  
  if (nrow(shap_filtered) == 0) {
    return(list(S_OR = NaN, CI = c(NaN, NaN)))
  }
  
  unique_values <- sort(unique(shap_filtered$feature.value))
  
  if (length(unique_values) > 1 && length(unique_values) <= 4) {
    # Работа с категориальными переменными
    ref_category <- min(unique_values)  # Установка наименьшей категории как опорной
    ref_shap <- shap_filtered %>% filter(feature.value == ref_category)
    
    ref_mean <- mean(ref_shap$phi)
ref_se <- sqrt(mean(ref_shap$phi.var) / nrow(ref_shap))
    
    results <- list()
    
    for (cat in unique_values[unique_values != ref_category]) {
      cat_shap <- shap_filtered %>% filter(feature.value == cat)
      
      cat_mean <- mean(cat_shap$phi)
  cat_se <- sqrt(mean(cat_shap$phi.var) / nrow(cat_shap))
      
      # Вычисление среднеарифметической разницы (неопорная - опорная)
      mean_diff <- cat_mean - ref_mean
      
      # Вычисление стандартной ошибки среднеарифметической разницы
      se_diff <- sqrt(ref_se^2 + cat_se^2)
      
      # Вычисление S-OR и доверительного интервала
      S_OR <- exp(mean_diff)
      lower_bound_or <- exp(mean_diff - 1.96 * se_diff)
      upper_bound_or <- exp(mean_diff + 1.96 * se_diff)
      
      results[[as.character(cat)]] <- list(S_OR = S_OR, CI = c(lower_bound_or, upper_bound_or))
    }
    
    return(results)
    
  } else {
    # Работа с непрерывными переменными
    mean_shap <- mean(shap_filtered$phi)
se_shap <- sqrt(mean(shap_filtered$phi.var) / nrow(shap_filtered))
    
    # Вычисление S-OR
    S_OR <- exp(mean_shap)
    
    # Вычисление доверительного интервала
    lower_bound_or <- exp(mean_shap - 1.96 * se_shap)
    upper_bound_or <- exp(mean_shap + 1.96 * se_shap)
    
    # Явное создание именованного списка
    result <- list()
    result[[predictor]] <- list(S_OR = S_OR, CI = c(lower_bound_or, upper_bound_or))
    
    return(result)

  }
}

Ответ или решение

SHAP (Shapley Additive Explanations) и отношения шансов (Odds Ratios, OR) – это два важных инструмента, используемых для интерпретации моделей машинного обучения, в особенности в задачах прогностического анализа, таких как логистическая регрессия. Первый способствует объяснению вклада каждого признака модели к прогнозируемому исходу, в то время как второй предоставляет возможность определения интенсивности влияния этих признаков на вероятность события. В вашем случае, вы стремитесь к объединению этих двух подходов, чтобы привести разъяснённые отношения шансов, улучшая интерпретацию модели.

Теория

Начнем с понимания базовых концепций, на которых зиждется вопрос. SHAP значения представляют собой способ интерпретации прогнозов моделей за счет разбора вклада отдельного признака в итоговое предсказание. SHAP основывается на концепции кооперативных игр, заимствованной из теории игр, где каждый признак модели рассматривается как "игрок", вносящий свой вклад в итоговый "результат игры" — прогноз модели. Эти значения обладают свойствами аддитивности и справедливости, что делает их ценным инструментом для интерпретации.

Отношение шансов в контексте логистической регрессии — это показатель, отражающий изменение вероятности наступления события при изменении предиктора на одну единицу. Важным аспектом при расчете OR является разница в логарифме шансов между рассмотренной категорией и категорией сравнения (reference group).

Пример

В вашем примере для категориальных предикторов вы правильно рассчитываете отношение шансов, экспоненцируя разницу между средними SHAP значениями для каждой группы. Это отражает логику логистической регрессии, где коэффициенты являются изменением в логарифме шансов. Однако, для непрерывных предикторов, ситуация усложняется ввиду отсутствия очевидной "контрольной категории", на которую могли бы ссылаться.

Применение

Теперь, когда теория и примеры разобраны, давайте разберем ваш код применительно к вышеописанному.

Для категориальных переменных

Вы корректно взяли минимальное значение как контрольную категорию и применили логическую последовательность для расчета OR и доверительных интервалов. Это логично и соответствует общепринятым статистическим методам для категориальных данных в логистической регрессии.

Для непрерывных переменных

Функция использует среднее SHAP значение, что может не совсем правильно отражать логарифм шансов, поскольку непрерывные переменные не имеют контрольной категории. Вместо этого, полезно было бы рассмотреть использование коэффициента переменной в логистической регрессии, так как он повлияет на интерпретацию. Возможно, в вашем случае стоит пересмотреть метод и рассмотреть сравнение SHAP значений для различных квантилей переменной, чтобы получить более чёткое представление о влиянии переменной на прогнозы.