boosting

Вопрос или проблема Алгоритм AdaBoost: Моя проблема заключается в том, как обучается классификатор $G_m(x)$. Что значит, что классификатор обучается с использованием весов $w_i$? Означает ли это подгонку классификатора через $\{w_i,y_i\}_{i=1}^{N}$?

Вопрос или проблема Я пытаюсь решить следующую задачу, но застрял. Итак, для адебуст $err_t = \frac{\sum_{i=1}^{N}w_i \Pi (h_t(x^{(i)}) \neq t^{(i)})}{\sum_{i=1}^{N}w_i}$ и $\alpha_t = \frac{1}{2}ln(\frac{1-err_t}{err_t})$ Весы для следующей итерации равны $w_i’

Вопрос или проблема Я создал модель XGBRegressor с определенными закодированными даными типа ‘object’ в данных. Теперь, если я хочу запустить модель с новым набором данных, который только что закодирован, она дает неправильные предсказания.

Вопрос или проблема В данный момент мы пытаемся разобраться, как LGBM создает свои деревья и как после этого делаются предсказания. На мой нынешний взгляд, это работает следующим образом: Последовательно создаются несколько “

Вопрос или проблема У меня есть небольшой набор данных (около 100 образцов) с примерно 20 признаками, которые в основном бинарные, и несколько из них числовые (около 5). Я хотел использовать методы для увеличения обучающего набора и посмотреть, смогу

Вопрос или проблема У меня есть несколько вопросов, которые я не совсем понимаю относительно алгоритма градиентного бустинга с решающими деревьями: Имеет ли значение начальное значение как $\hat{y}$ или вы можете выбрать любое, например, между 0 и 1?