Вы находитесь здесь:
Алгоритмы и функции потерь
Прогнозируемые модели анализируют архивные данные для обнаружения схем и взаимосвязей, прогнозирующих будущие результаты. Конструктор моделей предоставляет алгоритмы для двоичных, мультиклассовых и регрессионных моделей с настраиваемыми параметрами обучения. При обучении прогнозируемой модели с числовым результатом функции потерь определяют, насколько прогнозируемые значения далеки от фактических. Во время обучения модель минимизирует эти потери для повышения общей точности прогноза. Выбранная функция потерь определяет типы ошибок прогноза, которым модель назначает приоритеты.Эти параметры позволяют создавать прогнозы, которые определяют бизнес-решения и отображают важные данные клиентов.
Поддерживаемые алгоритмы
| Алгоритм | Описание |
|---|---|
| AdaBoost | AdaBoost - это алгоритм ансамбля, который обучает модели в последовательности и фокусируется на ранее неправильно классифицированных данных для улучшения прогнозов. |
| CatBoost | CatBoost - это алгоритм градиентного повышения, который эффективно обрабатывает категорийные переменные. Он предоставляет точные прогнозы с минимальной предварительной обработкой данных. |
| Дерево решений | Дерево решений - это контролируемый алгоритм, создающий дерево правил решений. Он упрощает интерпретацию и визуализацию прогнозов. |
| GLM | Значение по умолчанию. Обобщенная линейная модель (GLM) - это алгоритм на основе уравнения, который обычно выполняется быстро. Лучше всего работает, если взаимосвязь между переменными и результатом относительно проста. Только GLM может создавать объяснения на основе взаимодействий между переменными, например, совокупное влияние региона и месяца. |
| GBM | Машина градиентного повышения (GBM) - это алгоритм на основе дерева, в котором деревья решений создаются последовательно для лучшего соответствия данным. По сравнению с GLM, он лучше обрабатывает сложные данные, например, разные взаимосвязи между переменными и разнообразными распределениями данных. |
| LightGBM | Light Gradient Boosting Machine (LightGBM) - это быстрый масштабируемый алгоритм градиентного повышения, который создает деревья решений для предоставления высокоточных прогнозов, особенно в больших структурированных наборах данных. |
| MLP | Многослойный перцептрон (MLP) — это нейронная сеть, собирающая сложные нелинейные схемы между входами и выходами и создающая прогнозы. |
| Случайный лес | Случайный лес - это алгоритм дерева решений, который повышает точность и уменьшает переобучение для задач классификации или регрессии. |
| SVM | Поддержка векторной машины (SVM) — это контролируемый алгоритм, который увеличивает отрыв между классами для создания точных прогнозов, даже в высокомерных пространствах. |
| XGBoost | Экстремальное градиентное повышение (XGBoost) - это расширение GBM, оптимизированное для повышения эффективности. Это алгоритм на основе дерева, в котором группы деревьев решений создаются последовательно, чтобы лучше соответствовать данным, избегая переобучения. |
Функции потерь для регрессионных моделей
При обучении прогнозируемой модели с числовым результатом функции потерь определяют, насколько прогнозируемые значения далеки от фактических. Во время обучения модель минимизирует эти потери для повышения общей точности прогноза. Выбранная функция потерь определяет типы ошибок прогноза, которым модель назначает приоритеты.
Функция потерь не определяет совместимость алгоритма самостоятельно. Сочетание выбранного алгоритма, функции потерь, данных и бизнес-цели определяет общую производительность модели. Чтобы выбрать и настроить лучший алгоритм для бизнес-цели, оцените поведение каждой функции потерь.
Модели прогнозируемого искусственного интеллекта в Data 360 поддерживают четыре функции потерь для регрессионных моделей. Функция потерь, которую можно применить к модели, зависит от выбранного алгоритма.
| Функция потерь | Описание |
|---|---|
| Квадратичная ошибка | Используйте квадратичную ошибку, если вы хотите, чтобы большие ошибки оказали большее влияние на модель. Данная функция потерь измеряет разницу между прогнозируемыми и фактическими значениями путем квадрата ошибки. |
| Линейный | Рекомендуем использовать линейные параметры для уменьшения влияния экстремальных ошибок. Эта функция потерь применяет пропорциональное влияние к ошибкам во время обучения, делая модель менее чувствительной к большим ошибкам, чем квадратичная ошибка. |
| Квантиль | Используйте квантиле, когда хотите прогнозировать определенный процентиль результата, а не только среднее значение. Эта функция потерь требует целевого квантиля. Более высокие квантили подчеркивают необходимость избегать заниженных прогнозов, в то время как более низкие - избегать завышенных прогнозов. Она определяет, как модель наказывает за недопрогнозы по сравнению с завышенными прогнозами, чтобы научиться прогнозировать определенный процентиль, или квантиль, результата. |
| Гамма | Рекомендуем использовать гамму, если целевое поле содержит много маленьких значений и только несколько очень больших значений. Целевое поле должно содержать положительные значения и не может содержать нулевых или отрицательных значений. Эта функция потерь прогнозирует положительные непрерывные результаты, которые сильно искажены вправо. |
Примеры функций потери регрессии
Эти примеры показывают, как можно использовать разные функции потери регрессии с прогнозируемыми алгоритмами.
| Алгоритм | Функция потерь | Способы использования |
|---|---|---|
| CatBoost, LightGBM, XGBoost, GLM, случайный лес, AdaBoost, дерево решений и MLP | Квадратичная ошибка | Прогноз значения срока действия клиента. Прогноз со скидкой $10 000 больше влияет на обучение модели, чем прогноз со скидкой $1000, что стимулирует модель минимизировать большие ошибки. |
| CatBoost, LightGBM, XGBoost, AdaBoost и SVM | Линейный | Прогноз времени доставки. Большинство доставок близки к ожидаемому времени, но несколько необычных задержек могут привести к экстремальным ошибкам. Линейная потеря уменьшает влияние этих экстремальных ошибок по сравнению с квадратичной ошибкой. |
| CatBoost, LightGBM и XGBoost | Квантиль | Прогноз 90-го процентиля расходов клиентов. Вместо оценки средних расходов модель прогнозирует значение, при котором ожидается падение примерно 90% расходов клиентов. |
| CatBoost, LightGBM и XGBoost | Гамма | Прогнозируйте стоимость страхового требования. Большинство заявок-претензий являются относительно небольшими, и лишь несколько - дорогостоящими. Гамма-потеря создана для положительных, искаженных результатов, например, стоимости претензии. |
