Машинное обучение на табличных данных: выгрузки из учёта как сырьё

Почти всё, что знает о себе компания, хранится в таблицах: документы продаж в 1С, сделки в CRM, остатки на складе, платежи в банке. Именно на таких данных машинное обучение чаще всего приносит пользу бизнесу. Для них не нужны огромные нейросети: градиентный бустинг и другие ансамбли деревьев обычно справляются лучше и требуют меньше ресурсов.

От выгрузки к обучающей таблице

Модели нужна одна таблица, где строка — объект прогноза, а столбцы — признаки и ответ. Если задача — предсказать отток, строка — клиент на определённую дату, признаки — его поведение до этой даты, ответ — купил ли он что-то в следующие месяцы. Выгрузки из учёта обычно устроены иначе: строка — документ или позиция документа. Их нужно агрегировать.

Сразу определите момент прогноза и горизонт. Например: каждый понедельник для каждого активного клиента оценивается вероятность, что он не сделает заказ в ближайшие два месяца. Тогда обучающая таблица собирается из множества таких «понедельников» в прошлом, и модель учится на ситуациях, похожих на реальную работу.

Признаки

Хорошие признаки описывают поведение языком, понятным модели:

• Сколько дней прошло с последней покупки
• Сумма и число покупок за последний месяц, квартал, год
• Динамика: растут покупки или падают
• Доля покупок по акции
• Средняя задержка оплаты
• Число обращений в поддержку

Знание бизнеса здесь важнее знания алгоритмов. Менеджер подскажет, какие признаки говорят о намерении клиента уйти, лучше любого автоматического перебора.

Утечка данных

Самая коварная ошибка — использовать в признаках информацию, которой не будет в момент прогноза. Например, признак «статус клиента», который меняется на «неактивный» уже после ухода. Модель на исторических данных показывает великолепную точность, а в реальной работе бесполезна. Правило: каждый признак должен считаться только по данным до момента прогноза.

Пропуски и ошибки

В учётных данных всегда есть пустые поля, дубли контрагентов, отрицательные остатки, тестовые документы. Их нужно найти и решить, что с ними делать. Иногда сам факт пропуска информативен: незаполненный телефон может говорить о разовом клиенте.

Выбор модели

Начинайте с простой модели и простого правила как точки отсчёта. Затем пробуйте ансамбли деревьев. Нейросети на табличных данных редко дают заметный выигрыш, а сложность добавляют.

Ансамбли деревьев хорошо справляются с разнородными признаками, пропусками и нелинейными зависимостями, их обучение занимает минуты на обычном компьютере. Для объяснения прогнозов существуют методы оценки вклада признаков: менеджер видит, что клиент попал в зону риска из-за снижения частоты заказов и роста задержек оплаты.

Проверка на будущем периоде

Случайное разбиение таблицы на обучение и проверку для бизнес-задач обманчиво. Правильно обучать модель на прошлом периоде и проверять на следующем, как это будет в реальной работе. Так видно, как модель переносит изменения сезона и рынка.

От модели к процессу

Прогноз сам по себе ничего не меняет. Решите, куда он попадёт: список клиентов для звонка в CRM, рекомендованный заказ в складской системе, отметка риска в карточке сделки. Определите, как часто пересчитывать прогноз и кто отвечает за результат.

Ошибки

• Выгружать данные вручную каждый раз вместо настроенного обмена
• Обучать на коротком периоде без полного сезона
• Не учитывать изменения в учёте, например смену справочника товаров
• Не сравнивать модель с тем, как решение принималось раньше
• Забыть про обновление: через год структура продаж изменится, и модель без переобучения начнёт ошибаться