ИИ в принятии решений: где модель помогает руководителю

Руководитель принимает решения в условиях неполной информации: сколько закупить, кому дать отсрочку, какой филиал открыть, где сократить расходы. Модели машинного обучения не знают будущего, но умеют находить закономерности в прошлых данных быстрее и последовательнее человека. Вопрос не в том, заменит ли ИИ руководителя, а в том, на каком уровне подключать модель к конкретному решению.

Четыре уровня участия

1. Описание: модель собирает и показывает, что произошло — отчёты, отклонения, аномалии
2. Прогноз: модель оценивает, что вероятно произойдёт — спрос, отток, просрочка оплаты
3. Рекомендация: модель предлагает действие — заказать столько-то, предложить клиенту такую-то скидку
4. Автоматическое решение: модель действует сама в заданных рамках — одобряет типовые заявки, меняет цену в диапазоне

Чем выше уровень, тем выше требования к качеству данных, проверке и контролю.

Где уместна автоматизация решения

• Решение массовое и однотипное: сотни заявок в день
• Цена одной ошибки невысока и её можно исправить
• Есть понятный критерий правильности
• Модель проверена на исторических данных

Пример: автоматическое одобрение небольших возвратов, распределение заявок по менеджерам, пополнение запасов ходовых товаров.

Где решение остаётся человеку

Стратегические решения: открытие направления, крупные инвестиции, найм ключевых людей. Решения, затрагивающие права людей: увольнение, отказ в обслуживании. Ситуации, которых не было в истории данных: новый рынок, кризис, смена законодательства. Здесь модель может дать расчёт и сценарии, но выбор и ответственность — за руководителем.

Сценарный анализ

Полезный формат — «что будет, если». Модель показывает, как изменятся продажи при повышении цены, как изменится загрузка склада при новом поставщике, сколько денег понадобится при росте отсрочки клиентам. Руководитель сравнивает сценарии, а не одно число.

Сценарии полезно сопровождать диапазоном: не «продажи будут такими-то», а «скорее всего в таком интервале, при пессимистичном варианте — таком». Это честнее отражает неопределённость и помогает заранее подготовить план на случай неблагоприятного развития. Если модель всегда выдаёт одно точное число без диапазона, уточните у аналитиков, насколько ему можно доверять.

Как проверять модель

• Сравнивать прогнозы с фактом регулярно, а не только при запуске
• Проверять, на каких группах модель ошибается сильнее: новые клиенты, отдельные регионы
• Требовать объяснения: какие факторы повлияли на рекомендацию
• Сравнивать с простым правилом, например «как в прошлом году»

Языковые модели в решениях

Чат-ассистенты удобны для подготовки: собрать аргументы, структурировать варианты, найти слабые места плана. Но они не знают ваших данных, если вы их не дали, и могут уверенно ошибаться. Цифры и факты, на которых строится решение, должны браться из учётных систем, а не из ответа модели.

Ответственность

Заранее определите, кто отвечает за решение, принятое по рекомендации модели, и кто отвечает за саму модель. Записывайте, когда руководитель пошёл против рекомендации и чем это закончилось: это ценные данные для улучшения модели и для честной оценки её пользы.

Ошибки внедрения

Строить сложную модель там, где не налажена простая отчётность. Принимать прогноз за факт. Выключать здравый смысл, потому что «так посчитала система». Не обновлять модель, когда изменился рынок.

Ещё одна ловушка — оценивать модель по запоминающимся случаям. Одна громкая ошибка прогноза запоминается лучше, чем сотни верных рекомендаций, и руководство отказывается от инструмента. Решение одно: заранее договориться о метриках и смотреть на них за длинный период, сравнивая с тем, как решения принимались без модели.