LLM или классическая модель: когда генеративная нейросеть лишняя

Разговор об ИИ в компании сейчас часто начинается с языковых моделей: «давайте подключим GigaChat», «сделаем на нейросети». С текстом языковые модели действительно хороши. Но многие задачи, которые бизнес хочет отдать ИИ, — это таблицы и числа: прогноз спроса, оценка клиента, сопоставление товаров, поиск аномалий. Там языковая модель медленнее, дороже и обычно менее точна, чем подходы, известные задолго до нее. Разберем, где проходит граница, на примерах из наших проектов и когда два подхода стоит совмещать.

Два класса задач, которые часто путают

Языковая модель, или LLM, генерирует текст: читает, извлекает, классифицирует, пишет. Классическое машинное обучение предсказывает число или класс по признакам, то есть по колонкам таблицы: цене, объему, дате, региону. Самый ходовой его инструмент — градиентный бустинг, набор простых деревьев решений, где каждое следующее исправляет ошибки предыдущих.

Проверочный вопрос простой: что на входе. Если свободный текст — письмо, договор, обращение, — нужна языковая модель. Если таблица, где каждая колонка что-то значит, — классическая. Путаница начинается, когда таблицу превращают в текст и отдают языковой модели, потому что так проще начать.

Почему языковая модель плохо считает

Языковая модель генерирует продолжение текста по вероятностям. Числа для нее — тоже фрагменты текста. На простом примере она посчитает верно, а на таблице из тысяч строк выдаст правдоподобное, но неверное число и объяснит его уверенным абзацем.

Когда языковую модель все-таки просят что-то посчитать, хорошие системы делают это через инструмент: модель пишет запрос или код, а считает база данных или программа. Если вычисление все равно делает инструмент, разумнее с него и начать.

Где классическая модель выигрывает

• Прогноз спроса, продаж и нагрузки по истории.
• Оценка клиентов и сделок: вероятность оплаты, оттока, отказа.
• Сопоставление по числовым характеристикам: состав, размеры, допуски.
• Поиск аномалий в операциях и показаниях датчиков.
• Цены и скидки по истории сделок.

Общее у этих задач: на входе числа и категории, на выходе число или класс. Качество можно проверить на истории: обучить модель на одном периоде и сравнить ее предсказания с тем, что случилось в следующем.

Пример: сопоставление продукции в металлургии

Крупный производитель ферросплавов еженедельно сверял свою продукцию с аналогами конкурентов, чтобы держать цены. Одна позиция у каждого поставщика записана по-своему, и сверка вручную занимала несколько дней. Мы построили сопоставление на классическом машинном обучении, на scikit-learn, без языковой модели.

Отчет теперь готовится за 30 минут вместо нескольких дней, цены обновляются ежедневно, маржа по ключевым контрактам выросла на 5–7%. Решение здесь зависит от химического состава, фракции и показателей качества — чисел и допусков, а не формулировок.

Труднее всего давались позиции, которые различаются одним параметром при совпадении остальных. Модель дообучили на признаках из паспортов качества и добавили штрафы за расхождение критичных характеристик. Каждое решение можно разобрать: какая характеристика совпала, какая нет. Спорные сопоставления подтверждает аналитик.

Прогноз приходит интервалом, а не одной цифрой

Честный прогноз — это коридор: от и до, с указанной вероятностью. Чем дальше горизонт, тем коридор шире. Классические модели прогноза дают такой коридор по построению, и его можно проверить на истории: обучить на прошлых годах и посмотреть, как часто факт попадал внутрь.

Языковая модель на просьбу о прогнозе выдаст одно уверенное число с объяснением. Объяснение звучит убедительно, и в этом проблема: по тексту нельзя отличить хороший прогноз от плохого. По коридору и проверке на истории — можно.

Коридор полезнее точной цифры и на практике. Дефицитные позиции закупщик заказывает ближе к верхней границе, а товар с коротким сроком годности — ближе к нижней. Одна уверенная цифра такого выбора не дает.

Для сезонных процессов истории нужно не меньше двух полных лет, иначе модель плохо видит годовой цикл. Это ограничение данных, а не модели, и языковая модель его тоже не обходит.

Цена одного решения

Классическая модель на обычном сервере делает тысячи предсказаний в секунду, и стоимость одного близка к нулю. Каждое обращение к языковой модели — это токены облачного сервиса или время дорогой видеокарты.

На сотне запросов в день разница незаметна. На миллионе она становится главной статьей расходов. К этому добавляется задержка: проверка платежа или оценка заявки должны занимать доли секунды, а большая модель отвечает секундами.

Условный пример. Компания разбирает 20 тыс. обращений в день, и на каждое в модель уходит около 1,5 тыс. токенов вместе с инструкцией. Это 30 млн токенов в день. По тарифам Сбера для юрлиц на осень 2026 года тысяча токенов GigaChat Pro стоит 0,5 ₽ — около 15 тыс. ₽ в день и порядка 450 тыс. ₽ в месяц. Классическая модель на том же потоке работает на обычном сервере, и ее стоимость почти не зависит от числа обращений.

Объяснимость: почему модель так решила

Классическая модель показывает, какие признаки повлияли на конкретное решение и насколько: заявку отклонили из-за просрочек в прошлом и высокой суммы. Для оценки клиентов, цен и скидок это часто обязательное требование: решение приходится объяснять клиенту, руководителю или проверяющему.

Языковая модель тоже может объяснить свой ответ, но объяснение — еще один сгенерированный текст. Оно звучит связно и не обязано отражать то, как ответ был получен на самом деле.

Один вход — один ответ

Классическая модель на одном и том же входе всегда дает один и тот же результат. Языковая модель может ответить на одинаковый вопрос по-разному, а облачный провайдер время от времени обновляет модель, и ответы меняются без вашего участия.

Для черновика письма это не важно. Для решения, которое потом проверяют, — о скидке, лимите, отказе — важно: вы должны уметь воспроизвести, почему было принято именно такое решение. Классическую модель вместе с версией данных можно поднять из архива и через год получить тот же результат.

Данные не уходят за периметр

Классическая модель работает на обычном сервере без видеокарты, в вашем контуре. Таблицы с клиентами, ценами и сделками никуда не отправляются.

С языковой моделью выбор сложнее. Либо облачный сервис, и тогда данные уходят к провайдеру. Либо модель в своем контуре, и тогда нужны серверы с видеокартами и люди, которые их обслуживают. Для задачи, которую решает классическая модель, оба варианта — лишние расходы и лишние согласования со службой безопасности.

Где без языковой модели не обойтись

• Свободный текст: письма, обращения, договоры, отзывы.
• Разнородные документы и сканы, из которых надо извлечь поля.
• Ответы на вопросы по базе документов с цитатой источника.
• Генерация текста: черновики ответов, сводки переписки и звонков.
• Задачи без размеченных примеров: модель с инструкцией дает результат без обучения.

Последний пункт важнее, чем кажется. Классической модели нужна история с правильными ответами. Языковая модель начинает работать за часы, по инструкции и паре примеров, и часто это единственный способ стартовать, пока данных нет.

Где LLM полезна рядом с таблицами

Считать языковая модель не должна, но рассказывать о посчитанном может хорошо. Отчет собирает база или классическая модель, а LLM пишет к нему пояснение: что выросло, что упало, на что обратить внимание. Руководитель получает не только таблицу, но и пару абзацев, которые экономят ему время.

Пояснение проверяют так же строго, как цифры. Если модель пишет «продажи выросли», а в таблице падение, такой отчет хуже, чем отчет без пояснений. Поэтому числа в текст подставляет программа, а модель отвечает только за формулировки.

Классификация текста: старт на LLM, поток на классике

Пример — разбор обращений в поддержку по типам. На старте языковая модель с инструкцией раскладывает обращения с первого дня, без обучения. Операторы исправляют ее ошибки, и через несколько месяцев у вас тысячи размеченных обращений.

На них обучают классическую модель классификации. Она работает быстрее, на потоке стоит почти ничего и ведет себя стабильно: на одно и то же обращение всегда один ответ. Языковая модель остается для новых и редких типов, которые классическая модель распознает неуверенно.

Момент переключения определяют замером, а не на глаз: обе модели прогоняют на одном проверочном наборе и сравнивают качество и стоимость.

Практический прием: с первого дня сохраняйте исправления операторов вместе с исходным текстом обращения. Через несколько месяцев это готовая обучающая выборка для классической модели, и собирать ее отдельно не придется.

Лучшие решения обычно гибридные

Частая схема: языковая модель превращает текст в признаки, а классическая принимает решение. Из обращения клиента LLM извлекает продукт, тип проблемы и срочность. Модель приоритизации учитывает эти признаки вместе с историей клиента и решает, кому и в какой очереди отвечать.

Так устроен и наш проект отчетов по вопросу на русском для средней строительной компании. Языковая модель переводит вопрос менеджера в SQL-запрос, запрос проверяется перед выполнением, доступ ограничен чтением, а цифры считает база. Отчет готов за 5 минут вместо 2–3 дней, нагрузка на ИТ-отдел снизилась на 70%. Ни одного числа модель не придумывает — она только пишет запрос.

И не все нейросети — языковые. В проекте контроля брака на конвейере работает модель компьютерного зрения, обученная на снимках дефектов. Точность распознавания — 92%, возвратов стало меньше на 18%, проверка идет в 5 раз быстрее. Языковая модель в этой задаче была бы просто неуместна.

Пять вопросов для выбора

1. Что на входе: таблица или свободный текст?
2. Что на выходе: число и класс или текст?
3. Есть ли история с правильными ответами — хотя бы несколько тысяч записей?
4. Сколько решений в день и сколько времени есть на каждое?
5. Нужно ли объяснять решение клиенту, руководителю или проверяющему?

Таблица, история, большой поток и требование объяснять — классическая модель. Текст, мало примеров и генерация — языковая. Смешанный вход — гибрид, где каждая модель делает свою часть.

Как сравнить подходы на ваших данных

Спор «LLM или классика» решают замером на прототипе. Мы делаем это в четыре шага.

1. Берем историю и делим ее по времени: обучение на прошлом, проверка на последних месяцах.
2. Фиксируем базовую линию — как решение принимается сейчас: правило, формула, решение человека.
3. Прогоняем на одном и том же проверочном периоде классическую модель и языковую с инструкцией.
4. Сравниваем качество, стоимость одного решения и время ответа.

Если ни одна модель не обыгрывает базовую линию с заметным запасом, честный вывод — оставить правило. Это тоже результат прототипа, и он обходится дешевле, чем внедрение модели, которая ничего не улучшает.

Частые ошибки выбора

• Отдать языковой модели таблицу в виде текста и попросить прогноз.
• Обучать классическую модель на обращениях, когда размеченных примеров нет, вместо того чтобы стартовать на языковой.
• Сравнивать подходы на разных наборах данных и делать выводы по разнице.
• Учить модель на данных, где уже записан ответ из будущего: поле статуса, заполненное после события.
• Выбирать подход по тому, что сейчас обсуждают, а не по входу и выходу задачи.

Каждую из этих ошибок легко заметить на прототипе и дорого исправлять после внедрения.

Честная сложность классического подхода

Классическая модель требует размеченной истории и работы над признаками: что подавать модели, решает инженер вместе со специалистами предметной области. Это недели, а не часы. Если история короткая или процесс только что изменился, учиться не на чем, и временным стартом становятся языковая модель или простые правила.

Классические модели тоже стареют: меняются поставщики, ассортимент, поведение клиентов. Им нужен мониторинг качества и переобучение, как любой модели в эксплуатации. Выбор подхода не отменяет сопровождения, он меняет только его стоимость.

Сроки, стоимость и команда

Прототип — от 600 тыс. ₽ и до двух недель: на вашей истории сравниваем модель с тем, как решение принимается сейчас, — правилом, формулой или вручную. Пилот — 1,5–3,5 млн ₽ и 3–6 недель: встраиваем прогнозы в BI или CRM и замеряем эффект на процессе.

С нашей стороны работают ML-инженер, аналитик данных и бэкенд-разработчик. С вашей нужны владелец процесса и специалист, который знает, что стоит за каждой колонкой в данных.

Коротко

• Текст — языковая модель, таблицы и числа — классическая.
• Языковая модель генерирует правдоподобный текст, а не считает. Числа должна считать база или модель, обученная на истории.
• Классическая модель дешевле на потоке, быстрее и объяснима.
• Классификацию текста удобно начать на LLM, а на объеме перевести на классическую модель.
• Лучшие решения гибридные: языковая модель извлекает признаки, классическая принимает решение.
• В металлургии классическое машинное обучение сократило подготовку отчета с нескольких дней до 30 минут и подняло маржу по ключевым контрактам на 5–7%.