Короткий ответ: для переписки с покупателями на Авито почти всегда достаточно модели среднего класса, а дорогую стоит включать точечно — на разбор фотографий и на диалоги, где дешёвая не справилась. Выбор делается не по рейтингам, а по трём вещам: качество на ваших реальных репликах, скорость первого ответа и предсказуемость расхода.
Вопрос «какую нейросеть выбрать для бота» обычно задают до того, как появился хоть один живой диалог. Это и есть главная ошибка: без набора собственных переписок сравнивать нечего, а любая модель в демо выглядит прекрасно. Ниже — критерии, механика расходов и способ проверить выбор на своих данных.
Что на самом деле требуется от модели
Задача бота в чатах — не сочинять, а точно отвечать в узких рамках. Это меняет требования.
- Следование инструкции. Модель должна держаться правил: не обещать доставку, которой нет, не выдумывать цену, не уходить в разговоры о постороннем. Это важнее «эрудиции».
- Скорость. Ценность ответа за минуту исчезает, если модель думает полминуты на каждую реплику. Про то, почему это решает, — как отвечать быстрее конкурентов.
- Русский язык без акцента. Не только грамотность, но и естественность: покупатель должен читать сообщение как письмо человека.
- Стабильный формат ответа. Если вы просите модель возвращать структуру (например, отметку «пора звать человека»), она должна делать это каждый раз, а не через раз.
- Понимание изображений — только если бот разбирает присланные фото. Для текстовой линии это лишняя статья расходов.
Эрудиция, длинные рассуждения и умение писать код в этой задаче не нужны совсем.
От чего растёт счёт
Оплата у всех провайдеров устроена одинаково: платите за объём текста на входе плюс за объём на выходе. Дальше — арифметика.
С каждым сообщением покупателя вы отправляете не одно предложение, а весь пакет: системный промпт, описание товара, историю диалога и саму реплику. Поэтому счёт растёт не от числа сообщений, а от их произведения на размер пакета.
Что раздувает пакет:
системный промпт — уходит целиком при каждом обращении карточка товара — цена, наличие, условия доставки история диалога — растёт с каждой репликой, если не обрезать фото — заметно дороже текста, считается отдельно повторные попытки — вдвое-втрое при ошибках без ограничителя
Практический вывод: экономия начинается не с выбора модели, а с гигиены промпта. Сократить системную инструкцию вдвое дешевле, чем переезжать на модель классом ниже, и не портит качество.
Как считать расход на диалог
Считайте не за сообщение, а за диалог целиком — это единица, которая приносит деньги.
расход на диалог = (пакет на входе × число реплик) + ответы модели цена месяца = расход на диалог × диалогов в день × 30
Дальше сравните с вашей стоимостью клиента. Если обработка диалога стоит доли процента от маржи — вопрос выбора модели вообще не главный, и экономить на нём вредно. Если сопоставима с маржой — надо либо резать пакет, либо менять класс модели.
Цифры для примера, проверьте актуальные тарифы: разница в цене между соседними классами моделей у одного провайдера обычно кратная, а между старшей и младшей линейкой — на порядок. Именно поэтому схема «дешёвая по умолчанию, дорогая по необходимости» окупается почти всегда.
Схема с двумя моделями
Рабочий приём, который используют почти все, кто дошёл до второго месяца эксплуатации:
- Дешёвая модель как первая линия. Разбирает типовое: наличие, цена, размеры, самовывоз, время работы. Это большая часть обращений.
- Классификатор. Отдельный короткий вызов определяет, попадает ли вопрос в известные рамки. Если нет — эскалация.
- Дорогая модель точечно. Сложный вопрос, нестандартный запрос, разбор присланной фотографии.
- Человек. Всё, что не разобрали первые три шага.
Схема экономит деньги, но добавляет кода и точек отказа — это надо честно закладывать в план работ, о котором речь в разборе автоматизации продаж на Авито.
Если проходить этот путь целиком не хочется, ту же работу закрывает готовый сервис ответов в чатах: выбор модели, ограничители и правила эскалации там уже настроены и обновляются без вашего участия.
Как проверить выбор на своих данных
Не по демо и не по обзорам. По вашей переписке.
Соберите 30–50 реальных диалогов, включая неудобные: торг, «а дешевле?», вопрос про товар, которого нет, сообщения из одного слова. Прогоните одинаковый промпт через два-три кандидата и оцените вручную по трём отметкам: ответ верный, ответ безопасный (ничего не выдумал), ответ уместный по длине.
Полсотни диалогов дают достаточно, чтобы увидеть системную разницу. И почти всегда выясняется, что разрыв между моделями меньше, чем разрыв между хорошим и плохим промптом.
Что ещё влияет на решение
Доступность. Модель, до которой сложно достучаться из вашей инфраструктуры или которая требует нестабильных посредников, плоха при любом качестве.
Запасной вариант. Провайдеры падают. Без автоматического переключения на второго поставщика сбой снаружи выглядит как молчание в чатах — самый дорогой вид поломки.
Стабильность версий. Модели обновляются, и поведение меняется без предупреждения. Промпт, отлаженный в марте, может вести себя иначе в июне. Это ещё одна причина держать набор тестовых диалогов.
Ограничения по данным. Если в переписке фигурируют персональные данные покупателей, посмотрите условия провайдера по их обработке до, а не после запуска.
Когда выбор модели не решает
Промпт не проработан. Пока бот не знает вашего ассортимента и условий, самая дорогая модель будет вежливо ошибаться. Начните с шаблонов ответов.
Мало обращений. При десятке диалогов в неделю разница между моделями в счёте незаметна, а время на сравнение потрачено.
Проблема не в тексте, а в скорости реакции. Если бот отвечает через час, качество формулировки уже неважно.
Нужен разбор фото, а вы сравниваете текстовые модели. Это разные классы задач и разные строки в счёте.
Коротко
Выбирайте модель по следованию инструкциям, скорости и предсказуемости расхода, а не по рейтингам. Считайте деньги на диалог целиком и сравнивайте со своей маржой. Дешёвая модель на первой линии плюс дорогая точечно почти всегда выгоднее одной универсальной. И помните: качество ответов сильнее зависит от промпта и правил эскалации, чем от того, какую нейросеть выбрать для бота.
Если разбираться с провайдерами, лимитами и запасными вариантами некогда, эта часть уже сделана: «Папа БУ» отвечает покупателям за минуту вашими словами и передаёт человеку тех, кто дошёл до сделки. Три дня бесплатно.
Если решение под свой бизнес нужно, а разбираться самому некогда — напишите мне в Telegram: @artem_sergeevic. Я делаю такие сервисы на заказ: обсудим задачу и честно разберём, что в ней действительно нужно, а что можно не делать вовсе.