Модели ИИ: как выбрать
Платформа даёт доступ к десяткам моделей — от быстрых и дешёвых до самых умных. Модель выбирается отдельно для каждого бота, ИИ-сотрудника и чата «Моего ИИ», и её можно поменять в любой момент — настройки сохранятся.
Три критерия выбора
У каждой модели в списке три оценки: качество, скорость, стоимость. Правило простое: для типовых диалогов первой линии достаточно средних моделей, для сложных сценариев и аналитики берите модели уровнем выше. Начните со средней — и поднимайте класс, только если видите ошибки в ответах.
Особые типы моделей
- Думающие (рассуждающие) модели — размышляют перед ответом: точнее на сложных задачах, но медленнее и дороже. Глубина настраивается «Уровнем рассуждений» в настройках бота
- Защищённые модели — развёрнуты на серверах в России: диалоги не покидают страну и не сохраняются у внешних провайдеров. Выбирайте их, если в чатах есть персональные данные
- Модели для генераций — картинки, видео, музыка: используются в «Моём ИИ» и выбираются автоматически в режиме AUTO
Как экономить токены
- Включите «Делать бота умнее после нескольких сообщений»: первые типовые ответы — дешёвая модель, дальше — сильная
- Ограничьте «Максимальное количество ответов» в диалоге
- Не завышайте уровень рассуждений без необходимости
Актуальный каталог моделей с ценами — на странице Модели ИИ. Расход токенов по каждой модели виден в разделе подписки — подробнее в Тарифах и токенах.
Смотрите также
Попробуйте BotB2B бесплатно
Регистрация за минуту, стартовые токены — в подарок. Настройте по этой инструкции.