Как выбрать модель под задачу: быстрая, средняя, тяжёлая

Моделей стало много, и выбор «какая лучше» — неправильный вопрос. Правильный звучит так: какая дешевле при достаточном качестве именно на этой задаче.

Разберём три уровня и простое правило, которое не требует таблиц с бенчмарками.

01. Три уровня

• Быстрая. Дешёвая, отвечает мгновенно, отлично держит шаблон и рутину.

• Средняя. Компромисс: сложнее задачи, дольше ответ, дороже токен.

• Тяжёлая. Максимум на сложном: длинные документы, много условий, аккуратные формулировки.

02. Что отдавать быстрой

• разбор почты по категориям;

• перенос данных из письма в таблицу;

• напоминания и календарь;

• ответы по базе знаний;

• сборка сводки по шаблону.

03. Что средней

• черновики писем клиентам;

• разбор заявки с уточнениями;

• сравнение двух документов;

• отчёт с выводами, а не только цифрами;

• ответ на нестандартный вопрос по базе.

04. Что тяжёлой

• договоры и длинные регламенты;

• сведение данных из нескольких источников;

• задачи с десятком правил и исключений;

• разбор инцидента: что произошло и почему;

• подготовка претензии или сложного КП.

05. Правило распределения

Задача идёт на самый дешёвый уровень, который справляется без правок. Не «на самый умный» — иначе платите за качество, которое не используете.

• сначала все задачи на быстрой;

• там, где правок больше 30%, поднимаем уровень;

• раз в месяц пересматриваем: модели дешевеют.

06. Как считать стоимость

• считать не цену токена, а стоимость правильного результата;

• учитывать правки человеком: это дороже токенов;

• добавлять время на разбор инцидентов;

• сравнивать варианты на одинаковом наборе примеров.

Быстрая модель с двумя правками часто дороже тяжёлой без правок — просто потому, что минуты человека стоят больше.

07. Тест на своих примерах

• двадцать реальных задач, включая неудобные;

• прогон на двух-трёх моделях;

• оценка: принято как есть или правили;

• итог: стоимость одного правильного результата;

• решение по цифрам, а не по впечатлению.

08. Как это работает на OpenClaw

Модель выбирается под задачу, а не на всю компанию. Правила, доступы и журнал при этом одинаковые — переключение не ломает настроенное.

• Роутинг. Рутина на быстрой, сложное на тяжёлой.

• Прозрачность. Видно, какая модель сделала задачу и сколько это стоило.

• Гибкость. Новые модели подключаются без переделки задач.

09. С чего начать

• взять одну задачу и двадцать примеров;

• прогнать на быстрой модели;

• посчитать долю правок;

• поднять уровень и сравнить;

• оставить то, что дешевле при том же качестве.