Какая ИИ-модель для какой задачи?
Какая ИИ-модель для какой задачи? Берите самую маленькую модель, которая хорошо справляется с задачей. Быстрая модель подходит для коротких и частых дел. Сбалансированная для обычной работы из нескольких шагов. Модель, которая думает глубоко, нужна для трудных задач, а локальная для данных, которые должны остаться внутри компании.
Почему моделей больше одной
ИИ-модель это программа, которая думает за ИИ-приложением. У каждой ИИ-компании их несколько, от маленьких до больших. Большие справляются с более трудными задачами, но отвечают медленнее и стоят дороже при каждом использовании.
Это как выбор транспорта. Грузовик для доставки письма не нанимают, а переезжать на велосипеде не станут. Правильный выбор зависит от груза.
Четыре вида
- Быстрые. Самые маленькие модели. Отвечают почти мгновенно и стоят меньше всего. Хорошо следуют чётким инструкциям и плохо справляются с задачами, где нужно много шагов рассуждения.
- Сбалансированные. Середина ряда и разумный выбор по умолчанию. Они планируют, хорошо пишут и умеют искать информацию, за умеренную цену и с умеренной скоростью.
- Думающие глубоко. Самые большие модели. Прежде чем ответить, они прорабатывают задачу. Самые медленные и самые дорогие.
- Локальные. Модели, которые работают на ваших собственных компьютерах. Ничего не выходит за пределы вашей компании.
Названия моделей меняются каждые несколько месяцев. Эти четыре вида остаются.
Восемь задач и подходящая для каждой модель
| Задача | Модель |
|---|---|
| Разложить входящие запросы по темам | Быстрая |
| Достать из счёта дату, сумму и поставщика | Быстрая |
| Перевести короткое объявление | Быстрая |
| Кратко пересказать длинную переписку с клиентом | Сбалансированная |
| Написать черновик ответа в тоне вашей компании | Сбалансированная |
| Разбить проект на этапы и задачи | Сбалансированная |
| Сравнить два длинных договора пункт за пунктом | Глубоко думающая |
| Кратко пересказать личные дела сотрудников, которые не должны покидать компанию | Локальная |
Как выбрать, в четыре шага
- Соберите десять настоящих примеров. Возьмите их из работы прошлого месяца и включите два-три неудобных.
- Начните с быстрой модели. Прогоните все десять и посчитайте, сколько результатов вы бы приняли.
- Сначала улучшите инструкции. Расплывчатые инструкции дают больше плохих результатов, чем слишком маленькая модель.
- Переходите на ступень выше, только если проблемы остались. Затем снова прогоните те же десять примеров и сравните.
Повторяйте проверку примерно раз в год. Новые модели появляются часто, и задача, которой в прошлом году нужна была сбалансированная модель, сейчас может хорошо работать на быстрой.
Чего большая модель не исправит
Два фактора влияют на результат сильнее, чем размер модели. Первый: инструкции, то есть одна понятная задача и ясное представление о том, как должен выглядеть ответ. Второй: информация, которую получает модель. Ни одна модель не может знать то, что ей не показали. Если она ни разу не видела ваш прайс-лист, даже самая большая может только гадать.
Одна модель на всю компанию?
Соблазнительно выбрать самую сильную модель и использовать её для всего. Тогда любая мелкая задача становится медленнее и дороже, чем нужно. Выбор под задачу работает лучше. Сортировка, которая запускается сотни раз в день, получает быструю модель. Сравнение договоров, которое запускается дважды в месяц, получает глубоко думающую.
Как с этим работает Worknano
В Worknano модель это настройка каждого агента, рядом с его инструкциями. Агент это ИИ-помощник, которого вы настраиваете для одной задачи. В руководстве по созданию агентов приводится то же правило: быстрая модель подходит для коротких проверок, а сбалансированная для планирования из нескольких шагов. Вы не привязаны к одной ИИ-компании. Можно подключить любую выбранную вами модель, в том числе локальные, open-source или закрытую точку доступа вашей компании, и подобрать модель под задачу, бюджет и правила работы с данными.
- Какую ИИ-модель использует AI Module Builder?
- ИИ-модели и где обрабатываются ваши данные
- Создайте своего агента: модель и инструкции
Создайте бесплатный workspace и выберите модель для вашего первого агента.