RAG и fine-tuning: два способа научить AI знать вашу компанию
RAG и fine-tuning, если коротко: оба способа делают AI полезным для вашей собственной компании. При RAG AI в момент вашего вопроса ищет информацию вашей компании и отвечает по найденному. При fine-tuning AI дополнительно обучают на ваших примерах, и его поведение меняется навсегда. RAG даёт знания. Fine-tuning даёт привычки.
RAG: экзамен с открытой книгой
RAG расшифровывается как retrieval-augmented generation. Простыми словами: сначала найти, потом ответить. Когда вы задаёте вопрос, по вашим документам и записям запускается поиск. Наиболее подходящие фрагменты кладутся перед AI, и он пишет ответ по ним. Сам AI остаётся точно таким, каким был.
Спросите «О каком сроке уведомления мы договорились с арендодателем?», и поиск найдёт пункт в договоре аренды. AI ответит по этому пункту и сможет показать, откуда взят ответ.
Fine-tuning: дополнительное обучение
Fine-tuning берёт готовый AI и дообучает его на примерах, которые вы подготовили. Обычно для этого нужны сотни или тысячи примеров, каждый из которых показывает запрос и идеальный ответ. В результате получается новая версия AI, которая следует этим образцам без напоминаний каждый раз.
Компания может провести fine-tuning AI на двух тысячах прошлых ответов поддержки, чтобы каждый черновик получался в фирменном тоне.
Разница в одной таблице
| RAG | Fine-tuning | |
|---|---|---|
| Что меняется | То, что показывают AI | Сам AI |
| Подходит для | Фактов, документов, актуальных записей | Тона, формата, одной узкой задачи |
| Когда информация меняется | Следующий ответ использует новую версию | Обучение нужно повторять |
| Показывает, откуда взят ответ | Да | Нет |
| Что нужно для старта | Ваше содержимое должно быть доступно для поиска | Нужно собрать и проверить много хороших примеров |
Распространённое заблуждение
Многие владельцы думают, что fine-tuning это способ «научить AI нашу компанию»: загрузить справочник, прайс-лист и файлы клиентов, и он их будет знать. Fine-tuning так не работает. AI не хранит текст так, как картотека. Он усваивает закономерности. Поэтому он может назвать цену или имя неверно и при этом звучать уверенно. Факты должны лежать там, где их можно найти, обновить и проверить.
Что вам нужно? Четыре вопроса
- Нужны ли AI факты о ваших клиентах, продуктах или правилах? RAG.
- Меняется ли эта информация в течение года? RAG.
- Должны ли разные люди видеть разную информацию? RAG. Поиск может показывать каждому только то, что ему разрешено видеть. Обученный AI такого различия не делает.
- Содержание верное, а неверны только тон или формат? Сначала напишите более ясные инструкции и добавьте к ним несколько примеров. О fine-tuning думайте, только если этого недостаточно.
Для большинства небольших компаний вопрос решают первые три. Для fine-tuning нужен большой набор хороших примеров и человек, который за этим следит. Он окупается главным образом для одной узкой задачи, которую выполняют очень много раз.
Оба способа можно использовать и вместе. Один задаёт, как звучит ответ, другой что в нём содержится.
От чего зависит RAG
RAG хорош настолько, насколько хорошо то, что он может найти. Ваше содержимое должно лежать там, куда достаёт поиск. Оно должно быть актуальным. И не должно быть трёх старых версий одного и того же файла, которые говорят разное.
Как с этим работает Worknano
Worknano идёт путём «сначала найти». Его семантический поиск, то есть поиск, который находит текст по смыслу, охватывает документы, задачи, сделки, контакты и OKRs, включая текст внутри загруженных файлов PDF, Word, Excel и PowerPoint. AI Assistant и агенты отвечают по найденным фрагментам. Новое и изменённое содержимое становится доступным для поиска автоматически, поэтому переобучать ничего не нужно. Люди находят только то, что им разрешено читать. То, как должен звучать ассистент, тоже настраивается: голос бренда находится в разделе Organization, Settings.