RAG (Генерация с дополнением из источников)
Краткое определение
RAG позволяет модели ИИ перед составлением ответа брать сведения из проверенного набора документов, а не полагаться только на память.
RAG, генерация с дополнением из источников, заставляет языковую модель в момент запроса обращаться к конкретному документу или базе данных, а не опираться только на то, что она усвоила во время обучения. Сначала модель ищет подходящий источник, затем пишет ответ, опираясь на него.
Такой подход снижает склонность модели придумывать, галлюцинировать, по теме, которую она не знает или знает устаревшей, ведь ответ теперь строится на показанном источнике, а не на общих шаблонах.
Компания может подключить к системе RAG собственный каталог товаров, тексты часто задаваемых вопросов или документы с правилами, чтобы клиентский ассистент говорил только на основе собственных точных данных.
RAG часто путают с дообучением модели, но при RAG сама модель не меняется, ей лишь показывают нужный документ в момент запроса, тогда как дообучение заново настраивает веса модели. На практике вы узнаете RAG по тому, что в ответе есть ссылка на источник или страницу; если ее нет, модель, вероятно, опирается только на исходное обучение.
Почему это важно
Настройка RAG гарантирует, что ИИ-ассистент говорит на основе собственных точных данных компании, а не общих знаний из интернета. Это заметно снижает риск назвать неверную цену или неверное правило.
Условный пример
Поставщик виртуального POS подключил своего ассистента поддержки к собственной технической документации через RAG, и он перестал предлагать устаревшие шаги интеграции.
