Как построить корпоративную базу знаний на основе RAG
Как RAG позволяет ИИ отвечать на основе собственных документов компании, какие данные туда загружать и в чём заключаются реальные риски.
Команда rabbitclipПубликация: 4 мин чтения
Коротко
RAG, или retrieval augmented generation, означает, что модель ИИ перед ответом находит подходящие фрагменты собственных документов компании и строит ответ именно на них. Обычная языковая модель не знает внутренних процедур, прайс-листа или технического руководства компании; RAG закрывает этот пробел без переобучения модели. Система находит фрагменты документа, ближе всего относящиеся к вопросу, показывает их модели, а модель формулирует ответ, опираясь только на них.
У производителя генераторов служба технической поддержки могла задать вопрос обычным языком и за секунды найти нужную страницу руководства на несколько сотен страниц, вместо того чтобы искать её постранично; система не придумывала ничего за пределами руководства, потому что настройка была построена так, чтобы это исключить.
Чем RAG отличается от обычной языковой модели?
Обычная языковая модель отвечает на основе широкого текста, на котором её обучили; собственный документ компании она никогда не видела. RAG при поступлении вопроса ищет по документам компании, находит наиболее подходящие фрагменты и передаёт их модели с указанием отвечать только на их основе.
Разница проявляется здесь: вместо того чтобы гадать по незнакомой теме, модель кратко пересказывает или цитирует показанный ей документ. Если ответа в документе нет, система должна об этом сказать, а не придумывать его; это поведение отдельно проверяется при настройке.
Практический результат таков: система RAG остаётся точной и до, и после обновления документа, потому что при каждом вопросе заново обращается к документу. Обычная же модель работает со знаниями, застывшими на дату её обучения.
Какие документы становятся базой знаний?
Руководства по продукту, внутренние процедуры, часто задаваемые вопросы, прайс-лист, технические спецификации, старые файлы коммерческих предложений; кандидатом становится любой письменный и достаточно упорядоченный документ. Его формат, PDF, Word, таблица, обрабатывается в форму, читаемую системой; этот шаг называется подготовкой данных.
Разрозненные, противоречивые или устаревшие документы не должны загружаться как есть. У производителя спецодежды три отдела вели каждый свою версию одной и той же таблицы цен; эту таблицу объединили прежде, чем она попала в систему, иначе система не знала бы, какая версия верна.
Часто меняющиеся документы, прежде всего прайс-лист, стоит держать в отдельной категории; если система настроена автоматически обрабатывать их заново при каждом обновлении, риск ответа по устаревшей цене заметно снижается.
Из каких шагов состоит настройка?
Настройка проходит через четыре основных шага, каждый из которых зависит от точности предыдущего.
- Соберите документы для загрузки и уберите противоречивые или устаревшие
- Разбейте документы на доступные для поиска фрагменты и загрузите их в векторную базу данных
- Постройте цепочку вопрос-ответ: поиск, выбор фрагмента, ответ модели
- Подготовьте набор тестов, подтверждающих, что ответы опираются только на найденный документ
- Определите права доступа: кто может задавать вопросы по какому документу
- Установите график обновления системы при каждом изменении документа
Почему контроль доступа стоит отдельным вопросом?
База знаний может содержать и самые чувствительные документы компании: данные о зарплатах, договор с поставщиком, ещё не объявленный план продукта. При настройке нужно чётко определить, кто может обращаться к какому документу; иначе ассистент может пересказать чувствительный документ тому, кто не должен был его вообще видеть.
Это делает настройку RAG в той же мере проектом контроля доступа, что и техническим. Доступ, разделённый по отделам, по крайней мере при первом запуске, безопаснее системы, открытой для всей компании.
Когда система ошибается и как это заметить?
Самая частая ошибка возникает, когда модель пытается заполнить собственными общими знаниями пробел, который документ не покрывает. Ответ звучит гладко, но не имеет настоящего источника; настройка должна показывать, на какой раздел документа опирается каждый ответ, и пользователь должен видеть этот источник.
В сети спа-центров ассистент однажды ответил по устаревшему, не обновлённому прайс-листу; без видимого источника эта ошибка могла бы оставаться незамеченной неделями. Показ источника служит единственным настоящим подтверждением надёжности системы.
Нужен ли уход, и кто должен за него отвечать?
База знаний не система, которую настроили и оставили без внимания; это живая структура, которую нужно заново обрабатывать при каждом изменении документа. Ответственность обычно должна оставаться за отделом, который создаёт документ; техническая команда лишь поддерживает систему в рабочем состоянии.
Ежемесячная проверка показывает, какой документ устарел и какой новый заслуживает добавления. Если пропустить эту проверку, точность системы начнёт снижаться, а вместе с ней и доверие пользователей.
Если ответственность остаётся неясной, база знаний устаревает незаметно, и никто не замечает накапливающихся ошибок. Назначение одного человека явно ответственным за обновление эффективнее любого технического решения.
RAG остаётся самым управляемым способом перенести собственные знания компании в модель ИИ; он не требует переобучения и обновляется сам, как только меняется документ. Сложная часть настройки не в технологии, а в том, каким документам можно доверять, и в правильном проведении границ доступа. На вводной встрече с rabbitclip мы можем вместе определить, какие из ваших документов готовы стать базой знаний.
Частые вопросы
Переобучает ли RAG модель?
Нет, модель остаётся прежней; система лишь показывает ей нужный документ перед ответом.
Нужно ли системе RAG подключение к интернету?
Не обязательно; документы могут оставаться в собственной среде компании и открываться только уполномоченным людям, в зависимости от выбранной настройки.
Нужна ли база знаний малому бизнесу?
Она становится полезной, когда растёт число документов и повторяющихся внутренних вопросов; руководству на несколько страниц она обычно не нужна.
Что происходит, если система отвечает неверно?
Поскольку источник показан, видно, из какого документа он взят; документ исправляют или убирают, а ответ проверяют заново.
