Come costruire una base di conoscenza aziendale con RAG
Come il RAG permette a un'IA di rispondere partendo dai documenti aziendali, quali dati inserire e dove si trovano davvero i rischi da valutare.
Team rabbitclipPubblicato: 5 min di lettura
In breve
Il RAG, retrieval augmented generation, indica un modello IA che recupera prima della risposta i passaggi pertinenti dei documenti propri di un'azienda, e basa la risposta su quei passaggi. Un modello di chat generico non conosce le procedure interne, il listino prezzi o il manuale tecnico di un'azienda; il RAG colma questo vuoto senza riaddestrare il modello. Il sistema trova le sezioni di documento più vicine alla domanda posta, le mostra al modello, che scrive la risposta basandosi solo su di esse.
Presso un produttore di generatori, il team di assistenza tecnica poteva porre una domanda in linguaggio naturale e trovare la pagina giusta di un manuale di centinaia di pagine in pochi secondi, invece di cercarla pagina per pagina; il sistema non inventava nulla al di fuori del manuale, perché la configurazione era pensata per escluderlo.
In cosa il RAG è diverso da un modello di chat generico?
Un modello di chat generico risponde a partire dal testo ampio su cui è stato addestrato; non ha mai visto il documento proprio dell'azienda. Il RAG cerca nei documenti dell'azienda non appena arriva una domanda, trova i passaggi più pertinenti, poi li invia al modello con l'istruzione di rispondere solo sulla loro base.
La differenza emerge qui: invece di indovinare su un argomento che non conosce, il modello riassume o cita il documento che gli viene mostrato. Se la risposta non è nel documento, il sistema dovrebbe dirlo invece di inventarne una; questo comportamento viene testato appositamente durante la configurazione.
Il risultato pratico è che un sistema RAG resta accurato prima e dopo un aggiornamento del documento, perché consulta di nuovo il documento a ogni domanda. Un modello generico, invece, lavora con una conoscenza congelata alla sua data di addestramento.
Quali documenti diventano una base di conoscenza?
Manuali prodotto, procedure interne, domande frequenti, un listino prezzi, specifiche tecniche, vecchi fascicoli di preventivo; qualsiasi documento scritto e ragionevolmente organizzato è un candidato. Il suo formato, PDF, Word, un foglio di calcolo, viene elaborato in una forma leggibile dal sistema; questo passaggio si chiama preparazione dei dati.
Documenti sparsi, contraddittori o superati non dovrebbero entrare così come sono. Presso un produttore di abbigliamento da lavoro, tre reparti tenevano ciascuno una propria versione dello stesso listino prezzi; quel listino è stato unificato prima di avvicinarsi al sistema, altrimenti questo non avrebbe saputo quale versione fosse corretta.
I documenti che cambiano spesso, il listino prezzi soprattutto, dovrebbero restare in una categoria a parte; se il sistema è configurato per rielaborarli automaticamente a ogni aggiornamento, il rischio di rispondere con un prezzo superato cala nettamente.
Quali sono i passaggi della configurazione?
La configurazione segue quattro passaggi principali, ognuno dipende dall'accuratezza del precedente.
- Raccolga i documenti da inserire, ed elimini quelli contraddittori o superati
- Divida i documenti in frammenti interrogabili e li carichi in un database vettoriale
- Costruisca il flusso domanda-risposta: ricerca, selezione del frammento, risposta del modello
- Prepari un set di test che confermi che le risposte si basano solo sul documento recuperato
- Definisca i permessi di accesso: chi può interrogare quale documento
- Fissi un calendario per aggiornare il sistema ogni volta che un documento cambia
Perché il controllo degli accessi è un tema a parte?
Una base di conoscenza può contenere anche i documenti più sensibili di un'azienda: dati sugli stipendi, un contratto con un fornitore, un piano prodotto non ancora annunciato. La configurazione deve definire con chiarezza chi può raggiungere quale documento; altrimenti l'assistente potrebbe riassumere un documento sensibile per qualcuno che non avrebbe mai dovuto vederlo.
Questo rende la configurazione del RAG un progetto di controllo degli accessi tanto quanto uno tecnico. Un accesso separato per reparto, almeno al primo lancio, è più sicuro di un sistema aperto a tutta l'azienda.
Quando il sistema sbaglia, e come ci si accorge?
L'errore più comune avviene quando il modello cerca di colmare, con la propria conoscenza generale, un vuoto che il documento non copre. La risposta suona scorrevole ma non ha una fonte reale; la configurazione dovrebbe mostrare su quale sezione di documento si basa ogni risposta, e l'utente dovrebbe poter vedere quella fonte.
Presso una catena di centri spa, l'assistente una volta ha risposto da un listino prezzi superato che non era stato rielaborato; senza una fonte visibile, quell'errore avrebbe potuto restare inosservato per settimane. Mostrare la fonte è l'unica prova concreta dell'affidabilità del sistema.
Serve manutenzione, e chi dovrebbe occuparsene?
Una base di conoscenza non è un sistema che si configura e si abbandona; è una struttura viva che va rielaborata ogni volta che un documento cambia. La responsabilità dovrebbe di solito ricadere sul reparto che produce il documento; il team tecnico si limita a tenere il sistema in funzione.
Un controllo mensile mostra quale documento è diventato superato e quale nuovo merita di entrare. Saltare questo controllo lascia che l'accuratezza del sistema si deteriori, portando con sé la fiducia dell'utente.
Lasciare la responsabilità poco chiara fa invecchiare in silenzio una base di conoscenza, senza che nessuno noti gli errori accumularsi. Nominare una persona chiaramente responsabile dell'aggiornamento è più efficace di qualsiasi soluzione tecnica.
Il RAG è il modo più controllato per portare la conoscenza propria di un'azienda dentro un modello IA; non richiede un nuovo addestramento, e si aggiorna da solo non appena cambia un documento. La parte difficile della configurazione non è la tecnologia, è decidere di quali documenti ci si può fidare e tracciare bene i confini di accesso. In una call conoscitiva con rabbitclip possiamo stabilire insieme quali dei suoi documenti sono pronti a diventare una base di conoscenza.
Domande frequenti
Il RAG riaddestra il modello?
No, il modello resta invariato; il sistema gli mostra solo il documento pertinente prima che risponda.
Un sistema RAG richiede una connessione internet?
Non necessariamente; i documenti possono restare nell'ambiente proprio dell'azienda e aprirsi solo alle persone autorizzate, a seconda della configurazione scelta.
Una piccola azienda ha bisogno di una base di conoscenza?
Diventa utile quando crescono il numero di documenti e le domande interne ripetute; una guida di poche pagine di solito non ne ha bisogno.
Cosa succede se il sistema risponde in modo sbagliato?
Poiché la fonte viene mostrata, si vede da quale documento proviene; il documento viene corretto o rimosso, e la risposta viene testata di nuovo.
