Come funziona l'IA: spiegazione semplice per imprenditori
Come funziona l'IA in parole semplici: i modelli linguistici imparano schemi, non comprendono. Perché sbagliano e come usarli in sicurezza al lavoro.
Team rabbitclipPubblicato: 6 min di lettura
In breve
Gli assistenti di IA che le aziende usano oggi sono grandi modelli linguistici: sistemi che hanno appreso gli schemi del linguaggio da una quantità molto grande di testo e che producono, un pezzo alla volta, il seguito più probabile di ciò che lei dà loro. Non traggono le risposte da una banca dati e non comprendono come fa una persona. Ciò che scrivono è una previsione scorrevole che si adatta agli schemi appresi. Per questo sono spesso molto bravi e talvolta sbagliano con piena sicurezza. Per un imprenditore, tre frasi racchiudono l'essenziale: impara schemi, produce previsioni e non garantisce l'esattezza.
Questa conoscenza ha conseguenze pratiche. Decide dove ci si può fidare del modello, dove è rischioso, quali compiti affidargli e chi deve leggere il risultato prima che vada da qualche parte. Di seguito spieghiamo il meccanismo senza annegare nel gergo, tenendo solo le parti che toccano le sue decisioni.
Che cosa impara l'IA, e come lo impara?
In una fase chiamata addestramento, un modello linguistico legge un'enorme quantità di testo e impara quali parole, o frammenti di parole, tendono a seguirne quali altre in quale contesto. Mentre si addestra, il sistema fa una previsione, la confronta con il testo reale, regola le proprie impostazioni interne in base all'errore e ripete l'operazione moltissime volte. Ne esce una mappa statistica del linguaggio.
Questa mappa contiene grammatica, stile, frammenti di conoscenza e schemi di ragionamento, ma nulla è archiviato elemento per elemento come i libri in una biblioteca. Il modello non ricorda un fatto. Porta con sé una tendenza su come di solito si scrive di quel fatto. Questa differenza è all'origine di tutto ciò che segue.
Che cosa succede dietro lo schermo quando scrive una domanda?
Il suo testo viene suddiviso in pezzi, e il modello sceglie il pezzo che lo prosegue meglio. Poi tratta il suo testo più quel nuovo pezzo come ingresso e sceglie il successivo. La risposta si costruisce lungo questa catena, pezzo dopo pezzo. Il modello non prepara una risposta finita per poi mostrargliela; a ogni passo prevede che cosa viene dopo.
Il modello può tenere sotto gli occhi solo una quantità limitata di testo alla volta, per cui, man mano che una conversazione cresce, le parti precedenti possono perdere influenza. Non ricorda neppure da solo una conversazione passata. Sembra farlo soltanto perché il testo precedente gli viene riconsegnato ogni volta. Per un lavoro che richiede la conoscenza dell'azienda, l'informazione giusta deve arrivare al modello nel posto giusto e al momento giusto.
Perché l'IA a volte afferma cose sbagliate con sicurezza?
Il modello non verifica se una frase sia vera; produce ciò che è scorrevole e probabile. Dove manca la conoscenza, può colmare il vuoto con la frase che sembra più a suo agio in quel contesto. Si parla spesso di allucinazione: una fonte inventata, una cifra fabbricata o una data errata arrivano con lo stesso tono sicuro di un'informazione corretta.
Poiché la risposta sbagliata suona come quella giusta, non si possono distinguere dal tono. Le aree più rischiose sono quelle che richiedono fatti precisi e verificabili: prezzi, normative, date, nomi e numeri. Quelle più sicure riguardano la forma e la formulazione: riassumere, riscrivere, redigere bozze e riordinare.
La buona notizia è che lo schema dell'errore è prevedibile. Chiedere al modello le sue fonti, limitare le sue risposte ai suoi documenti e far leggere il risultato a una persona competente riduce il rischio in modo considerevole.
L'IA è un motore di ricerca o una banca dati?
Non è nessuna delle due cose. Un motore di ricerca trova pagine esistenti e gliele mostra; una banca dati restituisce un record memorizzato esattamente com'era stato salvato. Un modello linguistico genera testo nuovo. Alcuni assistenti affiancano al modello una ricerca o un recupero di documenti; in quel caso la risposta è prima ancorata alle fonti trovate e il modello le trasforma poi in un testo leggibile.
Per un'azienda la distinzione si legge così: un assistente che lavora sui suoi documenti riguardo a un tema ristretto dà risposte più stabili di uno che parla dalla conoscenza generale. I dettagli di questo approccio meritano un articolo a parte. Qui conta che un modello con le sue fonti e un modello lasciato senza non sono ugualmente affidabili.
Quali compiti può svolgere in sicurezza in un'azienda?
Il modello offre il massimo valore dove una persona può controllare in fretta il risultato e un errore è facile da correggere. I compiti seguenti rientrano in questa descrizione.
- Riassumere una lunga nota di riunione o una lunga conversazione di e-mail
- Riscrivere un testo che ha già per un altro lettore
- Produrre una prima bozza di un'e-mail, di un annuncio o di un post sui social
- Ordinare appunti sparsi in titoli e punti
- Generare elenchi di idee e titoli alternativi
Quali errori si ripetono più spesso?
La maggior parte degli errori non nasce dalla debolezza del modello ma dall'aspettativa sbagliata che si ripone in esso. Questi sono i più frequenti.
- Trattare il modello come una fonte di fatti e pubblicare la sua risposta senza verificarla
- Incollare dati dei clienti o documenti riservati in uno strumento senza sapere dove vadano
- Aspettarsi ogni volta la stessa risposta alla stessa domanda
- Inviare il risultato senza leggerlo
- Giudicare la capacità di uno strumento da un solo tentativo
Quando l'IA è la scelta sbagliata?
Dove un errore costa caro e l'esattezza deve essere assoluta, il modello non dovrebbe decidere da solo: clausole contrattuali, calcoli finanziari, consigli su salute o sicurezza, corrispondenza legale. In questi ambiti può assistere, ma chi conosce la materia ha l'ultima parola.
Si adatta male anche ai compiti che devono dare ogni volta esattamente lo stesso risultato. Per il totale di una fattura, una giacenza di magazzino o un'aliquota fiscale, una normale regola software è più affidabile, e un modello aggiunge solo incertezza inutile.
Dove ci sono dati riservati, si informi in anticipo su come lo strumento li usa e li conserva, e chieda a un legale di tutto ciò che tocca i dati personali. Se non è chiaro, tenere i dati fuori dallo strumento resta la via più sicura.
L'IA non è né un oracolo né un archivio; è un valido assistente di scrittura che prevede a partire da schemi. Un'azienda che lo ha capito le affida bozze, riassunti e riscritture, e fa leggere a una persona competente tutto ciò che deve essere esatto. Se desidera ragionare insieme su da dove iniziare nel suo lavoro, può fissare un colloquio conoscitivo con rabbitclip.
Domande frequenti
L'IA comprende davvero?
I modelli linguistici non comprendono come le persone; generano il seguito più probabile in base agli schemi presenti nei testi. Il risultato spesso sembra comprensione, ma l'esattezza non è garantita.
Perché l'IA può dare informazioni inventate?
Il modello non verifica se una frase sia vera; produce ciò che è scorrevole e probabile. Dove manca la conoscenza, può colmare il vuoto con una frase convincente, cosa che si chiama allucinazione.
L'IA conosce da sola le informazioni della mia azienda?
No. Deve fornirle lei la conoscenza specifica della sua azienda, aggiungendola alla conversazione oppure costruendo una soluzione collegata ai suoi documenti. Per tutto ciò che non viene fornito, il modello tira a indovinare.
Darà sempre la stessa risposta alla stessa domanda?
Di solito no. Le risposte possono uscire leggermente diverse ogni volta, quindi per un lavoro che richiede un risultato identico una normale regola software è più adatta.
