RAG è la tecnica che permette a un modello linguistico di rispondere usando i documenti della vostra organizzazione, invece della sua memoria.
L’acronimo sta per Retrieval Augmented Generation: generazione aumentata dal recupero. La formula è ostica, il concetto no. Vale la pena capirlo, perché in un contesto regolato è la differenza tra un sistema utilizzabile e uno che non supera la prima verifica.
Il problema: il modello non conosce i vostri documenti
Un modello linguistico viene addestrato su grandi quantità di testo pubblico. Al termine dell’addestramento, ciò che ha appreso è fissato nei suoi parametri.
Da questo derivano tre limiti concreti per un’organizzazione.
Il modello non ha mai visto la vostra circolare interna, il vostro contratto quadro, il vostro manuale di manutenzione. Non li conosce e non può conoscerli.
Non è aggiornato: la sua conoscenza si ferma alla data di addestramento, mentre le normative e le procedure continuano a cambiare.
E quando non sa, tende comunque a produrre una risposta plausibile. Non perché sia difettoso, ma perché è costruito per generare il testo più probabile, non per verificare se quel testo è vero.
Una prima reazione istintiva è addestrare un modello proprio sui documenti aziendali. In molti casi è la strada sbagliata: costosa, lenta da aggiornare e, soprattutto, incapace di dire da dove viene una certa informazione.
La soluzione, in tre passaggi
RAG rovescia l’impostazione. Invece di far ricordare al modello i vostri contenuti, glieli mette davanti al momento della domanda.
Primo passaggio: indicizzazione. I documenti vengono letti, suddivisi in porzioni coerenti e trasformati in rappresentazioni numeriche che ne catturano il significato. Queste rappresentazioni vengono conservate in un archivio interrogabile, insieme ai riferimenti al documento di origine, alla versione e ai permessi di accesso.
È la fase meno visibile e più determinante. Da come i documenti vengono suddivisi e arricchiti dipende gran parte della qualità finale delle risposte.
Secondo passaggio: recupero. Quando un utente formula una domanda, il sistema cerca nell’archivio le porzioni di documento più pertinenti. La ricerca avviene per significato, non per corrispondenza esatta di parole: una domanda su “risoluzione anticipata” può recuperare un paragrafo che parla di “recesso”, perché il sistema riconosce la relazione tra i due concetti.
In questa fase intervengono anche i permessi. Un utente riceve risposte costruite solo sui documenti che sarebbe autorizzato a leggere.
Terzo passaggio: generazione con citazione della fonte. Il modello riceve la domanda insieme ai testi recuperati e ha un’istruzione precisa: rispondi usando questi documenti, indica da quale proviene ogni affermazione, e se i documenti non contengono la risposta, dichiaralo.
L’output non è un’opinione del modello. È una sintesi di materiale verificabile, con il rimando al punto esatto da cui deriva.
Perché la citazione della fonte è il punto decisivo
In una conversazione informale, sapere da dove viene una risposta è comodo. In un ente pubblico o in un istituto finanziario è la condizione di utilizzabilità.
Un atto amministrativo deve essere motivato. Una valutazione di compliance deve poter essere ricostruita. Una decisione di credito deve reggere a una verifica successiva. Se un sistema fornisce una risposta senza indicare la fonte, quella risposta non può entrare in nessuno di questi percorsi: andrebbe comunque riverificata da capo, annullando il risparmio di tempo.
La citazione cambia anche la natura del controllo umano. L’operatore non deve valutare se il sistema ha ragione in astratto: apre la fonte e verifica in pochi secondi. È una revisione rapida, ripetibile e documentabile.
C’è un terzo effetto, meno evidente. Quando ogni risposta rimanda a un documento, gli errori diventano diagnosticabili. Se una risposta è sbagliata, si scopre se il problema è nel recupero, nella generazione o nel documento stesso, che magari è una versione superata rimasta in archivio. Senza fonti, l’errore resta inspiegabile.
Dove RAG funziona bene e dove non basta
Funziona bene quando la conoscenza è già scritta da qualche parte e il problema è trovarla e sintetizzarla. Ricerca su normativa interna e circolari, consultazione di manualistica tecnica, supporto all’istruttoria documentale, ricerca unificata su archivi eterogenei: sono i casi in cui il rapporto tra risultato e complessità è più favorevole.
Non basta in altre situazioni, ed è corretto dirlo prima di impostare un progetto.
Non basta quando la conoscenza non è documentata ma risiede nell’esperienza delle persone. In quel caso il primo lavoro è di raccolta e formalizzazione, e non è un lavoro tecnologico.
Non basta quando la domanda richiede un calcolo o una consultazione di dati strutturati. “Quante pratiche sono aperte da oltre sessanta giorni” non è una domanda documentale: richiede l’integrazione con il gestionale, non il recupero da un archivio testuale.
Non basta quando serve una sintesi che attraversa centinaia di documenti contemporaneamente. Il recupero seleziona le porzioni più pertinenti, non l’intero corpus, e alcune domande di natura aggregata richiedono architetture diverse, dai knowledge graph a pipeline di analisi dedicate.
E non risolve da solo il problema della qualità documentale. Se in archivio convivono tre versioni della stessa procedura senza indicazione di quale sia vigente, il sistema potrà citare la fonte, ma potrà citare quella sbagliata. La governance delle versioni resta un compito dell’organizzazione.
In chiusura
RAG non è una tecnologia recente né particolarmente esotica. È l’architettura di riferimento per l’uso dei modelli linguistici su conoscenza proprietaria, e la ragione è semplice: consente di aggiornare i contenuti senza riaddestrare nulla e di rendere verificabile ogni risposta.
La parte difficile non è il concetto. È la qualità dell’indicizzazione, la gestione dei permessi, il trattamento delle versioni e la valutazione sistematica dell’accuratezza su domande reali.
Se state valutando l’introduzione di un sistema di questo tipo, siamo disponibili a un confronto tecnico sul vostro corpus documentale: com’è strutturato, quali domande dovrebbe supportare e quali requisiti di tracciabilità deve rispettare.
