Cosa fa la Generazione Aumentata dal Recupero (RAG)?

La Retrieval-Augmented Generation cerca in una fonte di conoscenza esterna, come un database di documenti o il web, passaggi rilevanti per la domanda di un utente, poi inserisce quei passaggi nel modello insieme alla domanda in modo che risponda basandosi su informazioni aggiornate. Questo affronta una debolezza fondamentale dei modelli linguistici di grandi dimensioni: la loro conoscenza è congelata al momento in cui è terminato l'addestramento, quindi senza il recupero non possono sapere cosa sia successo dopo né accedere a documenti privati su cui non sono mai stati addestrati.

Riaddestrare l'intero modello per ogni domanda sarebbe enormemente costoso, in pratica ricostruendo l'IA da zero ogni volta, e non è così che funziona il RAG. Cancellare le risposte sbagliate dopo che sono state mostrate non risolve la conoscenza obsoleta; è una pulizia reattiva, non risposte migliori a monte.

Il RAG è diventato popolare per costruire assistenti IA su misura per aziende specifiche, permettendo a un modello generico di rispondere a domande sui documenti interni senza l'enorme costo di addestrare un modello personalizzato da zero.