Que fait la Génération Augmentée par Récupération (RAG) ?

La génération augmentée par récupération (RAG) recherche dans une source de connaissances externe, comme une base de documents ou le web, des passages pertinents par rapport à la question d'un utilisateur, puis les transmet au modèle en même temps que la question afin qu'il réponde en s'appuyant sur des informations actuelles. Cela répond à une faiblesse fondamentale des grands modèles de langage : leurs connaissances sont figées au moment où leur entraînement s'est arrêté, si bien que sans récupération, ils ne peuvent connaître ce qui s'est produit après, ni accéder à des documents privés sur lesquels ils n'ont jamais été entraînés.

Réentraîner l'ensemble du modèle pour chaque question serait extrêmement coûteux, revenant essentiellement à reconstruire l'IA de zéro à chaque fois, ce qui n'est pas la façon dont fonctionne la RAG. Supprimer les mauvaises réponses après coup ne résout pas le problème des connaissances dépassées ; c'est un nettoyage réactif, pas de meilleures réponses en amont.

La RAG est devenue populaire pour concevoir des assistants d'IA adaptés à des entreprises précises, permettant à un modèle généraliste de répondre à des questions sur des documents internes sans l'énorme coût d'entraîner un modèle sur mesure depuis zéro.