tech

Große Sprachmodelle können selbstsicher klingen, aber veraltet sein, da ihr Wissen beim Training eingefroren wird. Eine beliebte Technik behebt das, indem das Modell zuerst nachschlägt.

Was macht Retrieval-Augmented Generation (RAG)?

Q: Was macht Retrieval-Augmented Generation (RAG)?

Holt passende Dokumente und antwortet damit. RAG durchsucht eine externe Wissensbasis und gibt die relevantesten Passagen ins Modell, sodass die Antwort auf echten Quellen beruht. Das dämpft Halluzinationen und erlaubt frische, private oder spezialisierte Daten ohne teures Neutraining.

Holt passende Dokumente und antwortet damit ✓
Trainiert das ganze Modell bei jeder Frage neu
Löscht falsche Antworten, nachdem sie gezeigt wurden

Holt passende Dokumente und antwortet damit
RAG durchsucht eine externe Wissensbasis und gibt die relevantesten Passagen ins Modell, sodass die Antwort auf echten Quellen beruht. Das dämpft Halluzinationen und erlaubt frische, private oder spezialisierte Daten ohne teures Neutraining.

Retrieval-Augmented Generation durchsucht eine externe Wissensquelle, etwa eine Dokumentendatenbank oder das Web, nach Textstellen, die für die Frage einer Nutzerin relevant sind, und speist diese Textstellen dann zusammen mit der Frage ins Modell ein, damit es die Antwort auf aktuellen Informationen aufbaut. Das behebt eine zentrale Schwäche großer Sprachmodelle: Ihr Wissen ist auf dem Stand eingefroren, an dem das Training endete, sodass sie ohne Retrieval nicht wissen können, was danach geschah, oder auf private Dokumente zugreifen, mit denen sie nie trainiert wurden.

Das gesamte Modell bei jeder Frage neu zu trainieren wäre enorm teuer, im Grunde würde man die KI jedes Mal von Grund auf neu bauen, so funktioniert RAG nicht. Falsche Antworten zu löschen, nachdem sie angezeigt wurden, behebt kein veraltetes Wissen; das ist reaktives Aufräumen, keine von vornherein bessere Antwort.

RAG hat sich als beliebter Ansatz etabliert, um KI-Assistenten für bestimmte Unternehmen maßgeschneidert zu bauen, sodass ein allgemeines Modell Fragen zu internen Dokumenten beantworten kann, ohne die enormen Kosten, ein eigenes Modell von Grund auf zu trainieren.

▶ Quration Play

tech

Was ist ein zentraler Vorteil dieser 'On-Device'-KI?Wie erreicht ein 'Mixture of Experts'-Modell das?Wie nennt man dieses von KI erzeugte Trainingsmaterial?Wie heißt der zweite Ansatz, das Training mit Beispielen?Wie funktioniert dieses Text-'Wasserzeichen' im Allgemeinen?Wie heißt diese Trainingstechnik?Wie heißt diese Komprimierungstechnik?Wie nennt man KI-Modelle, die mehrere Eingabearten zugleich verarbeiten?Welches Unternehmen betreibt diesen vollständig fahrerlosen kommerziellen Robotaxi-Dienst?Welche Stufennummer ist auf der bekannten SAE-Skala die höchste und steht für volle Automatisierung?Wie heißt der humanoide Roboter, den der Autohersteller Tesla vorgestellt hat?Welches Unternehmen war Vorreiter dieses medizinischen Drohnenlieferdienstes in Afrika?

Quration — Quration Play