Co robi Generacja Wspomagana Wyszukiwaniem (RAG)?

Retrieval-Augmented Generation (generowanie wspomagane wyszukiwaniem) przeszukuje zewnętrzne źródło wiedzy, na przykład bazę dokumentów czy internet, w poszukiwaniu fragmentów istotnych dla pytania użytkownika, a następnie przekazuje te fragmenty modelowi razem z pytaniem, aby odpowiedź opierała się na aktualnych informacjach. Rozwiązuje to podstawową słabość dużych modeli językowych: ich wiedza jest zamrożona na moment zakończenia treningu, więc bez wyszukiwania nie mogą wiedzieć, co wydarzyło się później, ani mieć dostępu do prywatnych dokumentów, na których nigdy nie były trenowane.

Retrenowanie całego modelu przy każdym pytaniu byłoby ogromnie kosztowne, w istocie odbudowując AI od zera za każdym razem, a nie tak działa RAG. Usuwanie błędnych odpowiedzi po ich pokazaniu nie rozwiązuje problemu nieaktualnej wiedzy; to reaktywne sprzątanie, a nie lepsze odpowiedzi od samego początku.

RAG stało się popularne przy budowaniu asystentów AI dostosowanych do konkretnych firm, pozwalając ogólnemu modelowi odpowiadać na pytania dotyczące wewnętrznych dokumentów bez ogromnego kosztu trenowania niestandardowego modelu od podstaw.