Ano ang ginagawa ng Retrieval-Augmented Generation (RAG)?

Naghahanap ang Retrieval-Augmented Generation ng panlabas na pinagkukunan ng kaalaman, tulad ng database ng dokumento o ang web, para sa mga bahaging kaugnay ng tanong ng isang gumagamit, at pagkatapos ay ipinapasok ang mga bahaging iyon sa modelo kasama ng tanong upang sumagot ito nang batay sa kasalukuyang impormasyon. Tinutugunan nito ang isang pangunahing kahinaan ng malalaking language model: ang kaalaman nila ay nakakalatak sa kung anumang punto natapos ang training, kaya kung wala ang retrieval, hindi nila alam ang nangyari pagkatapos noon o ma-access ang mga pribadong dokumentong hindi kailanman na-train sa kanila.

Napakamahal ang muling pagte-train sa buong modelo sa bawat tanong, na parang muling pagbuo ng AI mula sa wala tuwing may tanong, na hindi kung paano gumagana ang RAG. Ang pagtatanggal ng maling sagot pagkatapos itong ipakita ay hindi tumutugon sa nakalatak na kaalaman; iyon ay pag-aayos pagkatapos, hindi mas mahusay na sagot bago pa mangyari.

Naging popular ang RAG para sa paggawa ng AI assistant na naka-angkop sa mga tiyak na kumpanya, na nagpapahintulot sa isang pangkalahatang modelo na sumagot sa mga tanong tungkol sa panloob na dokumento nang walang napakalaking gastos ng pagte-train ng custom na modelo mula sa wala.