Apa yang dilakukan Retrieval-Augmented Generation (RAG)?

Retrieval-Augmented Generation mencari sumber pengetahuan eksternal, seperti basis data dokumen atau web, untuk menemukan bagian teks yang relevan dengan pertanyaan pengguna, lalu memasukkan bagian teks itu ke dalam model bersama pertanyaannya sehingga jawabannya berlandaskan informasi terkini. Ini mengatasi kelemahan mendasar model bahasa besar: pengetahuannya beku pada titik pelatihannya berakhir, sehingga tanpa pengambilan data ini mereka tidak bisa tahu apa yang terjadi setelahnya atau mengakses dokumen pribadi yang tidak pernah menjadi bagian pelatihannya.

Melatih ulang seluruh model untuk setiap pertanyaan akan sangat mahal, pada dasarnya membangun ulang AI dari nol setiap kali, dan bukan begitu cara kerja RAG. Menghapus jawaban yang salah setelah ditampilkan tidak mengatasi pengetahuan yang sudah usang; itu hanya pembersihan reaktif, bukan jawaban yang lebih baik sejak awal.

RAG menjadi populer untuk membangun asisten AI yang disesuaikan untuk perusahaan tertentu, memungkinkan model umum menjawab pertanyaan tentang dokumen internal tanpa biaya besar melatih model khusus dari nol.