檢索增強生成（RAG）會做什麼？

檢索增強生成(RAG)會在外部知識來源(例如文件資料庫或網路)中搜尋與使用者問題相關的段落,再把這些段落連同問題一起輸入模型,讓模型能根據最新資訊來回答問題。這解決了大型語言模型的一個核心弱點:它們的知識停留在訓練結束的那個時間點,若沒有檢索機制,就無法得知訓練之後發生的事,也無法存取它們從未被訓練過的私人文件。

針對每個問題都重新訓練整個模型,成本會極其高昂,等於每次都要從頭重建整個AI,而這並不是RAG的運作方式。在答案顯示後才刪除錯誤答案,也無法解決知識過時的問題;那只是事後的補救清理,而不是事先就提供更好的答案。

RAG已成為打造為特定企業量身打造之AI助理的熱門做法,讓一個通用模型能夠回答關於內部文件的問題,而不必付出從零訓練一個客製模型的龐大成本。