検索拡張生成（RAG）がすることは？

検索拡張生成(RAG)は、文書データベースやウェブといった外部の知識源を検索し、ユーザーの質問に関連する箇所を見つけ出したうえで、その箇所を質問とともにモデルに渡すことで、最新の情報に基づいた回答を可能にする仕組みだ。これは大規模言語モデルが抱える根本的な弱点、すなわちその知識が訓練が終わった時点で凍結されてしまうという問題に対処するもので、検索の仕組みがなければ、モデルはその後に起きたことを知ることも、訓練に一度も使われなかった非公開の文書にアクセスすることもできない。

すべての質問のたびにモデル全体を再訓練することは、実質的に毎回AIを一から作り直すようなもので、膨大な費用がかかってしまう。これはRAGの仕組みとは異なる。誤った回答が表示された後にそれを削除することも、古くなった知識という問題自体には対処していない。それはあらかじめより良い答えを用意することではなく、後追いの後始末にすぎない。

RAGは特定の企業向けに作られたAIアシスタントの構築に人気を博している。汎用モデルをゼロからカスタム訓練するという莫大な費用をかけずに、社内文書に関する質問に汎用モデルが答えられるようにできるからだ。