রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) কী করে?

রিট্রিভাল-অগমেন্টেড জেনারেশন বা রাগ কোনো ব্যবহারকারীর প্রশ্নের সাথে প্রাসঙ্গিক অংশ খুঁজতে একটা বাহ্যিক জ্ঞানের উৎস, যেমন কোনো নথি ডেটাবেস বা ওয়েব, অনুসন্ধান করে, তারপর সেই অংশগুলো প্রশ্নের সাথে মডেলে খাওয়ায়, যাতে সে হালনাগাদ তথ্যের ভিত্তিতে উত্তর দিতে পারে। এটা বৃহৎ ভাষা মডেলের একটা মূল দুর্বলতা মোকাবিলা করে: তাদের জ্ঞান প্রশিক্ষণ শেষ হওয়ার মুহূর্তেই স্থির হয়ে যায়, তাই পুনরুদ্ধার ছাড়া তারা জানতে পারে না তারপর কী ঘটেছে বা প্রাইভেট নথি অ্যাক্সেস করতে পারে না যেগুলোতে তাদের কখনো প্রশিক্ষণ দেওয়া হয়নি।

প্রতিটা প্রশ্নের জন্য পুরো মডেল পুনরায় প্রশিক্ষণ দেওয়া বিপুল ব্যয়বহুল হবে, মূলত প্রতিবার এআই-কে শুরু থেকে পুনর্নির্মাণ করার মতো, রাগ যেভাবে কাজ করে তা এমন নয়। ভুল উত্তর দেখানোর পর মুছে ফেলা পুরনো জ্ঞানের সমস্যা সমাধান করে না; সেটা প্রতিক্রিয়াশীল পরিষ্কার-পরিচ্ছন্নতা মাত্র, আগে থেকে ভালো উত্তর নয়।

নির্দিষ্ট কোম্পানির জন্য তৈরি এআই সহকারী নির্মাণে রাগ বেশ জনপ্রিয় হয়ে উঠেছে, যা একটা সাধারণ-উদ্দেশ্যের মডেলকে অভ্যন্তরীণ নথি সম্পর্কে প্রশ্নের উত্তর দিতে দেয়, শুরু থেকে একটা কাস্টম মডেল প্রশিক্ষণের বিপুল খরচ ছাড়াই।