'நிபுணர் கலவை (Mixture of Experts)' மாதிரி இதை எப்படிச் சாதிக்கிறது?

மிக்ஸ்சர் ஆஃப் எக்ஸ்பர்ட்ஸ் (Mixture of Experts) மாதிரி தன் நெட்வொர்க்கை பல சிறிய சிறப்பு துணை-நெட்வொர்க்குகளாக பிரிக்கிறது, "நிபுணர்கள்" என்று அழைக்கப்படுகிறது, மேலும் ஒரு திசைவழிப்பு பொறிமுறையைப் பயன்படுத்தி எந்த சிலவற்றை ஒவ்வொரு உள்ளீட்டு துண்டையும் செயலாக்க வேண்டும் என்று முடிவு செய்கிறது. ஒவ்வொரு கோரிக்கைக்கும் முழு மாதிரியிலும் உள்ள ஒவ்வொரு அளவுருவையும் இயக்குவதற்குப் பதிலாக, ஒரு சிறிய, பொருத்தமான துணைக்குழு நிபுணர்கள் மட்டுமே ஒவ்வொரு ப்ராம்ட்டுக்கும் இயங்குகின்றனர், ஒட்டுமொத்த மாதிரி ஒரு பிரம்மாண்டமான மொத்த அளவுருக்களைக் கொண்டிருக்க அனுமதிக்கிறது, ஒரே கேள்விக்கு பதிலளிக்கும் செலவை ஒவ்வொரு முறையும் அனைத்து அளவுருக்களையும் பயன்படுத்துவதை விட மிகவும் குறைவாக வைத்திருக்கும்.

பயன்படுத்தப்படாத அளவுருக்களை நிரந்தரமாக நீக்குவது, பின்னர் வெவ்வேறு உள்ளீடுகளுக்காக அவற்றை அழைக்கும் மாதிரியின் திறனை நீக்கிவிடும், பல சிறப்பு நிபுணர்களை கையிருப்பில் வைத்திருக்கும் நோக்கத்தை தோற்கடிக்கும். ஒவ்வொரு அளவுருவையும் இரண்டு முறை இயக்குவது இதைக் குறைப்பதற்குப் பதிலாக செலவை வெறுமனே இரட்டிப்பாக்கும், இந்த வடிவமைப்பு அடையும் நேர்மாறு.

இந்த கட்டமைப்பே இன்றைய மிக திறன்மிக்க மாதிரிகள் நூற்றுக்கணக்கான பில்லியன்களில் அளவுரு எண்ணிக்கையை கொண்டிருந்தும், ஒவ்வொரு பதிலுக்கும் ஒவ்வொரு அளவுருவும் பயன்படுத்தப்பட்டால் நடைமுறையற்ற வேகத்திலும் செலவிலும் அன்றாட வினவல்களுக்கு இன்னும் பதிலளிக்க முடிவதற்கு ஒரு காரணமாகும்.