ஒரு AI மாடலுக்கு '7000 கோடி பாராமீட்டர்கள்' இருக்கின்றன என்று சொல்லும்போது, அவர்கள் எதை எண்ணுகின்றனர்?

"பாராமீட்டர்கள்" (parameters) என்பது பயிற்சியின்போது ஒரு மாதிரியில் சரிசெய்யப்படும் எடைகள் (weights) என்ற சரிசெய்யக்கூடிய எண்களின் எண்ணிக்கையைக் குறிக்கிறது — அது கற்றுக்கொண்ட ஆவணங்களின் எண்ணிக்கையையோ, ஒரே நேரத்தில் எத்தனை பேருக்கு சேவை செய்ய முடியும் என்பதையோ அல்ல. பொதுவாகச் சொல்வதென்றால், அதிக பாராமீட்டர்கள் என்றால் சிக்கலான வடிவங்களை பிரதிநிதித்துவப்படுத்த மாதிரிக்கு அதிக திறன் இருப்பதைக் குறிக்கிறது, ஏனெனில் தரவின் நுணுக்கத்தைப் பிடிக்க சரிசெய்யக்கூடிய அதிக உள் மதிப்புகள் இருக்கின்றன.

பயிற்சி ஆவணங்களின் எண்ணிக்கை என்பது ஒரு மாதிரி கற்றுக்கொண்ட தரவுத்தொகுப்பின் அளவை விவரிக்கிறது, ஒரே நேரத்தில் பயனர்களின் எண்ணிக்கை என்பது சர்வர் உள்கட்டமைப்பு மற்றும் தேவை பற்றிய ஒன்றை விவரிக்கிறது — இரண்டுமே மாதிரிக்குள் பதிக்கப்பட்ட சரிசெய்யக்கூடிய எடைகளின் எண்ணிக்கையிலிருந்து முற்றிலும் வேறுபட்ட கருத்துகள்.

பெரிதாக இருப்பது தானாகவே சிறந்ததாக இருக்காது, ஏனெனில் நன்கு பயிற்றுவிக்கப்பட்ட சிறிய மாதிரிகள் பல பணிகளில் பெரிய மாதிரிகளுக்கு இணையாகவோ சிறப்பாகவோ செயல்பட்டு வருகின்றன, மாதிரி எப்படிப் பயிற்றுவிக்கப்படுகிறது என்பதும் அது எந்த தரவைப் பார்க்கிறது என்பதும் மொத்த பாராமீட்டர் எண்ணிக்கையைப் போலவே முக்கியமானதாக இருக்க முடியும் என்பதைக் காட்டுகிறது.