Quration AIQ

basics

বছরের পর বছর ধরে একটা সরল বিশ্বাস AI-এর সবচেয়ে বড় বিনিয়োগগুলোকে যুক্তিসঙ্গত করে এসেছে: মডেল, ডেটা আর কম্পিউট বাড়ালেই পারফরম্যান্স বাড়তে থাকবে।

বছরের পর বছর AI ইন্ডাস্ট্রি একটা সরল বিশ্বাসে চলেছে: 'মডেল, ডেটা আর কম্পিউট বাড়ালে পারফরম্যান্স অনুমানযোগ্যভাবে বাড়বে।' বিলিয়ন-ডলার বাজির যুক্তি এই এম্পিরিক্যাল নিয়মটাকে কী বলা হয়?

স্কেলিং ল (Scaling laws)
স্কেলিং ল স্কেল আর পারফরম্যান্সের অনুমানযোগ্য সম্পর্ক বর্ণনা করে, যা মেগা-ইনভেস্টমেন্টের দৌড়ের ভিত্তি। সম্প্রতি প্রি-ট্রেনিং-এর সীমা নিয়ে বিতর্কের মাঝে 'ইনফারেন্স-টাইম স্কেলিং' নতুন অক্ষ হয়ে উঠছে।

স্কেলিং ল হলো এই বিশ্বাসের পেছনের অভিজ্ঞতালব্ধ প্যাটার্ন — একটি পর্যবেক্ষিত সম্পর্ক যা দেখায় একটি নির্দিষ্ট সীমা পর্যন্ত মডেলের আকার, প্রশিক্ষণ তথ্য এবং প্রয়োগ করা কম্পিউটিং শক্তি বাড়ালে মোটামুটি অনুমানযোগ্য কর্মক্ষমতার উন্নতি ঘটে, যা বিনিয়োগকারীদের ক্রমশ বৃহত্তর প্রশিক্ষণ চালানোয় বিপুল অর্থ বিনিয়োগ করার একটি যুক্তি দিয়েছিল।

মুরের সূত্র কম্পিউটার চিপে ট্রানজিস্টর ঘনত্ব সময়ের সাথে মোটামুটি দ্বিগুণ হওয়ার ঐতিহাসিক প্রবণতা বর্ণনা করে, আর মার্ফির সূত্র একটি কৌতুকপূর্ণ প্রবাদ যে যা ভুল হতে পারে তা হবেই—কোনোটিই এআই-এর সবচেয়ে বড় বিনিয়োগ যুক্তিসঙ্গত করার সেই তথ্য-ও-কম্পিউটিং-থেকে-কর্মক্ষমতার সম্পর্ক বর্ণনা করে না।

সাম্প্রতিককালে মনোযোগ সরে গেছে 'ইনফারেন্স-টাইম স্কেলিং'-এর দিকে — এই আবিষ্কার যে প্রশিক্ষণের সময় শুধু মডেলকে বড় করার বদলে উত্তর দেওয়ার মুহূর্তে মডেলকে বেশি সময় ভাবতে দিলেও নির্ভরযোগ্যভাবে কর্মক্ষমতা বাড়ে—যা ঐতিহ্যবাহী প্রি-ট্রেনিং স্কেলিং ক্রমহ্রাসমান লাভের মুখে পড়ছে কিনা তা নিয়ে বিতর্ক উসকে দিয়েছে।

▶ Quration AIQ

basics

টাস্ক-নির্দিষ্ট AI-এর বাইরে, মানুষের মতো সাধারণ বুদ্ধিমত্তা নিয়ে মেশিন ইনটেলিজেন্সের লক্ষ্যের সংক্ষিপ্ত নাম কী?এগুলোকে কী বলা হয়?এর ছাত্রছায়া টার্মটা কী?এই টুকরোগুলোকে কী বলা হয়?কোনো AI মডেলকে যখন '৭০ বিলিয়ন প্যারামিটার'-এর বলা হয়, তখন আসলে কী গোনা হচ্ছে?এই ঘটনাকে কী বলা হয়?পেপারটির নাম কী?এই হিউম্যান-ফিডব্যাক ট্রেনিং স্টেপটিকে কী বলা হয়?এই সীমাকে কী বলা হয়?Llama — যাকে কেউ ডাউনলোড করে নিজের সার্ভারে চালাতে পারে এমন 'ওপেন-ওয়েট' মডেলের পতাকাবাহী — কোন কোম্পানি রিলিজ করেছিল?একাধিক ধরনের ইনপুট-আউটপুট সামলাতে পারা মডেলকে কী বলা হয়?এই 'রিজনিং মডেল'রা সেই থামার সময় আসলে কী করে?

Quration — Quration AIQ