basics
لسنوات، حكم قناعة بسيطة صناعة الذكاء الاصطناعي: «كبّر النموذج والبيانات والحوسبة، والأداء يتحسّن بشكل متوقّع.»
'قوانين التوسع' هي النمط التجريبي وراء هذا الاعتقاد - علاقات مرصودة تُظهر أن زيادة حجم النموذج وبيانات تدريبه وقوة الحوسبة المخصصة له تنتج، حتى نقطة معينة، تحسينات في الأداء يمكن التنبؤ بها بشكل معقول، وهو ما منح المستثمرين مبرراً لالتزام مبالغ ضخمة بعمليات تدريب متزايدة الحجم.
قانون مور يصف الاتجاه التاريخي لتضاعف كثافة الترانزستورات في رقائق الحواسيب تقريباً مع مرور الوقت، وقانون مورفي مقولة ساخرة تقول إن كل ما يمكن أن يسوء سيسوء - ولا يصف أي منهما العلاقة بين البيانات والحوسبة والأداء التي بررت أكبر استثمارات الذكاء الاصطناعي.
تحول الاهتمام مؤخراً نحو 'التوسع وقت الاستدلال' - اكتشاف أن السماح للنموذج بالتفكير لفترة أطول لحظة الإجابة، لا فقط تكبير النموذج أثناء التدريب، يمكن أن يعزز الأداء أيضاً بشكل موثوق - ما أثار جدلاً حول ما إذا كان التوسع التقليدي في مرحلة ما قبل التدريب يواجه عوائد متناقصة.
basics
ما اختصار الهدف الذي يتجاوز الذكاء الاصطناعي المتخصص بمهمة واحدة — ذكاء اصطناعي عام كذكاء الإنسان؟ما اسمها؟ما المصطلح الجامع لها؟ما اسم هذه القطع؟فحين يقال إن نموذج ما يحتوي «سبعين مليار بارامتر»، ما الذي يُحصى هنا بالضبط؟ما اسم هذه الظاهرة؟ما اسمها؟ما اسم خطوة التدريب هذه القائمة على التغذية الراجعة البشرية؟ما اسم هذا الحد؟أي شركة أطلقته؟ما اسم النماذج التي تتعامل مع أكثر من نوع واحد من المدخلات والمخرجات؟ما الذي تفعله «نماذج الاستدلال» هذه خلال ذلك التوقف؟Quration — Quration AIQ