Quration AIQ

basics

Yıllarca, yapay zekanın en büyük yatırımlarını basit bir inanç haklı çıkardı: modele daha fazla veri ve işlem gücü ver, performans artmaya devam etsin.

Milyar dolarlık bahislerin gerekçesi olan bu ampirik kurala ne ad verilir?

Scaling laws (ölçeklendirme yasaları)
Ölçeklendirme yasaları, ölçek ile performans arasındaki öngörülebilir bağlantıyı tanımlar ve mega yatırım yarışının temelini oluşturur. Son zamanlarda, ön eğitimin sınırları tartışılırken yeni bir eksen olarak 'çıkarım anı ölçeklendirmesi' (inference-time scaling) yükseliyor.

Ölçeklendirme yasaları (scaling laws), bu inancın arkasındaki ampirik örüntüdür — bir modelin boyutunu, eğitim verisini ve harcanan hesaplama gücünü artırmanın, belirli bir noktaya kadar performansta oldukça öngörülebilir gelişmeler ürettiğini gösteren gözlemlenmiş ilişkilerdir; bu da yatırımcılara giderek daha büyük eğitim çalışmalarına muazzam meblağlar taahhüt etmek için bir gerekçe verdi.

Moore Yasası, bilgisayar çiplerinin zamanla transistör yoğunluğunu kabaca ikiye katlaması tarihsel eğilimini tanımlar, Murphy Yasası ise ters gidebilecek her şeyin ters gideceğine dair alaycı bir sözdür — hiçbiri yapay zekânın en büyük yatırımlarını haklı çıkaran veri-ve-hesaplama-performans ilişkisini tanımlamaz.

Daha yakın zamanda ilgi 'çıkarım zamanı ölçeklendirmesine' kaydı — bir modelin sadece eğitim sırasında büyütülmesi yerine, cevap verdiği anda daha uzun düşünmesine izin vermenin de performansı güvenilir biçimde artırabildiği keşfi — bu da geleneksel ön eğitim ölçeklendirmesinin azalan getirilerle karşılaşıp karşılaşmadığı tartışmasını ateşledi.

▶ Quration AIQ

basics

Belirli görevlere özgü yapay zekanın ötesindeki hedefin — insan kadar genel bir makine zekası — kısaltması nedir?Bunlara ne ad verilir?Bu şemsiye terim nedir?Bu parçaların adı nedir?Bir yapay zeka modeli için '70 milyar parametreli' dendiğinde, sayılan şey nedir?Bu olguya ne ad verilir?Bu makalenin adı neydi?Bu insan-geri-bildirimli eğitim aşamasının adı nedir?Bu sınırın adı nedir?Herkesin indirip kendi sunucusunda çalıştırabildiği 'açık ağırlıklı' modellerin bayraktarı Llama hangi şirket tarafından yayımlandı?Birden fazla girdi ve çıktı türünü işleyebilen modellere ne denir?Bu 'akıl yürütme modelleri' bu duraksama sırasında ne yapıyor?

Quration — Quration AIQ