basics

Dalam percakapan panjang, AI bisa terkesan 'melupakan' apa yang kamu katakan di awal. Itu karena ada batas keras seberapa banyak teks yang bisa ditampung dan diproses model sekaligus.

Apa nama batas ini?

Q: Apa nama batas ini?

Context window. Context window adalah batas jumlah token yang bisa ditangani model sekaligus. GPT-3 awal hanya sekitar 2.000 token; model masa kini bisa mencapai ratusan ribu bahkan jutaan token.

Kartu memori
Context window ✓
Penyimpanan cache

Context window
Context window adalah batas jumlah token yang bisa ditangani model sekaligus. GPT-3 awal hanya sekitar 2.000 token; model masa kini bisa mencapai ratusan ribu bahkan jutaan token.

▶ Quration AIQ

basics

Llama, andalan model 'open-weight' yang bisa diunduh dan dijalankan siapa saja di server mereka sendiri, dirilis oleh perusahaan mana?Apa sebutan untuk model yang menangani berbagai bentuk input dan output sekaligus?Apa yang dilakukan 'model penalaran' ini selama momen diam tersebut?Apa sebutan untuk pendekatan ini?Apa itu?Apa salah satu respons utama industri?Apa nama aturan empiris ini — pembenaran di balik taruhan miliaran dolar?Apa akronim untuk tujuan di luar AI khusus tugas — kecerdasan mesin yang seumum kecerdasan manusia?Apa sebutan untuk ini?Apa istilah payungnya?Apa nama potongan-potongan ini?Ketika orang menyebut sebuah model AI memiliki '70 miliar parameter,' apa sebenarnya yang dihitung?

Quration — Quration AIQ