Quration AIQ

basics

Model bahasa seperti ChatGPT tidak membaca kalimat secara utuh. Teks diproses dalam potongan-potongan kecil — dan teks bahasa Korea terpecah menjadi lebih banyak potongan dibanding bahasa Inggris, membuat teks yang sama 'lebih mahal' diproses.

Apa nama potongan-potongan ini?

Token
LLM memproses teks sebagai token. Bahasa Korea cenderung memakai lebih banyak token dibanding bahasa Inggris untuk makna yang sama, sehingga dirugikan dalam harga API dan batas konteks.
▶ Quration AIQ

basics

Ketika orang menyebut sebuah model AI memiliki '70 miliar parameter,' apa sebenarnya yang dihitung?Apa nama fenomena ini?Apa judulnya?Apa nama langkah pelatihan berbasis umpan balik manusia ini?Apa nama batas ini?Llama, andalan model 'open-weight' yang bisa diunduh dan dijalankan siapa saja di server mereka sendiri, dirilis oleh perusahaan mana?Apa sebutan untuk model yang menangani berbagai bentuk input dan output sekaligus?Apa yang dilakukan 'model penalaran' ini selama momen diam tersebut?Apa sebutan untuk pendekatan ini?Apa itu?Apa salah satu respons utama industri?Apa nama aturan empiris ini — pembenaran di balik taruhan miliaran dolar?

Quration — Quration AIQ