basics

Model bahasa seperti ChatGPT tidak membaca ayat secara keseluruhan. Ia memproses teks yang dipotong kepada cebisan kecil — dan teks Bahasa Melayu (atau Korea) boleh terpecah kepada lebih banyak cebisan berbanding Bahasa Inggeris, menjadikan perenggan yang sama 'lebih mahal' untuk diproses.

Apa nama cebisan ini?

Q: Apa nama cebisan ini?

Token. LLM memproses teks sebagai token. Bahasa yang bukan Inggeris kebiasaannya menggunakan lebih banyak token untuk maksud yang sama, yang menjadi kelemahan dari segi kos API dan had konteks.

Token ✓
Piksel
Paket

Token
LLM memproses teks sebagai token. Bahasa yang bukan Inggeris kebiasaannya menggunakan lebih banyak token untuk maksud yang sama, yang menjadi kelemahan dari segi kos API dan had konteks.

▶ Quration AIQ

basics

Apabila orang menyebut model AI mempunyai '70 bilion parameter,' apa sebenarnya yang mereka kira?Apa nama fenomena ini?Apa tajuknya?Apa nama langkah latihan maklum balas manusia ini?Apa nama had ini?Llama, model unggulan 'berat terbuka' yang boleh dimuat turun dan dijalankan sesiapa sahaja di pelayan sendiri, dikeluarkan oleh syarikat mana?Apa panggilan bagi model yang mengendalikan pelbagai bentuk input dan output?Apa yang dilakukan model 'penaakulan' ini semasa jeda itu?Apa nama pendekatan ini?Apa itu?Apa salah satu respons utama industri?Apa nama peraturan empirikal ini — justifikasi taruhan bernilai bilion — dipanggil?

Quration — Quration AIQ