basics

Sa mahabang conversation, minsan mukhang nakalimutan na ng AI ang unang sinabi mo. Ito ay dahil may hard limit kung gaano karaming text ang kaya niyang hawakan at iproseso nang sabay.

Ano tawag sa limitasyong ito?

Q: Ano tawag sa limitasyong ito?

Context window. Ang context window ay ang cap sa bilang ng tokens na kaya ng model nang sabay. Noong una, kaya lang ng GPT-3 ng around 2,000; ngayon, kaya na ng mga modelo ang hundreds of thousands o millions pa.

Memory card
Context window ✓
Cache storage

Context window
Ang context window ay ang cap sa bilang ng tokens na kaya ng model nang sabay. Noong una, kaya lang ng GPT-3 ng around 2,000; ngayon, kaya na ng mga modelo ang hundreds of thousands o millions pa.

▶ Quration AIQ

basics

Ginawa ng aling kumpanya ang Llama, ang flagship ng mga 'open-weight' models na ito?Ano tawag sa mga model na kaya humawak ng iba't ibang forms ng input at output?Ano ba talaga ang ginagawa ng mga 'reasoning models' na ito sa pause?Ano tawag sa approach na ito?Ano ito?Ano ang isa sa mga main response ng industriya?Ano tawag sa empirical rule na ito — ang justification para sa billion-dollar bets?Ano ang acronym para sa goal na lampas sa task-specific AI — machine intelligence na kagaya ng general intelligence ng tao?Ano tawag sa mga ito?Ano ang umbrella term?Ano tawag sa mga pirasong ito?Kapag sinabi ng mga tao na ang isang AI model ay may '70 billion parameters,' ano talaga ang binibilang nila?

Quration — Quration AIQ