Quration AIQ

basics

在一段很長的對話裡，AI 有時看起來會「忘記」你一開始說的話——這是因為模型一次能處理的文字量，其實存在一個硬性上限。

這個上限叫什麼？

上下文視窗（Context window）
上下文視窗是模型一次能處理的 token 上限。早期的 GPT-3 大約只能處理 2000 個 token，如今的模型已經能擴展到數十萬甚至上百萬。
▶ Quration AIQ

basics

「開放權重」模型的旗艦代表 Llama，是由哪家公司發布的？我們把這種能同時處理多種輸入與輸出形式的模型叫什麼？這些「推理模型」在停頓期間，到底在做什麼？這種做法叫什麼？它是什麼？業界主要的應對方式是什麼？這條為千億級投資背書的經驗法則叫什麼？這個超越特定任務型 AI、目標是打造像人類一樣通用機器智慧的詞，其縮寫是什麼？這些叫什麼？這個統稱叫什麼？這些小碎片叫什麼？當人們說某個 AI 模型有「700 億參數」時，他們數的到底是什麼？

Quration — Quration AIQ