Quration AIQ

prompt

AI 服務裡藏著一個省錢技巧：重複利用先前已經算過的提示詞前綴（系統指令、文件內容），而不是每次都重新計算一遍。

這叫什麼？

提示詞快取（Prompt caching）
提示詞快取會儲存並重複利用相同輸入的計算結果，大幅降低成本與延遲——對於需要反覆讀取同一段上下文數十次的代理來說格外重要。
▶ Quration AIQ

prompt

設計指令以得到你想要的結果，這門一度被吹捧成「年薪破百萬」的技能叫什麼？這種在提示詞裡放入範例的技巧叫什麼？這種讓模型先寫出推理過程的技巧叫什麼？這種「檢索增強生成」的縮寫是什麼？這叫什麼？這種新型攻擊叫什麼？這種數值化的表示方式叫什麼？這門新興技能叫什麼？這種能在不同對話之間保留使用者資訊的功能，通常叫什麼？是什麼技術讓這一躍成為可能？放入指示和參考文件，就能做出「公司規章機器人」或「英語家教」，ChatGPT 把這種自訂聊天機器人叫什麼？這種賦予 AI 角色、藉此塑造它視角和深度的技巧叫什麼？

Quration — Quration AIQ