Quration Play

tech

ChatGPT或Claude這類AI會把不存在的論文、事件或人物當成事實般自信地回答，這種傾向稱為'幻覺'。即使增加訓練資料，這種現象也永遠無法完全消失。

它的結構性原因是什麼?

因為模型被訓練成預測統計上最可能出現的下一個詞，而沒有另一套機制去驗證某項陳述是否真的屬實
LLM是一個生成聽起來合理文字的機率引擎——它並不是一個會查詢並比對事實資料庫的系統。
▶ Quration Play

tech

這款微軟晶片叫什麼名字？這款模型叫什麼名字?傳真機和電話，哪一個先被發明出來？誰被廣泛視為世界上第一位電腦程式設計師？網址開頭的「http」是哪幾個字的縮寫？「Wi-Fi」其實是什麼的縮寫？那第一個網站的內容是關於什麼的？GPS裝置需要幾顆衛星才能精準定位你的位置?1969年早期網際網路傳出的第一則訊息是什麼?垃圾郵件為什麼被稱為「spam」？史上第一個電腦「bug」，照字面說究竟是什麼？上網時的「cookie」是什麼?

Quration — Quration Play