Quration Play

tech

ChatGPTやClaudeのようなAIは、実在しない論文や出来事、人物をあたかも事実のように自信たっぷりに語ってしまうことがあり、これは『ハルシネーション』と呼ばれます。

学習データを増やしても完全には消えないこの現象の、構造的な原因は何でしょうか?

モデルは、ある記述が本当に正しいかを検証する別の仕組みを持たず、統計的に最も確率の高い次の単語を予測するように訓練されているから
LLMはもっともらしく聞こえる文章を生成する確率エンジンであり、事実のデータベースを照会して突き合わせるシステムではありません。
▶ Quration Play

tech

このマイクロソフトのチップは何と呼ばれているか?このモデルの名称は何か?ファクスと電話、先に発明されたのはどちらでしょう?世界初のコンピュータープログラマーと広くみなされているのは誰でしょう?ウェブアドレスの先頭に付く「http」は、何の略でしょう?「Wi-Fi」は実際には何の略でしょう?その最初のウェブサイトは何についてのものだったでしょう?GPS機器が現在地を正確に特定するには、いくつの衛星が必要でしょう?1969年に初期のインターネットで送られた最初のメッセージは何だったでしょう?迷惑メールが「スパム」と呼ばれるのは、何が由来でしょう?最初のコンピューターの「バグ」とは、文字どおり何だったのでしょう?ウェブ閲覧の「クッキー(cookie)」とは?

Quration — Quration Play