こうした情報を業務文書にそのまま転記する前に、実務者の安全習慣として定着しているのは？

AIモデルは、間違った数値や引用、判例であっても、正しいものと同じ自信満々な口調で語ることがある――この失敗のパターンは「ハルシネーション」と呼ばれる。だからこそ、専門職としての習慣は、重要な内容については必ず出典リンクを求め、AIの言い回しをそのまま信用する前に自分で原典を確認することだ。

繰り返し言われたことは何も証明しない。AIは間違った事実であっても二度目もまったく同じ自信を持って再確認するので、「二度言ったなら本当だ」というのは誤った安心にすぎない。また、「どうせ誰も確認しないだろう」という思い込みこそ、捏造された引用が実際の仕事にすり込まれてしまう油断そのものだ。

検証を行う際には、検索機能付きのAIに、その主張が実在する情報源と照らして正しいかを確認させる方法が手軽だ。少なくとも、数値がどこから来たとされているのかは表に出てくる。しかし最終的には、原典の文書や判決文を自分で開いて確認するという一手間こそが、「それらしく聞こえる」ことと「実際に正しい」ことを分ける。