AI가 알려준 통계 수치나 판례를 업무 문서에 그대로 옮기기 전, 실무자의 안전장치로 통하는 습관은?

AI 모델은 틀린 숫자, 인용문, 법적 판례를 맞는 것과 똑같이 자신 있는 어조로 말할 수 있습니다. 이런 오작동을 '환각(hallucination)'이라고 부릅니다. 그래서 실무자의 습관은 중요한 내용에 대해서는 출처 링크를 요구하고, 실제 문서에 들어가기 전에 원문을 직접 확인하는 것입니다. AI의 표현만 믿고 넘어가지 않는 거죠.

같은 말을 반복한다고 사실이 되는 건 아닙니다. AI는 틀린 사실도 두 번째에 똑같이 유창하게 재진술할 수 있으니, '두 번 말하면 진짜'라는 건 헛된 안심일 뿐입니다. 그리고 '어차피 아무도 숫자를 확인하지 않으니 괜찮다'는 생각이야말로 조작된 인용문이 실제 업무 문서에 스며들게 만드는 안일함입니다.

검증이 가장 쉬운 방법은 검색 기능이 있는 AI에게 그 주장을 실시간 출처와 대조해달라고 요청하는 것입니다. 적어도 그 숫자가 어디서 나왔다고 하는지는 드러나니까요. 하지만 원본 문서나 판결문을 직접 열어 확인하는 마지막 단계야말로 '맞는 것 같다'와 '실제로 맞다'를 가르는 지점입니다.