Quration Play

tech

ChatGPT나 Claude 같은 AI가 실존하지 않는 논문·사건·인물을 마치 사실인 것처럼 자신 있게 답하는 현상을 '환각(hallucination)'이라 부릅니다.

더 많은 데이터를 학습해도 이 현상이 완전히 사라지지 않는 구조적 원인은 무엇일까요?

모델이 '다음에 올 확률 높은 단어'를 예측하도록 학습되어, 사실 여부를 별도로 검증하지 않기 때문에
LLM은 '그럴듯한 문장'을 생성하는 확률 기계이지, 사실 데이터베이스를 검색해 대조하는 시스템이 아니다.
▶ Quration Play

tech

이 마이크로소프트 칩의 이름은 무엇일까요?이 모델의 이름은 무엇일까?팩스기와 전화기 중 먼저 발명된 것은 무엇일까요?세계 최초의 컴퓨터 프로그래머로 널리 인정받는 인물은 누구일까요?웹 주소 앞에 붙는 "http"는 무엇의 약자일까요?'Wi-Fi'는 사실 무엇의 약자일까요?그 첫 웹사이트는 무엇에 관한 것이었을까요?GPS 기기가 위치를 정확히 파악하려면 위성이 몇 개나 필요할까요?1969년 초창기 인터넷으로 전송된 맨 처음 메시지는 무엇이었을까요?정크 메일을 '스팸'이라고 부르게 된 이유는 무엇일까요?최초의 컴퓨터 '버그'는 말 그대로 무엇이었을까요?웹 브라우징의 '쿠키'란 무엇일까?

Quration — Quration Play