이런 텍스트 '워터마킹'은 대체로 어떻게 작동할까요?

텍스트 워터마킹은 모델이 글을 생성하는 동안 여러 단어 선택지에 부여하는 확률을 미묘하게 편향시켜, 나중에 탐지 소프트웨어가 알아볼 수 있는 특정한 통계적 패턴을 따르게 만드는 방식으로 작동합니다. 그런데도 사람이 읽었을 때는 문장이 완전히 자연스럽게 느껴집니다. 이 편향은 눈에 보이는 기호가 아니라 단어 선택 패턴 속에 자리 잡고 있어서 글의 겉모습이나 느낌은 전혀 달라지지 않지만, 이를 확인하도록 설계된 도구는 탐지할 수 있는 서명을 남깁니다.

글에 눈에 보이는 도장을 찍는 것과는 다릅니다. 핵심은 독자에게는 보이지 않으면서도 소프트웨어로는 탐지 가능해야 한다는 것이니까요. 여러분의 이름 같은 개인정보를 담아두는 것도 아닙니다. 이 패턴은 저장된 개인정보가 아니라 통계적인 지문일 뿐입니다.

이 워터마크가 꽤 특정한 패턴에 의존하다 보니, AI가 쓴 글을 크게 바꿔 말하거나 번역하거나 대폭 편집하면 그 신호가 약해지거나 사라질 수 있습니다. 이것이 AI 글쓰기를 잡아내는 완벽한 방법이라기보다는 유용하지만 불완전한 도구인 이유 중 하나입니다.