Bevor man eine von KI gelieferte Statistik oder einen Gerichtsfall in ein Arbeitsdokument kopiert — was ist die Sicherheitsgewohnheit von Profis?

Weil KI-Modelle falsche Zahlen, Zitate oder Rechtszitate mit demselben selbstsicheren Ton äußern können wie korrekte – ein Fehlverhalten, das man Halluzination nennt –, besteht die professionelle Gewohnheit darin, für alles Wichtige Quellenangaben zu verlangen und die Originale selbst zu prüfen, bevor es in ein echtes Dokument einfließt, statt sich allein auf die Formulierung der KI zu verlassen.

Wiederholung beweist nichts: Eine KI kann einen falschen Fakt beim zweiten Mal genauso flüssig wiederholen, weshalb 'wenn sie es zweimal sagt, muss es stimmen' eine trügerische Beruhigung ist – und die Annahme, ohnehin niemand prüfe Zahlen nach, ist genau die Sorglosigkeit, die erfundenen Zitaten den Weg in echte Arbeit ebnet.

Am einfachsten lässt sich die Behauptung überprüfen, wenn man eine suchfähige KI bittet, sie gegen aktuelle Quellen gegenzuprüfen – das legt zumindest offen, woher die Zahl angeblich stammt –, doch der letzte Schritt, das Originaldokument oder das Urteil selbst zu öffnen, ist immer noch das, was 'klingt richtig' von 'ist richtig' trennt.