Ratgeber · KI
Was ist eine «Halluzination» bei KI – und warum passiert sie?
In der Welt der künstlichen Intelligenz spricht man von einer «Halluzination», wenn eine KI wie ChatGPT etwas behauptet, das überzeugend klingt, aber gar nicht stimmt. Sie erfindet dann zum Beispiel eine Jahreszahl, einen Buchtitel, ein Zitat oder eine ganze «Tatsache» – und präsentiert sie genauso selbstsicher wie eine richtige Antwort. Genau das macht Halluzinationen tückisch: Sie sehen auf den ersten Blick völlig glaubwürdig aus.
Ein anschauliches Beispiel
Stellen Sie sich einen sehr redegewandten Menschen vor, der auf jede Frage eine flüssige Antwort gibt – auch dann, wenn er die Antwort gar nicht kennt. Statt «Ich weiss es nicht» zu sagen, formuliert er etwas Plausibles, das gut klingt. Manchmal trifft er damit ins Schwarze, manchmal liegt er komplett daneben. Eine KI verhält sich ganz ähnlich.
Warum passiert das überhaupt?
Der Grund liegt darin, wie ChatGPT funktioniert. Die KI «weiss» Dinge nicht so, wie ein Lexikon sie speichert. Sie ist keine Datenbank mit geprüften Fakten. Stattdessen hat sie aus riesigen Mengen Text gelernt, welche Wörter typischerweise aufeinanderfolgen. Vereinfacht gesagt: Sie sagt bei jeder Antwort immer wieder das wahrscheinlichste nächste Wort voraus.
Das bedeutet:
- Die KI strebt nach einer Antwort, die plausibel klingt – nicht zwingend nach der Wahrheit.
- Sie versteht den Inhalt nicht wirklich, sondern erkennt nur Muster in der Sprache.
- Fehlt ihr eine Information, lässt sie die Lücke nicht leer, sondern füllt sie mit etwas, das ins Muster passt.
Deshalb entsteht oft Unsinn gerade dort, wo es um seltene Details geht: genaue Zahlen, Namen, Quellen oder sehr spezielle Fachfragen.
Warum klingt es trotzdem so überzeugend?
Weil die KI darauf trainiert ist, flüssige, gut formulierte Sätze zu schreiben. Eine falsche Information in einem perfekt gebauten Satz wirkt schnell vertrauenswürdig – obwohl der Inhalt frei erfunden ist. Die schöne Sprache sagt nichts über die Richtigkeit aus.
So schützen Sie sich
- Wichtiges nachprüfen: Zahlen, Namen, Daten und Fakten kurz aus einer zweiten Quelle bestätigen.
- Nach Quellen fragen: «Woher stammt diese Information?» – und die Quelle selbst prüfen.
- Skeptisch bleiben bei Details: Je spezifischer und seltener die Frage, desto höher das Risiko.
- Gesunden Menschenverstand nutzen: Wirkt etwas zu glatt oder zu praktisch, lohnt sich ein zweiter Blick.
Das Wichtigste in einem Satz
ChatGPT ist ein hervorragender Helfer für Sprache und Ideen – aber kein Garant für Wahrheit. Wer das weiss und wichtige Angaben überprüft, nutzt die KI sicher und mit gutem Gefühl.
Sie haben Fragen rund um KI, Computer oder Ihre digitale Arbeit? Wir helfen Ihnen verständlich weiter – in Schaffhausen.
Kontakt aufnehmen Zum Anfang: Was ist ein Prompt?