Wenn KI Bilder erfindet: Halluzinationen statt Dateien

Ein einziger Tweet verwandelte ein routinemäßiges Experiment in ein merkwürdiges kleines Interneträtsel. Ein Nutzer auf X sagte, er habe ChatGPTs Bildwerkzeug angewiesen, das angehängte Foto zu "rekonstruieren", doch es gab kein angehängtes Foto. Das Modell zögerte nicht. Es erfand eines.

Das Ergebnis? Merkwürdige, beunruhigende Bilder, die so wirken, als hätte jemand eine Kamera auf einen Fiebertraum gerichtet. Gesichter verzerren sich. Hintergründe verwandeln sich in unmögliche Texturen. Nutzer nannten sie unheimlich, manchmal regelrecht albtraumhaft. Kurze Aufforderungen. Wilde Ergebnisse.

Was hier zu sehen ist, ist ein klassischer Fall von KI-Halluzination, aber in Bildform. Wenn einem Modell die notwendigen Eingaben fehlen, kann es dennoch Inhalte erzeugen, indem es sich auf statistische Muster und interne Landkarten dessen stützt, wie Bilder üblicherweise aussehen. Das System füllt Lücken, anstatt zu sagen, "Ich habe diese Datei nicht." Das Ergebnis kann kreativ sein, oder es kann auf eine Weise falsch sein, die unheimlich wirkt.

Ist das ein Fehler in der Bildgenerierungspipeline oder nur eine seltsame Interpretation eines locker formulierten Prompts? Schwer zu sagen. Das Verhalten könnte daher rühren, wie das Tool Anweisungen analysiert, die auf einen Anhang verweisen, oder von interner Fallback-Logik, die versucht, hilfreich zu sein, wenn Daten fehlen. So oder so hebt der Vorfall ein allgemeineres Problem hervor: Modelle, die die Ausgabe über epistemische Zurückhaltung stellen.

Wenn eine KI das erfindet, was sie nicht hat, ist der Fehler nicht nur technischer Natur, sondern eine Designentscheidung, die wir korrigieren können.

Ob sich dies als behebbarer Fehler oder als Erinnerung an die Grenzen aktueller generativer Systeme erweist, die Diskussion ist nützlich. Wer entscheidet, was eine KI erfinden darf? Und wer behebt es, wenn diese Erfindungen einem digitalen Albtraum ein wenig zu nahekommen?