Im US-Senat hält Dick Durbin ein Foto in die Höhe, das die letzten Sekunden des Krankenpflegers Alex Pretti zeigen soll, erschossen von Bundesbeamten in Minneapolis. Ein Mann stürzt nach vorn, dahinter zielt eine Waffe auf seinen Rücken. Und darüber steht eine Uniform ohne Träger, denn dem Beamten auf dem Bild fehlt der Kopf. Er ist nicht verdeckt und nicht angeschnitten, er ist einfach nicht da, so wie in einem Traum die Treppe fehlt, über die man gerade gegangen ist.
Das Foto ist mit KI bearbeitet worden. Neun Millionen Menschen hatten es zuvor auf X gesehen. Es gab auch einen Leserhinweis, der genau das feststellte. Bis in den Plenarsaal drang der Hinweis nicht. Das Büro des Senators teilte hinterher mit, das Bild sei „leicht bearbeitet“ gewesen, man bedauere den Fehler. Man kann diese Geschichte als Panne lesen. Das wäre bequem und es wäre falsch.
Zoom in. Enhance.
Was in Minneapolis nach dem tödlichen Schuss auf den Krankenpfleger Alex Pretti geschah, ist in seiner Mechanik erschreckend banal. Es gab verwackelte Handyaufnahmen, körnig, unterbelichtet, an den entscheidenden Stellen unscharf. Also taten Menschen das, was sie seit fünfundzwanzig Jahren im Fernsehen sehen: Sie ließen das Bild schärfen. „Zoom in. Enhance.“ Der Satz stammt aus den Krimiserien der Jahrtausendwende, wo ein Techniker am Rechner eine Nummernschildkachel so lange vergrößert, bis sie lesbar wird. Die Rechtswissenschaft hat der Folge einen Namen gegeben, den CSI-Effekt: Geschworene fingen an, solche Wunder auch von echten Kriminaltechnikern zu erwarten.
Der Unterschied ist nur: Damals war es Unsinn, aber noch ein ziemlich harmloser Unsinn. Es gab keinen CSI-Effekt-Knopf. Heute gibt es den Knopf.
Was die Maschine tut, wenn sie nichts weiß
Ein unscharfes Foto enthält eine bestimmte, endliche Menge an Information. Ist ein Gesicht auf zwölf mal zwölf Bildpunkte verteilt, dann sind darin keine Augenbrauen mehr enthalten, keine Nasenform, keine Details. Diese Information ist nicht versteckt, sie ist vernichtet, so endgültig wie die Asche eines verbrannten Briefes.
Ein Bildmodell holt sie auch nicht zurück. Es fragt sich, welches scharfe Bild, gäbe es eines, plausibel zu diesem Fleck geführt haben könnte, und malt dieses Bild aus dem Gedächtnis von Milliarden von Trainingsbildern. Heraus kommt ein Gesicht, das zum Fleck passt, und eine Bewegung, die zum Verwischen passt. Mit dem Mann vor der Kamera haben beide im Grunde nur den Umriss gemeinsam. Das Ergebnis sieht aber nicht aus wie diese Vermutung, sondern wie eine Fotografie. Denn genau darauf ist die Maschine trainiert. Sie liefert Schärfe, wo vorher Unwissen war, und die Schärfe ist die Lüge.
Der kopflose Beamte ist dabei kein Fehler im System, sondern das System, das sich einmal mehr vergaloppiert. Irgendwo im Rauschen war zu wenig Anhaltspunkt, also hat der Rechner die Stelle einfach zugemacht. Es ist ein Bild, das sich selbst verrät. Doch niemand schaut hin. Und da liegt das Problem.
Die Lehre aus Blow-Up, sechzig Jahre später
In Antonionis „Blow-Up“ von 1966 vergrößert ein Modefotograf eine beiläufige Parkaufnahme immer weiter, weil er im Gebüsch etwas zu erkennen glaubt. Je näher er herangeht, desto mehr zerfällt das Bild in Korn, bis am Ende nur noch abstrakte Grafik übrig ist. Der Film war ein Misstrauensvotum gegen die Fotografie, aber ein ehrliches: Das Bild gab nichts mehr her und gab auch offen zu, dass es nichts mehr hergab.
Genau diese Ehrlichkeit haben wir abgeschafft. Der heutige Thomas drückt auf „Verbessern“ und bekommt statt Korn ein Gesicht. Das Rauschen war fast zwei Jahrhunderte lang das eingebaute Eingeständnis der Bildmedien, das zeigt: hier ist Schluss, hier weiß ich nichts mehr. Es ist ersatzlos gestrichen. Was bleibt, ist eine Oberfläche, die immer aussieht, als wüsste sie Bescheid.
Nicht die Fälscher sind das Problem
Die eigentliche Pointe des Falls liegt woanders, und sie ist unbequem. Diese Bilder wurden nicht von einem Geheimdienst gestreut. Sie stammen mutmaßlich von Leuten, die auf der Seite des Getöteten standen und die Wahrheit besser sichtbar machen wollten. Das ist die neue Lage: Die gefährlichste Bildmanipulation kommt nicht mehr aus der Propagandaabteilung, sondern aus der Empörung.
Und sie ist deshalb so wirksam, weil sie nah an der Wirklichkeit bleibt. Ein erfundenes Bild vom Papst in der Daunenjacke erkennt jeder, weil es außerhalb des Möglichen liegt. Hier aber wurde ein echtes Foto eines echten Ereignisses nur ein wenig aufgeräumt: die Haltung etwas eindeutiger, der Moment etwas lesbarer. Die Fälschung sitzt im Millimeterbereich, dort, wo aus einem verwackelten Vorgang eine Anklage wird. Wer den Unterschied prüfen will, muss das Original kennen. Und wer kennt schon das Original.
Die Dividende des Lügners
Der Rückstoß kam prompt. Weil so viele manipulierte Aufnahmen kursierten, begannen Nutzer, auch die geprüften, von Reportern aufgenommenen und von der Familie bestätigten Videos für Maschinenware zu erklären. Der Mechanismus hat einen Namen, die Dividende des Lügners: Sobald alles gefälscht sein könnte, muss niemand mehr etwas bestreiten. Es genügt, „KI“ zu rufen. Der Zweifel arbeitet ab jetzt kostenlos für den, der etwas zu verbergen hat.
Das ist der wirkliche Schaden, und er ist größer als jedes einzelne Falschbild. Ein gefälschtes Foto beschädigt eine Geschichte. Die allgemeine Fälschbarkeit beschädigt die Kategorie Beweis. Als der Zapruder-Film 1963 die Ermordung Kennedys festhielt, war die Aufnahme über alle Deutungsschlachten hinweg der eine feste Punkt, an dem sich die Streitenden abarbeiteten. Ein solches Material gibt es künftig nicht mehr. Es wird nur noch Aufnahmen geben, deren Echtheit zur Ansichtssache wird, entlang der Frage, wem sie nützen.
Und wer entscheidet? Auf X antwortete der hauseigene Chatbot auf Anfragen zur Echtheit des verbürgten Videos, es wirke „KI-generiert oder verändert“. Der Schiedsrichter halluziniert mit. Vollständiger könnte sich der Kreis kaum schließen.
Was daraus folgt
Der Reflex, jetzt nach besseren Erkennungswerkzeugen zu rufen, ist verständlich und wird trotzdem nicht tragen, weil Erkenner und Erzeuger dieselben Fortschritte machen und der Vorsprung immer beim Erzeuger liegt. Vermutlich hilft nur eine Umstellung, die weniger nach Technik klingt und mehr nach Handwerk: Die brauchbare Frage ist künftig die nach der Herkunft. Wer hat es aufgenommen, wer hat es zuerst veröffentlicht, gibt es eine zweite Aufnahme desselben Vorgangs aus anderer Richtung. Herkunft schlägt Augenschein. Journalisten wissen das seit jeher, für alle anderen ist es neu und lästig.
Dazu gehört eine zweite Regel, die im Fall Minneapolis besonders weh tut: Ein unscharfes Bild darf unscharf bleiben. Die Weigerung, es aufzuhübschen, ist die letzte verbliebene Form von Redlichkeit im Bildumgang. Wer schärft, behauptet.
Der Senator hat ein falsches Bild auf seiner Staffelei vorgeführt. Aber der Mann auf dem Bild ist wirklich tot, erschossen von Beamten, und daran ändert der fehlende Kopf des Uniformierten nichts. Die Fälschung war unnötig, denn das Echte hätte gereicht. Genau deshalb ist sie so verheerend: Sie hat dem, was wahr ist, den Beweis weggenommen und ihn durch eine Illustration ersetzt. Die synthetische Wahrheit ist keine Prognose mehr. Sie ist protokolliert, mit Sitzungsdatum, vor der versammelten Kammer.
Anzeige
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.
FAQ
Nach den tödlichen Schüssen von Bundesbeamten auf den Krankenpfleger Alex Pretti in Minneapolis verbreiteten sich auf Facebook, TikTok, Instagram und X massenhaft mit KI bearbeitete Fotos und Videos des Vorgangs. Sie beruhen überwiegend auf echten, aber unscharfen Handyaufnahmen, die Nutzer von KI-Werkzeugen schärfen ließen. Ein einzelnes bearbeitetes Bild erreichte auf X über neun Millionen Aufrufe, ein KI-bearbeitetes Video auf Facebook mehr als 44 Millionen.
Der demokratische Senator Dick Durbin hielt bei einer Rede im Senat ein Foto hoch, das Alex Pretti beim Sturz nach dem Schuss zeigen soll, ohne zu wissen, dass es mit KI verändert worden war. Sein Büro erklärte gegenüber NBC News, das Bild sei online weit verbreitet gewesen, die Mitarbeiter hätten die Bearbeitung erst hinterher bemerkt und bedauerten den Fehler. Auf dem Bild fehlt einem der abgebildeten Beamten der Kopf.
Ein unscharfes Foto enthält die fehlenden Details nicht, sie sind bereits bei der Aufnahme verloren gegangen. KI-Werkzeuge stellen sie deshalb nicht wieder her, sondern erzeugen neue Bildinhalte, die zum vorhandenen Fleck plausibel passen. Das Ergebnis sieht scharf und fotografisch aus, entspricht aber nicht der Wirklichkeit. Ben Colman, Chef der Erkennungsfirma Reality Defender, nennt solche Bilder bestenfalls grobe Annäherungen und schlimmstenfalls komplette Erfindungen.
Weil sie nah an der Wirklichkeit bleiben. Vollständig erfundene Deepfakes zeigen oft unrealistische Szenen und fallen schnell auf. Die Bilder aus Minneapolis beruhen dagegen auf verifizierten Aufnahmen und verändern nur Einzelheiten wie Schärfe, Haltung oder Merkmale der Beteiligten. Dadurch wirken sie glaubwürdig, und ihre Manipulation lässt sich praktisch nur erkennen, wenn man das unbearbeitete Original kennt.
Die Dividende des Lügners, englisch liar’s dividend, bezeichnet den Vorteil, den Täuschende daraus ziehen, dass jede Aufnahme gefälscht sein könnte. Sobald KI-Fälschungen verbreitet sind, genügt die Behauptung, ein echtes Foto oder Video sei KI-erzeugt, um Zweifel zu säen und Verantwortung abzuwehren. In Minneapolis traf das drei von NBC News unabhängig verifizierte Videos, die Nutzer für KI-Produkte erklärten.
Nein. Auf X antwortete der plattformeigene Chatbot Grok auf Nachfragen zur Echtheit eines verbürgten Videos von Alex Pretti mehrfach, die Aufnahme wirke KI-generiert oder verändert. Tatsächlich war das Video echt und von Reportern aufgenommen worden. Für Nachrichtenkonsumenten gibt es derzeit kaum Werkzeuge, die eine KI-Bearbeitung verlässlich feststellen können.
Nur begrenzt. Community Notes kennzeichnen eine KI-Bearbeitung, verhindern die Verbreitung aber nicht. Das auf X am weitesten verbreitete manipulierte Bild aus Minneapolis erhielt einen Hinweis, dass es mit KI bearbeitet worden sei, und kam trotzdem auf über neun Millionen Aufrufe. Ein als KI-verbessert markiertes Video auf Facebook erreichte mehr als 44 Millionen Aufrufe.
Am zuverlässigsten über die Herkunft statt über das Aussehen. Zu klären ist, wer die Aufnahme gemacht hat, wo sie zuerst veröffentlicht wurde und ob es eine zweite, unabhängige Aufnahme desselben Vorgangs aus anderer Richtung gibt. Nachrichtenredaktionen arbeiten so: NBC News verifizierte drei Videos des Vorfalls unabhängig voneinander, eines davon zusätzlich über einen Zeugen und über die Familie des Getöteten.
Alex Pretti war ein Krankenpfleger einer Intensivstation, der in Minneapolis von Bundesbeamten erschossen wurde. Gut eine Woche vor seinem Tod war er nach mehreren verifizierten Videoaufnahmen in eine Auseinandersetzung mit Einwanderungsbeamten geraten. Er ist einer von zwei US-Bürgern, die in Minneapolis in kurzer Folge getötet wurden; die zweite ist Renee Nicole Good.
