HintergrundKI

Desinformation: Der Soldat, den es nie gab

Moskaus neueste Waffe im Ukrainekrieg zielt auf etwas Verwundbareres als Kiew: auf Ihre Fähigkeit, überhaupt noch irgendetwas zu glauben.

Staub, ein zerschossener Graben, ein junges Gesicht, das direkt in die Kamera fleht. „Helft mir, ich will nicht sterben, ich bin doch erst 23.“ Die Stimme bricht, die Augen glänzen feucht, zwei Millionen Menschen haben den Clip angesehen und viele davon weitergereicht. Nur: Diesen Soldaten hat es nie gegeben. Er ist das Produkt eines Textbefehls, gerechnet von OpenAIs Videomodell Sora, und in der Ecke flackert bei manchen dieser Videos noch das Wasserzeichen, das die Fälschung als Fälschung ausweist. Wer genauer hinsieht, stolpert ohnehin über die Zahl. Die Ukraine zieht seit April 2024 ab 25 ein, vorher ab 27. Ein 23-Jähriger im Schützengraben ist keine Tragödie, sondern ein Rechenfehler der Propaganda.

Desinformation-Symbolbild: Diesen Soldaten, den es nie gab, haben wir selbst gefälscht.
Symbolbild: Diesen Soldaten, den es nie gab, haben wir selbst gefälscht.

Man könnte das für einen Ausrutscher halten, für die Schlamperei eines übermüdeten Trolls. Es ist das Gegenteil. Solche Videos laufen zu Dutzenden, tauchen auf TikTok und X auf, verschwinden, kommen wieder. Sie sollen die ukrainische Mobilmachung als Menschenschlächterei zeigen, das Vertrauen zwischen Regierung, Armee und Bevölkerung zersägen und dem Westen die Lust am Weiterhelfen austreiben. Der einzelne Clip ist dabei so wichtig wie der einzelne Tropfen bei einem Wasserschaden. Es geht um die Menge.

Die alte Kunst des Verschwindens

Neu ist an alldem weniger, als die neuen generativen KI-Möglichkeiten vermuten lassen. Dass Moskau am Bildgedächtnis retuschiert, ist so alt wie die Sowjetunion selbst. In Stalins Dunkelkammern verschwanden unliebsam gewordene Weggefährten aus den Aufnahmen, als hätten sie nie gelebt. Der Geheimdienstchef Nikolai Jeschow, einst neben Stalin am Moskau-Wolga-Kanal fotografiert, wurde nach seiner Hinrichtung sauber aus dem Bild geputzt; der Historiker David King hat diese Bilderpolitik in seinem Buch „The Commissar Vanishes“ dokumentiert. Die Technik hieß damals Retuschepinsel und Skalpell, sie kostete einen Spezialisten einen Tag Arbeit. Heute kostet dasselbe einen Satz und eine halbe Minute Rechenzeit. Was sich geändert hat, ist nicht der Wille zur Fälschung, sondern ihr Preis. Und wird etwas billig genug, hört es auf, die Ausnahme zu sein, und wird zum Grundrauschen.

Die Generalprobe lief in Hollywood

Was Moskau heute betreibt, hat das Kino schon 1997 durchgespielt. In Barry Levinsons Satire „Wag the Dog“ heuert ein Krisenberater, gespielt von Robert De Niro, einen Hollywood-Produzenten an, verkörpert von Dustin Hoffman, um von einem Sexskandal im Weißen Haus abzulenken. Ihre Lösung ist ein Krieg, den es nicht gibt, gegen Albanien. Den Beweis liefert eine einzige Einstellung: ein Mädchen, das mit einem Kätzchen im Arm vor einem brennenden Dorf flieht. In Wahrheit steht die junge Darstellerin vor blauem Tuch im Studio und drückt eine Tüte Chips an sich, Platzhalter für das Tier; das Kätzchen, das Dorf, die Flammen kommen erst später aus dem Rechner, das Fell weiß, auf telefonischen Wunsch des Präsidenten. Der Witz von damals ist die Nachricht von heute. Nur hat sich die Richtung umgekehrt. Levinsons Team brauchte ein ganzes Studio, um einen Krieg zu erfinden, den es nicht gab. Moskau braucht ein Textfeld, um Szenen aus einem Krieg zu fälschen, den es wirklich gibt.

Fassaden mit Impressum

Den Anfang machte im März 2022 ein noch grobes Video, in dem ein falscher Selenskyj seine Soldaten zur Kapitulation aufrief. Binnen Stunden war es entlarvt. Seither ist aus dem Einzelstück eine Serienfertigung geworden. Hinter den einzelnen Clips arbeitet inzwischen eine Fälschungsfabrik, arbeitsteilig und ausdauernd. Seit 2022 klont eine Moskauer Agentur mit dem harmlosen Namen Social Design Agency ganze Nachrichtenseiten, von der „Washington Post“ bis zum „Spiegel“, um erfundene Geschichten im vertrauten Layout unterzubringen; auch das Magazin, das über diese Masche berichtet, war unter den Geklonten, ausgerechnet. „Doppelgänger“ hat die Fachwelt die Aktion getauft.

Andere Netzwerke, in den Berichten von Microsoft und der Clemson University unter Namen wie Storm-1516 geführt, imitieren die Stimmen von Journalisten und Prominenten, betreiben über hundert Lokalzeitungen, die es nur als Website gibt, und schieben bezahlte Schauspieler ins Bild. Ein erfundenes Unfallopfer, das der Präsidentschaftskandidatin Kamala Harris eine Fahrerflucht andichtete, brachte es auf 2,7 Millionen Aufrufe, bevor jemand merkte, dass die Frau, der Sender und der Unfall gleichermaßen erfunden waren. Es sind Fassaden mit Impressum, hinter denen nichts steht.


Anzeige

Medienkompetenz
in Zeiten von KI

Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien. 


Desinformation: Das Ziel ist der Zweifel

Diese Fälschungen geraten oft erstaunlich plump: das Wasserzeichen im Bild, das falsche Alter, der Sender, den es nicht gibt. Warum macht Moskau sich dann überhaupt die Mühe? Die Antwort ist unbequem. Der eigentliche Gewinn liegt nicht darin, dass wir dem falschen Soldaten glauben. Er liegt darin, dass wir dem echten nicht mehr glauben.

Die Rechtswissenschaftler Robert Chesney und Danielle Citron haben dafür schon 2019 einen treffenden Begriff geprägt: die „Dividende des Lügners“. Je selbstverständlicher Bilder gefälscht sein könnten, desto leichter lässt sich alles Echte als Fälschung abtun. Das Massakervideo, der abgehörte Funkspruch, das durchgestochene Dokument, alles nur ein Deepfake, alles nur Propaganda der Gegenseite. Die plumpe Fälschung ist da fast schon Programm. Sie muss gar nicht überzeugen. Sie muss uns nur beibringen, dass Sehen längst kein Glauben mehr ist. Levinsons Kinofälscher mussten ihr Publikum noch überzeugen; das neue Spiel kommt ohne diese Bedingung aus. Genau das ist die synthetische Wahrheit, in die wir hineinrutschen: keine Welt der besseren Lügen, sondern eine, in der das Echte sein Vorrecht verliert und alles zu Aussage gegen Aussage schrumpft.

Die letzte Verteidigungslinie

Natürlich lässt sich das auch nüchterner betrachten. Bisher hat kaum eine dieser Fälschungen den Kriegsverlauf gedreht; die meisten werden binnen Stunden entlarvt, von ukrainischen Faktenprüfern, vom europäischen Beobachtungsnetz EDMO, von den Bildforensikern in Clemson. Die Werkzeuge zur Herkunftskennzeichnung von Aufnahmen werden besser, die Plattformen reagieren schneller, und je öfter Menschen einer Fälschung aufsitzen, desto misstrauischer werden sie beim nächsten Mal. Wer viel geimpft wird, bildet Abwehrkräfte. So gesehen ist der Aufwand, den Moskau treibt, auch ein Eingeständnis: Panzer allein reichen nicht mehr, man muss zusätzlich die Köpfe bearbeiten.

Und doch wäre es fahrlässig, sich damit zu beruhigen. Die Abwehr entlarvt die einzelne Fälschung, aber sie heilt nicht den Schaden, den das Grundrauschen anrichtet. Denn der Zweifel, einmal gesät, ist unparteiisch. Er frisst die Propaganda des Feindes und die Beweise des Freundes mit demselben Appetit. Die Front, um die es hier geht, verläuft deshalb nicht im Donbass, sondern mitten durch unsere Wohnzimmer, dort, wo entschieden wird, ob ein Bild noch etwas bedeutet.

Bleibt die unbequeme Frage, wie man dagegenhält, ohne selbst zum Zyniker zu werden, der am Ende gar nichts mehr glaubt, auch das Wahre nicht. Das ist die eigentliche Falle hinter der Dividende des Lügners: Wer alles für fälschbar hält, ist genauso verloren wie der, der alles glaubt. Der gefälschte 23-Jährige bittet uns um Hilfe. Die ehrliche Antwort lautet, dass ihm nicht zu helfen ist, weil es ihn nicht gibt. Helfen können wir nur dem echten Soldaten, dem mindestens 25-Jährigen in einem echten Graben, und zwar dadurch, dass wir die Mühe nicht scheuen, den einen vom anderen zu trennen. Diese Mühe ist unbequem, sie ist zeitraubend, und sie ist das Letzte, was uns bleibt. Wer sie sich spart, verliert einen Krieg, in dem kein einziger Schuss fallen muss.

Christoph Künne

Christoph Künne, von Haus aus Kulturwissenschaftler, forscht seit 1991 unabhängig zur Theorie und Praxis der Post-Photography. Er gründete 2002 das Kreativ-Magazin DOCMA zusammen mit Doc Baumann und hat neben unzähligen Artikeln in europäischen Fachmagazinen rund um die Themen Bildbearbeitung, Fotografie und Generative KI über 20 Bücher veröffentlicht.

Schreibe einen Kommentar

Bitte melden Sie sich an, um einen Kommentar zu schreiben.

Schaltfläche "Zurück zum Anfang"