Anfang Juli macht ein Nachrichtenbeitrag die Runde: oben rechts das Logo der Tagesschau, daneben das Signet des RBB, am Pult eine Sprecherin, die der bekannten Tagesschau-Moderatorin Romy Hiller zum Verwechseln ähnelt. Mit ruhiger Stimme meldet sie, Benjamin Netanjahu habe gedroht, Israel könne mit Deutschland „dasselbe machen wie mit dem Iran“. Allein eine Fassung dieses Videos sammelt auf TikTok knapp 400.000 Aufrufe. Nur: Den Beitrag hat kein Sender gesendet, die israelische Botschaft spricht von einem gefälschten Video und Desinformation. Die Rechercheure der Agence France-Presse (AFP) zählen die verräterischen Spuren des Deepfakes auf, von Mundbewegungen, die nicht zum Ton passen, bis zum monotonen Klang der Stimme. Die Vorlage für solche Fälschungen, so ergibt die Recherche, ließ sich bequem in einer handelsüblichen Video-App abrufen.
2026 zählt das Weltwirtschaftsforums Desinformation zu den größten Gefahren der Welt. In einer Reihe mit Krieg, Wirtschaftskrise und der Spaltung ganzer Gesellschaften. Wer sich mit Medien beschäftigt wird nicht von der Gefahr selbst überrascht sein, sondern von ihrer Nachbarschaft: gleichauf mit geoökonomischer Konfrontation steht im Risikobericht Fehl- und Desinformation. Und die Autoren fügen einen Satz an, der hängen bleibt. Es sei jenes Risiko, das fast alle anderen erst anheize. Der Brandbeschleuniger unter den Katastrophen. Ein bloßes Informationsproblem also, gefährlicher als das meiste, worüber es informiert. Das Bild lügt wird in solchen Kontexten zu einer zentralen Warnung. Wie kommt ein manipuliertes Bild in dieselbe Liga wie ein Krieg?
Längst gelebte Praxis
Wie das konkret aussieht, ließ sich wenige Tage vor der irischen Präsidentschaftswahl im vergangenen Jahr besichtigen. Ein Video tauchte auf: Die spätere Siegerin erklärt darin ihren Rückzug. Dazu, sauber montiert, Ausschnitte nationaler Sender, die die Nachricht „bestätigen“. Nichts davon ist geschehen. Der Kandidat zog sich nicht zurück, kein Sender hatte etwas gemeldet, die Bilder waren Rechnerprodukt. Und doch mussten Wahlkampfteam, Redaktionen und Wähler in den entscheidenden Stunden etwas tun, das noch vor Kurzem grotesk geklungen hätte: einem bewegten Bild mit vertrauten Gesichtern und vertrauten Senderlogos ausdrücklich widersprechen.
Man kann diese Episode als Betriebsunfall abtun, als eine dieser Kuriositäten, die der Wahlkampf eben mit sich bringt. Das wäre allerdings der bequemere und der falsche Weg. Denn was in Irland passierte, und ähnlich in den Niederlanden 2025, wo rund 400 künstlich erzeugte Bilder in Umlauf kamen, um politische Gegner zu beschädigen, ist kein Ausrutscher. Es ist der Normalfall, mit dem wir umgehen lernen müssen.
Wenn Bilder aufhören, Beweise zu sein
Der Grund liegt in einer Schwelle, die im Jahr 2026 überschritten wurde. Deepfakes zeigen kaum noch verräterische Fehler. Die flackernden Ränder, die falschen Lidschläge, die Hand mit sechs Fingern sind verschwunden oder nur noch mit forensischem Gerät zu finden. Erzeugen kann solche Fälschungen inzwischen jeder mit einem Smartphone. Damit kippt etwas Grundsätzliches. Ein Foto war, trotz aller bekannten Manipulierbarkeit, jahrzehntelang ein Anker. Es sagte: So war es. Dieser Anker hält nicht mehr.
Bilder beweisen nichts mehr. Was zählt, ist nicht länger allein die Frage, ob ein Inhalt „echt“ ist, sondern wer ihn erzeugt hat, mit welcher Absicht, mit welchen Mitteln und wie offen diese Herkunft liegt. Wahrheit wird zur wahrgenommenen Größe, hergestellt durch Ästhetik, Kontext, technische Perfektion und Reichweite. Nicht das Dokumentierte überzeugt, sondern das Plausible.
Die zweite, hinterhältigere Gefahr
Dabei ist die gefälschte Wahrheit noch die harmlosere Hälfte des Problems. Die andere Hälfte ist subtiler. Wenn jeder weiß, dass sich alles fälschen lässt, dann lässt sich auch alles als Fälschung abtun. Der ertappte Politiker, dessen echte Aufnahme kursiert, muss nicht mehr dementieren. Er sagt schlicht: Deepfake. Und die Beweislast kehrt sich um. Ein Beispiel ist diese kleine, eher nebensächliche Episode, in der Donald Trump ein echtes Video zum KI-Fake erklärt.
Diesen Mechanismus nennt die Forschung die „Lügendividende“, und das WEF verweist ausdrücklich darauf. Nicht mehr nur Einzelne, auch Ämter und Regierungen können den Zweifel als Werkzeug nutzen. Schon das bloße Wissen, dass Deepfakes existieren, lässt uns an Dingen zweifeln, die wahr sind. Der Verdacht wird zur Waffe. Wer nichts mehr glauben muss, ist zu allem bereit.
Der Angriff zielt aufs Gefühl, nicht auf den Verstand
Es wäre ein Trost, hätte man es mit plumpen Fälschungen zu tun, die auf Argumente zielen. Das Gegenteil ist der Fall. Die wirksamste Desinformation zielt am Verstand vorbei, direkt auf Angst, Wut und Empörung. Über psychologische Profile lassen sich anfällige Gruppen genau bestimmen und mit maßgeschneiderten Botschaften bespielen, die weniger informieren als reizen. Die Empörungsmaschine der Plattformen tut den Rest, denn Wut wird geteilt, bevor irgendjemand die Fakten prüft.
Das ist der Punkt, an dem Medienkompetenz alter Schule an ihre Grenze kommt. Wer nur lernt, Quellen zu vergleichen, ist gegen einen Reiz, der schneller wirkt als jedes Nachdenken, schlecht gewappnet. Es geht nicht mehr allein darum, das Falsche zu erkennen, sondern darum, den eigenen Reflex zu bemerken, bevor der Daumen zum Teilen zuckt.
Was hilft, ohne dass wir die offene Rede opfern
Womit wir bei der eigentlichen Frage sind: Wie schützt man sich, ohne in Dauerskepsis zu erstarren oder das freie Wort zu beschneiden? Fertige Antworten hat niemand, aber die Richtung zeichnet sich ab, und sie ist unspektakulärer, als der Alarmismus vermuten lässt.
Erstens Bildung, und zwar früh. Finnland unterrichtet schon Grundschulkinder darin, Manipulation zu erkennen und zu prüfen, wer da eigentlich mit welchem Interesse spricht. Das WEF empfiehlt einen kleinen Fragenkatalog für den Alltag: Wer will hier etwas von mir, wie und warum hat man mich gefunden, was gewinnt der andere, kann ich die Botschaft überprüfen, schade ich mir oder anderen, wenn ich sie weitertrage?
Zweitens die Technik, mit Maß. Herkunftsnachweise wie C2PA und Wasserzeichen können zeigen, woher ein Bild stammt. Sie sind nützlich, aber kein Allheilmittel, denn Herkunft ist nicht dasselbe wie Wahrheit. Ein sauber signiertes Bild kann eine saubere Lüge sein. Und die Regulierung zieht nach: Der europäische KI-Rechtsrahmen verlangt ab August 2026 die Kennzeichnung KI-erzeugter Inhalte, mit empfindlichen Strafen. Ein richtiger Schritt, solange man ihn nicht mit dem Ziel verwechselt.
Drittens, und das ist die stille Voraussetzung von allem, die Bereitschaft, langsamer zu sein als die Empörung. In einem System, das für Tempo belohnt, ist es beinahe subversiv.
Erst denken, dann glauben
Am Ende läuft es auf etwas hinaus, das keine Software liefert. Die Maschine nimmt uns das Sehen ab, das Formulieren, bald auch das Prüfen. Was sie uns nicht abnimmt, ist die Verantwortung dafür, was wir glauben und was wir weitertragen.
Mein neues Buch Synthetische Wahrheit trägt als Leitspruch die Zeile „Erst denken, dann prompten“. Für den Umgang mit dem täglichen Strom aus echten und erfundenen Bildern ließe sich eine Schwester dazu formulieren: erst denken, dann glauben. Nicht als Misstrauen gegen alles, das wäre nur die andere Form der Kapitulation. Sondern als die schlichte, anstrengende Gewohnheit, dem eigenen ersten Reflex eine Sekunde Widerstand entgegenzusetzen. Ob wir diese Sekunde aufbringen, entscheidet mehr über die nächsten Jahre als jeder Detektor und jedes Gesetz. Verlässlich ist sie nicht. Aber sie ist das Einzige, was uns wirklich gehört.
Anzeige
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.
FAQ
Synthetische Wahrheit bezeichnet eine medial erzeugte Glaubwürdigkeit, bei der künstlich generierte Inhalte wie KI-Bilder, Deepfakes oder synthetische Stimmen als echt oder plausibel erscheinen, obwohl sie kein dokumentiertes reales Ereignis abbilden. Es geht also weniger um objektive als um wahrgenommene Wahrheit, die durch Ästhetik, Kontext, technische Qualität und Reichweite entsteht. Der Begriff stammt aus dem gleichnamigen Buch von Christoph Künne.
Das Weltwirtschaftsforum führt Fehl- und Desinformation in seinem Risikobericht 2026 unter den größten kurzfristigen Gefahren, auf einer Stufe mit geoökonomischer Konfrontation und gesellschaftlicher Spaltung. Entscheidend ist die Einordnung der Autoren: Desinformation sei jenes Risiko, das fast alle anderen erst verstärke, von Wirtschaftskrisen bis zu Wahlen. Sie wirkt damit als Brandbeschleuniger für andere Krisen.
Die Lügendividende beschreibt den Effekt, dass sich in einer Welt allgegenwärtiger Fälschungen auch echte Aufnahmen als angebliche Fälschung abtun lassen. Wer mit einem belastenden, aber echten Video konfrontiert wird, kann es einfach als Deepfake bezeichnen. Schon das bloße Wissen, dass Deepfakes existieren, lässt Menschen an Wahrem zweifeln. Der Zweifel selbst wird so zur Waffe.
Nur noch eingeschränkt. Seit 2026 zeigen Deepfakes ihre früheren Fehler wie flackernde Ränder oder falsche Lidschläge kaum noch und lassen sich mit einem Smartphone erzeugen. Ein Bild belegt damit nicht mehr zuverlässig, dass ein Ereignis so stattgefunden hat. Wichtiger als die Frage „echt oder nicht“ wird, wer einen Inhalt erzeugt hat, mit welcher Absicht und wie offen seine Herkunft ist.
Hilfreich ist ein fester Satz von Prüf-Fragen vor dem Glauben und Teilen: Wer will hier etwas von mir, wie und warum hat man mich gefunden, was gewinnt der andere, kann ich die Botschaft überprüfen, und schade ich mir oder anderen, wenn ich sie weitertrage? Zusätzlich wirkt es, bewusst langsamer zu sein als der eigene Empörungsreflex und Herkunft, Kontext und Interesse einer Quelle zu hinterfragen.
Verlässliche Einzelmerkmale werden seltener, doch mehrere Ebenen zusammen helfen. Forensische Werkzeuge finden noch Pixel-Spuren, unstimmige Rauschmuster, Farbverschiebungen oder Lippen-Synchronfehler. Wirksamer als das Prüfen durch Einzelpersonen ist oft die Analyse der Verbreitung: Schädliche Deepfakes laufen häufig über Bot- und Troll-Netzwerke, erkennbar an Kontodaten wie Erstellungsdatum und Posting-Rhythmus. Besonders rund um Wahlen und Betrugsfälle ist dieser Blick auf Verbreitungsmuster nützlich.
Der EU-KI-Rechtsrahmen verlangt in Artikel 50 die Kennzeichnung KI-generierter und manipulierter Inhalte sowie die Offenlegung synthetischer Interaktionen. Diese Pflicht ist ab August 2026 durchsetzbar, mit Bußgeldern von bis zu 6 Prozent des weltweiten Jahresumsatzes. Der Ansatz behandelt Desinformation als Governance- und Risikofrage, nicht nur als Aufgabe der Inhaltemoderation. Kennzeichnung ersetzt aber keine inhaltliche Prüfung.
Wenige Tage vor der irischen Präsidentschaftswahl 2025 kursierte ein gefälschtes Video, das den späteren Wahlsieger fälschlich beim Rückzug seiner Kandidatur zeigte, ergänzt um manipulierte Ausschnitte nationaler Sender, die die Nachricht scheinbar bestätigten. Nichts davon war geschehen. Der Fall zeigt, wie synthetische Medien kurz vor einem Wahltermin gezielt Verwirrung stiften können.
