Fake Medien: Das Gehirn merkt es, es sagt uns nur nichts
Warum wir KI-Bilder, KI-Texte und KI-Stimmen nicht mehr erkennen, sie aber trotzdem lieben. Eine Spurensuche zwischen Hirnforschung, Kunstgeschichte und dem Papst in der Daunenjacke
Ein Kirchenoberhaupt in weißer Steppjacke
Weiße Daunenjacke, taillierter Schnitt, das silberne Brustkreuz getragen wie ein Modeaccessoire: Im März 2023 spazierte Papst Franziskus durch die sozialen Netzwerke, als käme er direkt von der Mailänder Modewoche. Millionen sahen das Bild, Hunderttausende teilten es, in Modeforen wurde ernsthaft über den Schnitt diskutiert. Gebaut hatte es ein Bauarbeiter aus Chicago mit dem Bildgenerator Midjourney, nach eigener Auskunft in einem Anflug von Übermut. Das Bild war nicht besonders raffiniert. Es war nur überzeugend genug.
Zwei Monate später wurde aus dem Scherz ein Testlauf. Am 22. Mai 2023 verbreitete ein blau verifiziertes Konto, das sich als Nachrichtendienst ausgab, ein Foto von schwarzem Rauch neben dem Pentagon. Der S&P 500 gab binnen Minuten um rund ein Drittel Prozent nach, ehe sich herausstellte, dass es das Ereignis nie gegeben hatte. Ein Bild ohne Urheber, ohne Ort, ohne Wirklichkeit hatte für kurze Zeit die größte Börse der Welt bewegt. Der Kurs erholte sich. Die Frage blieb.
2.609 Datensätze, drei Länder, ein ernüchterndes Ergebnis
Wie gut können Menschen synthetische Medien überhaupt noch erkennen? Ein Team um Lea Schönherr und Thorsten Holz vom Helmholtz-Zentrum für Informationssicherheit (CISPA) hat das gemeinsam mit der Ruhr-Universität Bochum, der Leibniz Universität Hannover und der TU Berlin erstmals länderübergreifend untersucht und die Ergebnisse schon 2024 auf dem Symposium für Sicherheit und Datenschutz in San Francisco vorgestellt. Rund 3.000 Menschen in Deutschland, China und den USA bekamen je zur Hälfte echte und künstlich erzeugte Bilder, Texte oder Tondateien vorgelegt. 2.609 Datensätze blieben nach der Bereinigung übrig.
Das Ergebnis lässt sich in einem Satz zusammenfassen, und genau das macht es unangenehm: Über alle Medienarten und alle drei Länder hinweg hielt die Mehrheit der Befragten die KI-Erzeugnisse für menschengemacht. Nicht knapp, sondern durchgehend.
Noch bemerkenswerter ist, was die Forscher nicht fanden. Kein Faktor erklärte die Trefferquote überzeugend. Alter nicht, Bildungshintergrund nicht, politische Einstellung nicht, und, das ist die eigentliche Kränkung, auch selbst eingeschätzte Medienkompetenz nicht. „Die Unterschiede sind nicht sehr signifikant“, sagt Holz. Wer sich für abgebrüht hält, ist es nach dieser Datenlage nicht.
Andere Untersuchungen zeichnen dasselbe Bild in anderen Farben. In einer Studie in Scientific Reports erkannten Leser die Herkunft von Texten in 57 Prozent der Fälle richtig, was ein wenig über dem Münzwurf liegt und weit unter dem, was jeder von sich selbst annehmen würde. Selbst Fachleute sind nicht immun: Als Forscher medizinischen Experten künstlich erzeugte Gewebeschnitte vorlegten, schnitten diese zwar messbar besser ab als Laien, blieben aber insgesamt auf niedrigem Niveau. Das ist die eigentliche Nachricht. Nicht, dass wir schlecht sind. Sondern dass Übung, Titel und Training weit weniger helfen als gedacht.
Der Hörsinn weiß mehr, als er verrät
Am aufschlussreichsten wird es dort, wo die Selbstauskunft aufhört und die Messung beginnt. Ein Team um Claudia Roswandowitz von der Universität Zürich hat Stimmklone von vier deutschsprachigen Sprechern anfertigen lassen und Probanden im Kernspintomographen entscheiden lassen, ob zwei gehörte Stimmen zur selben Person gehören. In etwa zwei Dritteln der Fälle wurden die Fälschungen richtig zugeordnet. Die Nachahmung war also gut, aber nicht vollkommen.
Interessant ist, was das Gehirn dabei tat. Der auditorische Cortex, zuständig für die Analyse von Geräuschen, arbeitete bei den Klonen deutlich stärker, offenbar um die noch unvollkommene akustische Nachbildung auszugleichen. Der Nucleus accumbens, ein Kernstück des Belohnungssystems, blieb dagegen auffällig ruhig. Einer künstlichen Stimme zu lauschen macht messbar weniger Vergnügen. Nur erfahren wir davon nichts. „Irgendwas signalisiert dem Bewusstsein dann schon, dass etwas anders und schwieriger ist, aber das bleibt häufig unter der Wahrnehmungsschwelle“, sagt Roswandowitz.
Ein Teil von uns merkt es also. Er hat nur keine Stimme im Ausschuss. Wer je das flaue Gefühl kannte, dass an einem Anruf etwas nicht stimmte, ohne sagen zu können, was, kennt diesen Vorgang von innen. Die Ahnung ist da. Sie kommt nur nicht bis zur Zunge.
Der ertrunkene Fotograf und die Feen von Cottingley
Wer daraus einen Untergang ableiten will, sollte vorher in die Geschichte schauen. Die Fotografie war noch keine anderthalb Jahre alt, da war die erste Fälschung schon in der Welt. Im Oktober 1840 lichtete sich Hippolyte Bayard als Wasserleiche ab, samt erfundener Rückseitennotiz über die Umstände seines Todes, aus Kränkung darüber, dass Daguerre die Lorbeeren und die Staatsrente bekommen hatte. Das erste bekannte gefälschte Foto war zugleich das erste politische Statement der Fotografie.
In den zwanziger Jahren montierte die New Yorker Evening Graphic aus Studioaufnahmen und Zeitungsköpfen sogenannte Composographs, Bildmontagen, die Prominente in Szenen versetzten, die es nie gegeben hatte, erstmals im großen Stil während eines Skandalprozesses 1924. Die Leser wussten, dass diese Bilder nicht echt sein konnten. Sie kauften die Zeitung trotzdem. Dann kam die Bildretusche, dann Photoshop, dann die Ebenenmaske, und jedes Mal hieß es, nun sei das Ende der Beweiskraft gekommen.
Das Muster wiederholt sich mit einer fast beruhigenden Regelmäßigkeit: neue Technik, Welle von Täuschungen, Panik, dann gesellschaftliche Nachrüstung durch Regeln, Institutionen und geschärften Blick. Neu ist diesmal nicht die Fälschung. Neu ist der Preis. Eine Montage kostete Stunden und ein Studio. Ein Bild kostet heute einen Satz und ein paar Token.
Von der gemalten Dollarnote zur Pfeife, die keine ist
Die Kunstgeschichte hat das Spiel ohnehin schon durchgespielt, mit größerer Gelassenheit als jede Medienkonferenz. Der Überlieferung nach malte Zeuxis Trauben so überzeugend, dass Vögel danach pickten, worauf sein Rivale Parrhasios ihn mit einem gemalten Vorhang überlistete.
Der Amerikaner William Harnett malte im 19. Jahrhundert Dollarnoten in einer Genauigkeit, die ihm Ärger mit den Behörden eintrug.
Und René Magritte schrieb 1929 unter eine sorgfältig gemalte Pfeife den Satz, dies sei keine Pfeife, was schlicht stimmt. Man kann sie nicht stopfen.
Genau hier liegt das Missverständnis der aktuellen Debatte. Ein Bild war nie die Sache selbst. Es war immer Zeichen, Behauptung, Versprechen. Was die Fotografie hinzufügte, war nicht Wahrheit, sondern ein besonders wirksames Versprechen von Wahrheit: die Vermutung, dass jemand dabei war und ein Licht durch ein Objektiv fiel. Diese Vermutung bröckelt gerade. Walter Benjamin fragte 1935, was mit der Aura eines Werks geschieht, wenn es beliebig vervielfältigt werden kann. Die Frage stellt sich neu und schärfer: Was geschieht mit der Aura, wenn nicht mehr die Kopie beliebig wird, sondern das Original selbst?
Wer viel scrollt, wird nicht misstrauischer
Die verbreitetste Hoffnung lautet, Gewöhnung mache klug. Die Daten sagen etwas anderes. In der erwähnten Textstudie ging häufige Nutzung sozialer Netzwerke nicht mit besserer, sondern eher mit schlechterer Unterscheidungsfähigkeit einher. Wir werden nicht wachsamer, wir werden satt. Was wir täglich sehen, prüfen wir irgendwann nicht mehr.
Dazu kommt die alte Schwäche, die keine Technik je beheben wird: Was unsere Meinung bestätigt, prüfen wir milder. Was uns aufregt, glauben wir schneller. Und die Faustregeln, auf die wir uns verlassen, ungewöhnliche Wörter, zu glatte Formulierungen, sechs Finger an einer Hand, verlieren im Halbjahresrhythmus ihre Gültigkeit. Wer heute lernt, KI an einer bestimmten Marotte zu erkennen, hat morgen ein Wissen über eine Modellgeneration, die es nicht mehr gibt. Automatische Erkennungsverfahren stehen vor demselben Problem, wie das Reuters Institute an gängigen Werkzeugen gezeigt hat. Sie laufen einem Ziel hinterher, das sich schneller bewegt als sie.
Was das für Kreative bedeutet
Für alle, die beruflich Bilder machen, ist die Lage in doppelter Weise unbequem und zugleich reizvoller, als der Alarmismus zulässt. Unbequem, weil das Handwerk seinen Seltenheitswert verliert und mit ihm ein Teil des Preises. Reizvoll, weil sich der Wert verschiebt, und zwar dorthin, wo die Maschine nicht hinkommt: zur Herkunft. Wer belegen kann, dass er dort war, dass dieses Licht so fiel, dass diese Person das gesagt hat, besitzt künftig etwas Knapperes als Können. Er besitzt Beglaubigung.
Absehbar ist deshalb weniger eine Welt ohne Vertrauen als eine Welt mit Herkunftsnachweisen. Signierte Aufnahmen, dokumentierte Bearbeitungsketten, Redaktionen, die für ihre Bilder haften, all das klingt bürokratisch und ist doch nur die zeitgemäße Fassung dessen, was Gütesiegel und Impressum seit je leisten. Zugleich wäre es töricht, das Erzeugte nur als Bedrohung zu lesen. Ein KI-Bild, das berührt, ist nicht weniger wert, weil keine Kamera daran beteiligt war. Es ist nur etwas anderes, und die Kunst hat mit dieser Unterscheidung nie ein Problem gehabt. Das Problem beginnt dort, wo ein Bild eine Behauptung über die Wirklichkeit aufstellt, ohne dafür geradezustehen.
Und jetzt?
Vielleicht ist die richtige Lehre aus alldem eine unbequeme: Die Frage „Ist das echt?“ wird für den Einzelnen immer schlechter zu beantworten sein. Sie war nie ein besonders gutes Werkzeug, und sie wird gerade endgültig stumpf. Die tragfähigere Frage lautet: Wer sagt das, und was riskiert er, wenn er lügt? Herkunft schlägt Augenschein. Das ist keine Kapitulation vor der Technik, sondern die Rückkehr zu einem journalistischen Grundsatz, der älter ist als jede Kamera.
Bis dahin hilft eine kleine Übung, die nichts kostet und erstaunlich oft funktioniert: bei jedem Bild, das eine starke Reaktion auslöst, kurz innehalten und fragen, wem diese Reaktion nützt. Der auditorische Cortex ahnt es ohnehin schon. Man müsste ihm nur häufiger zuhören.
Anzeige
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.
Quellen
- Menschen erkennen KI-generierte Medien kaum, Forschung & Lehre, 14.06.2024. forschung-und-lehre.de
- A Representative Study on Human Detection of Artificially Generated Media Across Countries (CISPA u. a., 2023). arxiv.org/abs/2312.05976
- Cortical-striatal brain network distinguishes deepfake from real speaker identity, Communications Biology, 11.06.2024. nature.com
- Human intelligence can safeguard against artificial intelligence: individual differences in the discernment of human from AI texts, Scientific Reports. nature.com
- Experts fail to reliably detect AI-generated histological data, Scientific Reports. nature.com
- People are poorly equipped to detect AI-powered voice clones, Scientific Reports. nature.com
- The continued influence of AI-generated deepfake videos despite transparency warnings, Communications Psychology. nature.com
- Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail, Reuters Institute. reutersinstitute.politics.ox.ac.uk
- Fake AI photo of Pentagon blast goes viral, trips stocks briefly, Bloomberg, 22.05.2023. bloomberg.com
- Fake news: the drowning of Hippolyte Bayard, JSTOR Daily. about.jstor.org
- How to Do Things with Pictures, W. J. T. Mitchell. web.stanford.edu
- Ethics in Photojournalism (zu den Composographs der New York Evening Graphic). web.mit.edu
FAQ: KI-generierte Medien erkennen
Nein, in der Regel nicht. In einer länderübergreifenden Studie des Helmholtz-Zentrums für Informationssicherheit (CISPA) mit 2.609 ausgewerteten Datensätzen aus Deutschland, China und den USA stuften die Teilnehmer KI-generierte Bilder, Texte und Tondateien mehrheitlich als menschengemacht ein. Bei Texten liegt die Trefferquote laut einer Untersuchung in Scientific Reports bei rund 57 Prozent und damit nur knapp über dem Zufall.
Nur begrenzt. Die CISPA-Studie fand kaum Unterschiede nach Alter, Bildungshintergrund, politischer Einstellung oder selbst eingeschätzter Medienkompetenz. Fachleute schneiden im eigenen Gebiet zwar messbar besser ab als Laien: Als Forscher Medizinern künstlich erzeugte Gewebeschnitte vorlegten, lagen diese häufiger richtig. Die absolute Erkennungsleistung blieb dennoch niedrig. Fachwissen verschiebt das Ergebnis, es löst das Problem nicht.
Teilweise ja. Ein Team der Universität Zürich hat mit funktioneller Kernspintomographie gemessen, wie das Gehirn auf geklonte Stimmen reagiert. Der auditorische Cortex war bei Deepfake-Stimmen stärker aktiv, offenbar um die unvollkommene akustische Nachbildung auszugleichen. Der Nucleus accumbens als Teil des Belohnungssystems reagierte dagegen schwächer. Laut den Forschenden bleibt dieses Signal häufig unter der Wahrnehmungsschwelle und dringt nicht ins Bewusstsein vor.
Verlässliche Merkmale gibt es nicht mehr. Faustregeln wie fehlerhaft dargestellte Hände, zu glatte Formulierungen oder typische Wortmuster werden von jeder neuen Modellgeneration entwertet. Wer heute lernt, eine bestimmte Schwäche zu erkennen, besitzt bald Wissen über eine veraltete Technik. Sinnvoller ist die Prüfung der Herkunft: Wer verbreitet den Inhalt, gibt es eine Primärquelle, und wer haftet für die Aussage.
Nur eingeschränkt zuverlässig. Prüfungen des Reuters Institute an öffentlich verfügbaren Erkennungswerkzeugen zeigen, dass diese unsicher arbeiten und bei neu entwickelten Verfahren an ihre Grenzen geraten. Das Grundproblem ist ein Wettlauf: Detektoren werden auf bekannte Generatoren trainiert, während laufend neue Modelle erscheinen. Ein automatischer Befund taugt daher als Hinweis, nicht als Beweis.
Am 22. Mai 2023 verbreitete ein verifiziertes Twitter-Konto ein KI-generiertes Bild, das schwarzen Rauch nahe dem Pentagon zeigte. Das Ereignis hatte nie stattgefunden. Der US-Aktienindex S&P 500 gab kurzzeitig um rund 0,3 Prozent nach und erholte sich innerhalb weniger Minuten, nachdem die Fälschung aufgeflogen war. Der Fall gilt als erster Börsenausschlag, der auf ein KI-Bild zurückgeht.
Als erste bekannte gefälschte Fotografie gilt Hippolyte Bayards Selbstporträt als Ertrunkener vom Oktober 1840. Bayard inszenierte sich als Wasserleiche und versah die Aufnahme mit einer erfundenen Notiz über die Umstände seines Todes. Anlass war seine Kränkung darüber, dass Louis Daguerre für die Erfindung der Fotografie Ruhm und Staatsrente erhielt. Die Fotografie war damals kaum anderthalb Jahre alt.
KI-generierte Medien lassen sich für personalisierte Phishing-Mails, Betrugsanrufe mit geklonten Stimmen, politische Meinungsmache und Rufschädigung durch Deepfakes einsetzen. CISPA-Forscher sehen darin besonders im Umfeld von Wahlen eine Gefahr für die demokratische Willensbildung. Hinzu kommt ein indirekter Schaden: Wenn jede Aufnahme gefälscht sein könnte, verlieren auch echte Belege an Beweiskraft.
An Wert gewinnt weniger das handwerkliche Können als der Herkunftsnachweis. Wer belegen kann, dass eine Aufnahme an einem bestimmten Ort zu einer bestimmten Zeit entstanden ist, besitzt etwas, das sich nicht generieren lässt. Praktisch bedeutet das signierte Aufnahmen, dokumentierte Bearbeitungsketten und Redaktionen, die für ihre Bilder haften. Der Artikel argumentiert, dass ein KI-Bild deshalb nicht wertlos ist, problematisch wird es erst, wenn es eine Behauptung über die Wirklichkeit aufstellt, ohne dafür geradezustehen.
