AllgemeinBlogKI

Kennzeichnung für KI-Bilder?

Bereits im Winter brachte die EU Regelungen auf den Weg, um KI-generierte Inhalte zu kennzeichnen. Das Berliner Justizministerium verkündete – etwas verspätet – nun eigene Ideen zu dem Problem. Im Prinzip spricht ja nichts gegen diese Maßnahmen, meint Doc Baumann – in der Praxis dagegen doch einiges.

Prompt in Deep Dream Generator/AIVisioon: »generate as a professional photo, a photograph in a newspaper that is explicitly marked as an AI-generated image« Die Zeile „Bild wurde per KI generiert“ wurde manuell eingefügt, da keine entsprechenden Umsetzungen erzeugt wurden. Textdarstellungen werden  zwar zunehmend besser, sind aber immer noch weit von einer korrekten Wiedergabe entfernt.

Auf die Initiative von Justizminister Buschmann hatte uns unser Leser Horst hingewiesen, mit einem Link auf Netzpolitik.org. Dort finden Sie das Wichtigste zur EU-Gesetzgebung und der etwas irritierenden Berliner Verdopplung. Also muss man das Ganze hier nicht noch einmal ausführlich beschreiben – Sie können es dort nachlesen.

Im Prinzip ist die Idee ja nicht schlecht. Viele von uns sind noch in der Lage, bei genauerem Hinschauen Fotos und KI-generierte Bilder auseinanderzuhalten. Wie gesagt – noch. Bald werden sie so perfekt sein, dass der Augenschein da nicht mehr ausreicht. Und es geht ja nicht nur um Bilder (und Texte); die scheinbare Unmittelbarkeit und Überzeugungskraft von Videos, in denen Menschen mit passender Mundbewegung, Mimik und Gestik und mit eigener Stimme seltsame Sätze von sich geben, die man ihnen gar nicht zugetraut hätte (oder gerade), ist hinsichtlich der von solchen Fälschungen ausgehenden Gefahr sicherlich noch problematischer.

Aber bleiben wir in unserem Zuständigkeitsbereich, bei Bildern. Die Idee ist ja nicht neu, die Kennzeichnung digital manipulierter Bilder wird schon seit langer Zeit diskutiert – ohne Ergebnis.

Immerhin, in Frankreich müssen seit einem halben Jahr Fotos, auf denen Körperformen von Models digital verändert wurden, mit dem Hinweis „photographie retouchée“ versehen werden.

Im Prinzip bricht man sich als seriöses Medium ja keinen ab, wenn irgendwas in dieser Art unter KI-generierten „Fotos“ steht. Bei Grafiken desselben Ursprungs scheint das weniger nötig, da bei ihnen jeder Betrachter mehr oder weniger ausdrücklich „mitdenkt“, dass es sich dabei um kein 1:1-Abbild der Wirklichkeit mit dem Anspruch auf völlige visuelle Übereinstimmung handelt, sondern dass es eine subjektiv gefilterte Interpretation und Vereinfachung ist.

Also Deepfakes in Form von KI-„Fotos“. Klar, warum denn nicht markieren? Mein Gegenargument ist relativ simpel: Sehe ich nach dieser Rechtslage in den Medien ein Bild, das nach herkömmlichen Erfahrungen als Foto einzuordnen wäre, dann hilft mir die Kennzeichnung „KI-generiert“, Verwechslungen und Irrtümer zu vermeiden. Das bedeutet jedoch im Umkehrschluss: Sehe ich ein Bild, das nicht in dieser Weise markiert ist, darf ich davon ausgehen, dass es eine authentische Szene wiedergibt.

Seriöse Medien wären nach dieser Definition solche, die Fotos angemessen (unterschrieben) veröffentlichen und sie nicht (auch echte Fotos) zum Zweck der Irreführung einsetzen. Ist es im Kontext sinnvoll, ein KI-generiertes Bild zu zeigen, wird dieses als solches gekennzeichnet. Bis hierher ist alles klar.

Nur leider, leider funktioniert unsere Welt nicht auf diese Weise. Wenn jemand bei Ihnen anruft, um etwa den Enkeltrick auszuprobieren, hat er keine freundlichen Absichten. Ich kenne das zur Genüge: Alle paar Monate ruft „meine Tochter“ heulend und schluchzend bei mir an: „Papa, Papa, ich habe ein Kind überfahren!“ Und noch ehe sie mich an den freundlichen, aber korrekten „Polizeikommissar“ weiterreichen kann, der mir dann erklären wird, wie ich mit einer Kaution von wenigen zehntausend Euro meine arme Tochter vor der drohenden U-Haft bewahren kann, sage ich streng und empört: „Schon wieder? Das ist jetzt schon das dritte in ein paar Monaten!“ Dann ist sie jedes Mal beleidigt und legt auf. Habe ich schlechte Laune, sage ich vielleicht auch: „Macht doch nichts – ich hoffe, das Auto hat wenigstens keine Schramme.“ Dann weiß sie nicht so recht, wie sie damit umgehen soll.

Aber worauf ich eigentlich hinauswill: Der „Polizeikommissar“ erklärt mir nie: „Übrigens, dies ist ein betrügerischer Anruf, nichts stimmt, wir wollen nur Ihre Kohle. Darauf muss ich Sie nach der aktuellen Gesetzeslage ausdrücklich aufmerksam machen.“ Und wenn er das nicht sagt? Dann kann ich sicher sein, dass die junge Frau mit Sonnenbrille, die in einem dunklen Hauseingang einen dicken Umschlag mit Geld entgegennimmt, ohne eine Quittung auszustellen, eine echte Polizistin ist. Oder vlelleicht doch nicht … 

An betrügerische Mails, angeblich von Banken, Telefongesellschaften, Paketdiensten oder (besonders gut gemacht mit „echtem“ Absender) Zoll hat man sich ja inzwischen gewöhnt – jedenfalls die meisten von uns. Die Kennzeichnungspflicht KI-generierter Deepfakes und die implizite Erwartung, Betrüger würden sich daran halten, erweckt ein wenig die Hoffnung, Betrugs-Mail würden künftig aussehen wie diese und ordnungsgemäß vor bösen Absichten warnen. (Die Mail kam nicht wirklich, sondern ist meine eigene Schöpfung.)

Mit anderen Worten: Wer betrügen will, teilt Ihnen das nicht auch noch mit. Sonst käme der Betrug ja nicht zustande. Umgekehrt: Verlassen wir uns zu fest darauf, dass KI-generierte Bilder als solche gekennzeichnet sind, weil es ja so vorgeschrieben ist, lässt unsere Vorsicht vielleicht nach und wir vertrauen darauf, dass die Abwesenheit der Kennzeichnung für Authentizität steht. Gezielte, KI-generierte Deepfakes zum Zwecke der Meinungsmanipulation oder des Betrugs hätten es also mit einer Kennzeichnungspflicht leichter als ohne diese. Das spricht zwar nicht gegen eine solche Markierung, zeigt aber, dass diese gewiss kein Allheilmittel ist.

Im DOCMAshop finden Sie alle Infos zum aktuellen Heft: Das ausführliche Inhaltsverzeichnis, einige Seiten als Kostprobe sowie alle Möglichkeiten, das gedruckte Heft zu abonnieren. Erfahren Sie dort auch mehr über unsere preiswerten Online-Abos – jetzt ab 3,99 € pro Monat.

Zeig mehr

Doc Baumann

Doc Baumann befasst sich vor allem mit Montagen (und ihrer Kritik) sowie mit der Entlarvung von Bildfälschungen, außerdem mit digitalen grafischen und malerischen Arbeitstechniken. Der in den Medien immer wieder als „Photoshop-Papst“ Titulierte widmet sich seit 1984 der digitalen Bildbearbeitung und schreibt seit 1988 darüber.

Ähnliche Artikel

3 Kommentare

  1. Ich verstehe Ihre Argumentation, aber ich teile sie nicht. Ich halte eine Kennzeichnungspflicht für verbreitete KI-Bilder und -Filme für sinnvoll.

    Beispiel politische Werbung und Wahlwerbung, man denke an das Afd-Plakat mit KI-erzeugten wütenden Migranten. Ein KI-Hinweis würde den Betrachter gedanklich einen Schritt zurücktreten lassen und Emotionalität aus dem Bild nehmen. Das ist nicht im Interesse des Werbers, aber eine Kennzeichnungspflicht wird sich hier durchsetzen lassen, denn die anderen Parteien werden gut hinschauen.

    Seriöse Presse wird mit der Pflicht keine Probleme haben, nicht wenige Zeitungen und Zeitschriften kennzeichnen heute schon auf freiwilliger Basis. Halbseriöse Medien, insbesondere Online-Medien werden dann hoffentlich zweimal hinschauen, bevor sie Bilder und Filme fremder Quelle verbreiten. Komplett durchsetzen lassen wird sich eine Pflicht hier nicht, aber die Verbreitung nicht gekennzeichneter Inhalte, die dadurch eine falsche Aussage haben können, dürfte deutlich weniger werden.

    Gegen Betrug und bösartige Propaganda hilft die Kennzeichnungspflicht nicht. Aber das hat auch niemand erwartet.

    Ich denke nicht, dass ungekennzeichnete Bilder deswegen automatisch als echt wahrgenommen werden. Im Gegenteil, häufige Kennzeichnungen werden den typischen Leser dazu bringen, allgemein die Echtheit von Bildern zu hinterfragen.

  2. Amüsanter Artikel, aber anzunehmen, Verstöße gegen die Kennzeichnungspflicht seien ein Indiz dafür, dass ein Kennzeichnungsgrund nicht vorliegt, entspringt doch einer ziemlich verqueren Logik.

    Analog könnte man auch gegen Lebensmittel- und andere Kennzeichnungspflichten argumentieren.

    Zur transparenten Abgrenzung gegenüber Fotografien ist die KI-Kennzeichnungspflicht sicherlich eines von mehreren sinnvollen Instrumenten, auch wenn unseriöse und kriminelle Akteure sie missachten werden.

  3. Hallo, ich finde es gut, das Thema zu diskutieren. Betrüger werden immer betrügen, so lange, bis man Sie zur Rechenschaft zieht. Kennzeichnungspflicht per se ist richtig. Eine Verlässlichkeit wird dadurch niemals entstehen. Bei Milliarden von täglich veröffentichten Medien halte ich es auch vermessen, die Pflicht auf Kennzeichnung zu überprüfen. Und somit geben ich Doc Baumann recht, die Pflicht ist einfach nicht durchzusetzen. Also kann jedes Bild in jeder Zeitung oder jeder anderer Publikation noch immer ein KI generiertes Bild sein.
    Was ist aber mit dem generativem Löschen? Wer will jemals überprüfen, ob eine Person, die durch ein Bild gegangen ist, entfernt wurde, wenn Sie 1 Minute nach der Aufnahme vielleicht sowieso aus dem Bild gewesen wäre?
    Verantwortung ist die Frage der Stunde. Bei den Content Machern, wie auch bei den Konsumenten.

Schreiben Sie einen Kommentar

Bitte melden Sie sich an, um einen Kommentar zu schreiben.

Back to top button