Vertrauen per Verordnung?
Wenn Europa über KI spricht, spricht Europa vor allem über Wasserzeichen, Kennzeichnungspflichten, Metadaten. Die EU-KI-Verordnung versucht, Vertrauen technisch zu erzwingen – und produziert vor allem neue Unsicherheiten. Das Wasserzeichen wird zum Gütesiegel der vermeintlich richtigen Bilder. Und zum Makel für alle, die kreativ arbeiten. Natürlich braucht es Regeln. Deepfakes und Desinformation sind reale Probleme. Niemand bestreitet, dass manipulierte Inhalte Schaden anrichten. Doch genau hier beginnt das Dilemma: Der AI Act behandelt Kreativität wie einen Compliance-Fall. Als ließe sich Authentizität per Metadaten herstellen. Als wäre ein Wasserzeichen ein Wahrheitsbeweis. Das ist technisch naiv – und kulturell gefährlich.
Dieser Inhalt ist Teil unserer Premium-Inhalte von DOCMA2go.
Als Abonnent einloggen
DOCMA 2GO abonnieren
Das DOCMA-Magazin als wöchentliches E-Mail-Update. Mehr erfahren.
- Nur 3,99 EUR/Monat
Gut geschrieben und absolut wahr!
Ich verstehe die Diskussion um die Frage, ob das ein Deep Fake ist oder nicht, nicht. Die größten und wertvollsten Gemälde dieser Welt sind allesamt Deep Fakes, denn nichts darauf stellt etwas so dar, wie es gewesen ist. Sämtliche Reliefs an den Pyramiden, Stadttoren oder Tempeln sind Deep Fakes. Sie zeigen niemals eine Handlung, wie sie war. Erst mit der Fotografie kam überhaupt einmal die Möglichkeit auf, unverfälscht die “Wahrheit“ abzubilden, wenn man das wollte, denn schon der Blickwinkel, der Bildausschnitt konnte eine Manipulation sein. Von Anfang an wurde an die Fotografie andere Maßstäbe angelegt als an alle anderen Kunstformen. Kunstgestaltung unter Zuhilfenahme von KI ist lediglich eine Mutation von künstlerischen Fähigkeiten. Handwerkszeug hat jeder Künstler benutzt. Das neue Handwerkzeug ist einfach anders, aber es braucht genau so Fähigkeiten, es zu bedienen, wie den Pinsel oder den Meißel.
Hallo und guten Tag,
wenn es thematisch um objektive „Wahrheit“ versus „Deep Fake“ geht, dann bin ich vollkommen Ihrer Meinung und unterschreibe jeden Satz. Wenn man aber dieser Ansicht ist, muss man mit ganz klarem Verstand sehen, dass der vertrauensvolle Blick auf „Fotos“, der Vergangenheit angehört. Wenn in wichtigen Dingen, als Entscheidungsbasis, ein Bild/Foto dienen soll, dann ist immer eine große Portion gesunder Menschenverstand erforderlich. Und ein wenig Sachkenntnis kann auch nicht schaden.
Helmut Elsässer
„Die größten und wertvollsten Gemälde dieser Welt sind allesamt Deep Fakes, denn nichts darauf stellt etwas so dar, wie es gewesen ist. Sämtliche Reliefs an den Pyramiden, Stadttoren oder Tempeln sind Deep Fakes.“
Den Begriff des Deep Fakes kann man nicht so weit fassen und damit verwässern. Wenn ein alter Ägypter den Pharao, doppelt so groß wie gewöhnliche Menschen, bei der Niederschlagung seiner Feinde in einem Relief darstellte, obwohl der eine durchschnittliche Körpergröße und gerade eine Schlacht verloren hatte, dann wird schon damals jedem klar gewesen sein, dass es sich nur um eine künstlerische Interpretation der Ereignisse handelte.
Deep Fakes konnte es überhaupt erst nach der Erfindung der Fotografie geben, also einem Verfahren der Bildgenerierung, das zwar keine vollständige Objektivität für sich in Anspruch nehmen kann, aber auf einer kausalen Verbindung zwischen Motiv und Bild beruht: Wie eine fotografierte Szene im Bild erscheint, wird durch die Gesetze von Physik und Chemie bestimmt, auch wenn der Fotograf den räumlichen und zeitlichen Ausschnitt bestimmt.
In der generativen KI gibt es keine solche kausale Verbindung zu irgendeiner Realität, sondern höchstens zu einem Prompt, aber die so generierten Bilder können alle oberflächlich sichtbaren Eigenschaften eines Fotos aufweisen und so den Eindruck einer vermeintlichen Realität vermitteln, die es tatsächlich nie gegeben hat. Das ist es, was Deep Fakes ausmacht.
(Nebenbeibemerkt: Das Deep in Deep Fakes bezieht sich ausdrücklich auf die neuronalen Netze der KI: Sie bestehen generell aus einem Input Layer simulierter Neuronen, einem Output Layer, sowie Hidden Layers dazwischen. Bei einer großen Zahl der Hidden Layer spricht man von einem tiefen neuronalen Netzwerk (Deep Neural Network), und das ist die Art neuronaler Netzwerke, die Deep Fakes erzeugen kann. Flache Netzwerke mit nur einer Schicht zwischen Input und Output wären dazu nicht in der Lage.)
Die Argumentation stimmt schon, hat aber eine Lücke.
Du unterscheidest zu Recht zwischen Gemälde/Relief und Fotografie: Ersteres war nie als Abbild der Realität gedacht, Letzteres beruht auf einer kausalen Verbindung zwischen Motiv und Bild. Und KI bricht genau diese Verbindung auf.
Aber: Diese Verbindung wurde mit klassischer Bildbearbeitung schon lange gebrochen, lange vor KI. Nicht von jedem, aber von Könnern – und die DOCMA hat über Jahrzehnte genau dieses Können vermittelt, Ausgabe für Ausgabe. Das Ergebnis war dasselbe: ein Bild, das eine Realität zeigt, die nie existiert hat. Dass das damals kaum jemand wusste, machte es gefährlicher, nicht harmloser.
Die logische Konsequenz wäre also: nicht die Methode kennzeichnen, sondern das Ergebnis. Ein mit Photoshop gefälschtes Bild und ein per KI-Prompt erzeugtes Deepfake sind funktional identisch. Heute muss nur Letzteres gekennzeichnet werden. Dass die DOCMA das begrüßt, ohne je eine Kennzeichnungspflicht für Bildmanipulation generell gefordert zu haben – geschenkt. Aber wenn man schon Bezug auf die Methode nimmt, wäre „100% KI-frei“ als Kennzeichnung sinnvoller als das Gegenteil, so wie man eben „Bio“ auslobt und nicht „konventionell angebaut“. Und bevor das zum nächsten Pflichthinweis verkommt, dessen Informationswert gegen null geht – siehe Cookie-Banner –, sollte man sich fragen, was man eigentlich kennzeichnen will: die Technik oder die Täuschung?
„Du unterscheidest zu Recht zwischen Gemälde/Relief und Fotografie: Ersteres war nie als Abbild der Realität gedacht, Letzteres beruht auf einer kausalen Verbindung zwischen Motiv und Bild. Und KI bricht genau diese Verbindung auf.“
Ja sicher. Aber der Punkt ist, dass das mit riesigem Abstand älteste Verfahren zur Herstellung von Bildern die bildende Kunst ist, deren Anfänge irgendwo im Paläolithikum liegen. Auch die Bilder des Pharao, viel später entstanden, gehören noch dazu. Und dabei, also von Anfang an, gab es keine kausale Verbindung zwischen Motiv und Bild, denn das Bild entstand allein aus der Intention des Künstlers, der eine realistische Abbildung – so wie er oder sie diese verstand – anstreben konnte, das aber oft genug nicht tat. Künstler konnten die Wirklichkeit darstellen, aber auch eine kontrafaktische aber mögliche, und sogar eine unmögliche Welt.
Das heißt, für hunderttausende von Jahren wäre die Idee, Bilder bildeten stets die Realität ab, ziemlich absurd erschienen. Wo hätte man überhaupt die Grenze zwischen Wahrheit und Fake ziehen wollen, wenn doch der Zusammenhang zwischen Bild und Welt nur recht lose war?
Vor 200 Jahren (oder weniger, die Meinungen gehen auseinander: https://www.docma.info/blog/der-urknall-der-fotografie) wurde die Fotografie erfunden. Zwar konnte man schon länger Bilder erzeugen, die kausal mit dem Abgebildeten verknüpft waren, aber mit der Fotografie wurde es erstmals möglich, diese Bilder dauerhaft zu bewahren, so dass man sie anderen zeigen und auch vervielfältigen konnte. Die bloße Existenz einer kausalen Verbindung zwischen Motiv und Bild bedeutete noch nicht, dass die Bilder eine objektive Wahrheit erzählten, aber man konnte sie auch nicht frei erfinden – höchstens die Interpretation mit der Ausschnittwahl in eine bestimmte Richtung lenken. Mit Fotomontagen verließ man auch schon wieder das Gebiet der Fotografie, denn damit überschritt man die Grenze zur bildenden Kunst, eben weil die kausale Verbindung damit verloren ging.
Deep Fakes zeigen unweigerlich Bilder in einem fotografischen Stil; würden sie die Anmutung von Ölbildern oder Aquarellen haben, nähme sie niemand ernst. Deep Fakes erhalten ihre Wirkung dadurch, dass sie für Fotografien gehalten werden, und deshalb wären sie ohne die Erfindung der Fotografie nicht denkbar.
Sehr geehrter Herr Lorenz,
mit Interesse und zunehmender Freude habe ich Ihren Artikel gelesen und stimme Ihnen absolut zu. Besonders gut gefiel mir folgendes: „Kreative brauchen Werkzeuge. Und Freiheit.“ Diese Sentenz werde ich jetzt auf ein Plakat schreiben, ausdrucken, und über meinen Schreibtisch/Arbeitsplatz hängen. Nochmals herzlichen Dank für den Artikel.
Helmut Elsässer