Stil- und Bilderklau?

Die Bilder, mit denen neuronale Netze trainiert werden, um später nach Prompt-Eingaben Bilder zu generieren, wurden von Menschen gemacht. Die werden nicht gefragt, ob sie mit dieser Verwendung einverstanden sind. Ähnlich ist es bei der Analyse und Synthese von Stilen. Daraus ergeben sich Probleme. | Doc Baumann 24 mal derselbe Prompt, realisiert mit Deep Dream Generator: »Eine junge Frau, die auf einer Wiese unter einem Baum sitzt«. Aber 24 mal unterschiedliche Stile. Ein paar Beispiele: Andrew Wyeth, Daguerrotypie, van Gogh, Caspar David Friedrich, Dante Gabriel Rossetti, Picasso, Cézanne, Rubens, Grant Wood, Maxfield Parrish, Norman Rockwell, Seurat … einige mehr, andere weniger überzeugend. Manche sind hübsche Bilder, aber weit weg vom erbetenen Stil (der daher zum Raten gar nicht erwähnt wird). So entstand etwa das zweite Bild in der vorletzten Reihe nach der Aufgabenstellung: … im Stil des (Pop-Art-Malers) Roy Lichtenstein. Wer sich schon ein klein wenig mit der Frage befasst hat, wie künstliche Intelligenz Bilder generiert, weiß, dass das irgendetwas mit Trainieren zu tun hat. Dabei werden Abermillionen vorhandener Bilder eingespeist. Doch das allein reicht natürlich nicht. Stellen Sie sich vor, Sie erhielten einen Container voller hebräischer Zeitungen und Bücher und sollten nun die Wörter nach Verben, Adjektiven und Substantiven ordnen. Da Sie wahrscheinlich kein Hebräisch sprechen, käme dabei nichts Brauchbares heraus. Sie hätten erst dann eine Chance auf Erfolg, wenn unter jedem Wort die deutsche Übersetzung stünde. In vergleichbarer Weise bringt es einem neuronalen Netz wenig, wenn es sich Milliarden von Bildern „anschaut“, da ihm das „Wissen“ fehlt, was dort abgebildet ist. Trainiert werden kann also nur in einer Kombination von Bild und zutreffender Beschreibung seines Inhalts. Nach Abschluss der Trainingsphase ist eine KI dann in der Lage, erstens auf die Prompt-Eingabe „Haus“ angemessen zu reagieren und zweitens auf der Basis seines Trainingsmaterials neue Bilder zu generieren, auf denen ein Auto zu sehen ist. Und es kann dann zu fast jeder per Text eingegebenen Aufforderung eine praktisch unendliche Anzahl von Varianten ausgeben, die alle – mehr oder weniger – irgendetwas mit dieser Beschreibung zu tun haben. Dabei stellt sich natürlich schnell die Frage: Wo kommen all diese Trainingsbilder her? Schleppen die Entwickler bergeweise Fotoalben in die Firma? Natürlich nicht – eher schon ihre Festplatten mit Tausenden von Familien- und Urlaubsfotos. Aber selbst diese Mengen reichten bei weitem nicht aus, und außerdem ist dort nur eine begrenzte Menge von Objekten zu sehen. Später wird ja nicht nur irgendein Haus gebraucht, sondern ganz viele, alle Varianten, alte wie neue, von vorn, hinten und der Seite, mit und ohne Balkon … Außerdem Lampen, Werkzeuge, scheue Tiere – eigentlich fast alles. Die naheliegende Quelle für diese Trainingsbilder ist also das Internet, wo sie in unüberschaubarer Menge auf zahllosen Servern liegen und bei Interesse betrachtet werden können. Da liegt ihre Verwendung als Trainingsmaterial nahe. Aber darf man das? Einfach Milliarden von Bildern fremder Leute abgreifen, unabhängig davon, ob die damit einverstanden sind oder nicht, um daraus später neue Bilder zusammenzusetzen? Den meisten Menschen ist es egal, schon weil sie gar nichts von dieser Verwendung wissen. Einigen nicht, wie zum Beispiel dem Fotografen Robert Kneschke, der auf der nächsten Seite erläutert, warum er mit dieser Praxis nicht einverstanden ist. Hier lautete die Prompt-Aufgabenstellung an die KI: »Generiere ein Bild, das das Konzept des Diebstahls von künstlerischem Stil vermittelt. Das Bild soll zeigen, wie der Stil eines Künstlers von einem anderen übernommen oder nachgeahmt wird; verwende den Stil von van Gogh«. Und da sage noch jemand, KI käme nicht zu eigenständigen, kreativen Lösungen! Es kommt vor, dass KI-generierte Bilder Wasserzeichen von Bilddatenbanken zeigen. Die KI behandelt die wie jedes andere Muster auch, das sie gelernt hat, sie kann ja nicht lesen. Das ist ein Beleg dafür, dass diese Bestände durchsucht wurden. Mir wäre das ziemlich egal. Das ist, als würde jemand Fotos meiner Bilder durch einen Aktenvernichter mit Diagonalschnitt schicken und die unten herausrieselnden Schnipsel in Quadratmillimetergröße zu neuen Bildern zusammencollagieren. Denn so ähnlich konstruiert sie KI – ausgehend von der Prompt-Beschreibung und einem zunächst wilden Rauschen, das sich schrittweise aus den Trainingsschnipseln zu Abbildungen von Menschen und Objekten aufbaut. Aber man kann das auch anders sehen. Die Argumente für eine Ablehnung dieser Praxis führt auf der Seite gegenüber Robert Kneschke auf – die Gegenargumente LAION, ein Verein, der solche Trainingssets anbietet. Midjourney-Prompt: »zwei Männer, die sich heftig streiten, man sieht nur ihre Köpfe, als scharfes Foto« Das sind nicht die beiden Kontrahenten unten! Stellungnahme Robert Kneschke Die Entwicklung generativer KI-Tools ist ein Meilenstein in der Kunstgeschichte, vergleichbar mit der Erfindung der Fotokamera. Eine wichtige Rolle spielen dabei Milliarden Trainingsdaten, mit denen die KI lernen, wie sie selbst Bilder erstellen können. Der Hamburger Verein LAION e.V. ist dabei ein wichtiger Lieferant für solche Trainingsdaten, die er kostenlos bereitstellt, zum Beispiel das Datenset „LAION 5B“ mit über 5,85 Milliarden Datensätzen. Ein Datensatz besteht dabei aus einer URL zu einem – oft urheberrechtlich geschützten - Bild, der Bildbeschreibung und anderen Datenpunkten, alles gesammelt ohne Zustimmung der Urheber. Der Verein pocht darauf, dass die Erstellung der Trainingsdaten legal sei. Die gesamte Konstruktion des Vereins wirft jedoch viele Fragen auf, die letztendlich Zweifel wecken, ob das stimmt. So sind in den Trainingsdaten beispielsweise Direktlinks zu Bildagentur- Thumbnails enthalten, obwohl die Fotografen diese Bilder schon zwischen 2016 und 2020 gelöscht hatten. Der Verein selbst wurde jedoch erst am 16.2.2022 gegründet. Er speichert angeblich auch keine Bilder, obwohl in ihren öffentlichen Blogbeiträgen vom Gegenteil die Rede ist. Der stellvertretende Vereinsvorsitzende Richard Vencu ist in Rumänien wohnhaft und spricht kein Deutsch, obwohl der Verein laut Satzung mit den Behörden in Deutsch kommunizieren soll. LAION e.V. hat keine regelmäßigen Einnahmen und finanziert sich nur über Spenden und ähnliche Gelder. Diese Spenden kommen – wohl nicht zufällig – von Firmen wie etwa Stability AI, welche wiederum die Datensätze von LAION für ihre KI-Trainings verwenden. Seit Februar 2022 arbeitet der erwähnte Vereinsvorsitzende auch – Überraschung – für Stability AI. Die Vermutung liegt nahe, dass man hier eine Konstruktion schaffen wollte, mit der eine kommerzielle Firma die Schlupflöcher im Urheberrecht ausnutzen sollte. Um dieses Geflecht besser ausleuchten zu können, will ich als einer der betroffenen Urheber gegen LAION juristisch vorgehen. Stellungnahme LAION e.V. Es ist bedauerlich, dass Herr Kneschke derartige Vorwürfe gegen LAION erhebt, anscheinend ohne sich über unseren Verein und die Rechtslage informiert zu haben. Zunächst einmal ist unser Verein kein Konzern, sondern ein gemeinnütziger Verein, der sich der Forschung rund um die Nutzung selbstlernender Algorithmen im Sinne künstlicher Intelligenz verschrieben hat. LAION stellt keine KI-Software zur Verfügung, sondern nur so genannte Trainingssets, die als Basis solcher Angebote dienen. Die Vereinsmitglieder sind im Rahmen der Vereinsarbeit ehrenamtlich forschend tätig. Uns ist es wichtig, die Entwicklung in einem für die gesamte Gesellschaft höchst relevanten Bereich wie KI nicht amerikanischen Konzernen allein zu überlassen. Der Rechtsrahmen für solche Trainingssets wurde 2021 im Rahmen einer europäischen Vorgabe von Seiten des Gesetzgebers neu bestimmt. Danach ist es ausdrücklich erlaubt, „rechtmäßig zugängliche Werke für das Text- und Data-Mining“ zu vervielfältigen. Diese Regelung findet sich in § 44b UrhG. Ausweislich der Gesetzesbegründung fällt hierunter auch die Erfassung von Daten für das Training von künstlicher Intelligenz, wozu auch Fotos gehören. Wer dies nicht möchte, der muss dieser Nutzung widersprechen. Ohnehin hat LAION zu keinem Zeitpunkt Fotos dauerhaft heruntergeladen oder hält diese gar in gespeicherter Form bereit. Diese werden nur im Rahmen der Analyse gemäß den gesetzlichen Vorgaben analysiert, aber nicht dauerhaft gespeichert. Der Verein stellt darauf basierend eine Datenbank zur Verfügung, die Links auf Bilddateien enthält, die frei im Internet abrufbar sind. Dieses gleicht eher einer Suchmaschine, deren Index Links zu einer Vielzahl von Bildern enthält. Insbesondere ist es nicht möglich, Fotos zu löschen. LAION ist als Forschungsgemeinschaft an einer offenen Diskussion und Kooperation interessiert. Wir würden es sehr bedauern, mit Herrn Kneschke einen Rechtsstreit führen zu müssen, zumal die Rechtslage aus unserer Sicht sehr eindeutig ist. Zwei Varianten zum Prompt »Stilklau«, wie sie das KI-System Wombo interpretiert. Das grundlegende Problem wurde hier treffend visualisiert. Die Sache mit dem Stil KI lernt aber nicht nur, Objekte auf Bildern zu identifizieren und sie später wiederzugeben. Sie kann ebenso lernen, dass gleiche Objekte in unterschiedlichen Stilen abgebildet werden. Manche dieser Stile sind sehr markant und daher nachgeahmt leicht erkennbar, allen voran der von Vincent van Gogh. Andere sind subtiler und daher schwerer zu simulieren und wiederzuerkennen. Folgenreich in diesem Zusammenhang ist nun, dass KI nicht nur Stile von Renaissance- oder Barockmalern nachahmen kann (mehr oder weniger überzeugend), sondern auch von zeitgenössischen. Und deren Chancen, dagegen anzugehen, sind noch schlechter als die bei ungefragter Bildverwendung, denn so etwas wie Stil lässt sich auf der Grundlage des Urheberrechts nicht schützen. Besonders vehement lehnt sich ausgerechnet der polnische Fantasy-Illustrator Greg Rutkowski gegen diese Praxis des Stilklaus auf. In der Tat kann er zahlreiche KI-Bilder vorweisen, bei denen die User einen Motivwunsch gepromptet haben, ergänzt um „im Stil von Greg Rutkowsky“. Was dann in der Tat mitunter kaum zu übersehen ist. Eine üble Sache! Tatsächlich? Denn wenn die Übernahme fremder Stile tatsächlich juristisch oder moralisch so verwerflich wäre, müsste man Rutkowsky fragen, wieviel von seinem „eigenen“ Stil ohne Vorbilder wie Frank Frazetta, Boris Vallejo oder der Brothers Hildebrandt übrig bliebe. Wenn wir heute im Rückblick formal ähnliche Werkgruppen zu Stilen zusammenfassen, wie die Historienmalerei, Impressionismus, Kubismus … Photorealismus – hat dann einer damit angefangen und die anderen haben ihn plump nachgemacht? Oder ist das nicht vielmehr eine Art Entwicklungsgesetz der Geschichte (nicht nur der bildenden) Kunst, dass Künstler Anregungen aufnehmen, transformieren, weitergeben? Sicherlich nicht so einfach und schnell wie bei KI: Mach’ mal ein Mädchen unter ei nem Baum im Stil von XY! Aber ob nun jemand etwa von Frazetta begeistert ist, seine Bilder intensiv betrachtet, von Komposition, Farbauftrag oder Sujets lernt und sie selbst anwendet – oder ob dieses Training nicht in einem menschlichen Kopf stattfindet, sondern in neuronalen Netzen, macht keinen so großen Unterschied. Diese Entwicklung ist faszinierend und gefährlich, aber unaufhaltsam. Sie wird zu beeindruckenden Ergebnissen führen – Vorreiter DALL-E ist gerade mal ein Jahr alt, die Qualität wächst rasant – und zahllose Arbeitsplätze kosten. Aber sie ist nicht zu stoppen, und es hilft nicht weiter, den Kopf in den Sand zu stecken oder sich ihr entgegenzustemmen. So bleibt nur, sie produktiv zu nutzen.