Kreative Befehlsverweigerung

Das Generieren von Bildern mit Hilfe von KI und Textbeschreibungen führt schon jetzt zu eindrucksvollen Ergebnissen. Dennoch lässt sich nicht übersehen, dass viele so entstandene Bilder noch wenig mit dem Wunschresultat zu tun haben – vom völligen Ignorieren der Vorgabe über kuriose Details bis hin zu überzähligen Fingern. | Doc Baumann Keiner der Versuche mit unterschiedlichen Prompt-Formulierungen, die Idee „Befehlsverweigerung“ zu visualisieren, führte zu einem befriedigenden Ergebnis. Doch wie so oft kamen dabei durchaus ansehnliche Bilder zustande. Vielleicht zeigt dieses ja einen nachdenklichen Deserteur? Es wirkt wie eine Ironie der Geschichte, dass von künstlicher Intelligenz generierte – also digital zustandegekommene – Bilder ausgerechnet bei einer Darstellung so häufig scheitern: bei der Wiedergabe von Fingern. Denn der Begriff „digital“ kommt vom lateinischen digitus für „Finger“. (So, wie „Computer“ von computare („berechnen“) kommt und früher Menschen bezeichnete, die aufwendige Berechnungen manuell durchführten; der Film „Hidden Figures – Unerkannte Heldinnen“ etwa handelt von den – schwarzen – Frauen, die auf diese Weise die Daten für die frühen NASA-Weltraummissionen ermittelten.) Aber nicht nur bei Fingern, Armen oder Zehen verweigert manche KI oft das erwünschte Ergebnis. Bei vielen Versuchen entstehen trotz ausgefeilter Prompts – also Textbeschreibungen – völlig abwegige Resultate ohne jeden Bezug zu dem, was man erwartet hat. Manches wird gänzlich verweigert, bei anderem stimmen einige Komponenten, andere nicht. Das ist bei kostenpflichtigen Systemen besonders ärgerlich. Denn wären Sie etwa mit dem Abonnement einer Bildbearbeitungszeitschrift glücklich, die mal auf Koreanisch, mal auf Finnisch oder Yoruba erscheint, mal über Disco-Ausstattungen, dann über Hundepflege oder Armbanduhren berichtet … und gelegentlich auch auf Deutsch über Bildbearbeitung? Unzureichende Vorgaben, erfreulicher Abfall Bei KI-Bildern kommt derlei zwar – noch – häufig vor, aber es gibt wichtige Unterschiede: Einerseits sind die Anwender mit schuld, weil der formulierte Prompt unzureichend ist, andererseits hat selbst gründlich Danebengegangenes oft seinen eigenen Reiz, der es lohnt, solche Bilder zur späteren Verwendung aufzubewahren. Die so vor dem Monitor verbrachten Stunden in gespannter Erwartung, was als Nächstes erscheinen mag, erinnern mich an ein vergleichbares Suchtverhalten, als 1992 das erste Photoshop-Plug-in herauskam, Kai’s Power Tools, mit einem Textur-Generator, der immer neue Varianten erzeugte, die man bestimmt irgendwann einmal gut würde brauchen können. Am irritierendsten ist wohl die bisherige Unfähigkeit der KI-Systeme, zu zählen und die korrekte Anzahl von Fingern wiederzugeben. Mal stimmt’s, mal nicht. Da wachsen auch schon mal die Arme unterschiedlicher Personen zusammen oder es zeigt sich ein drittes oder gar viertes Bein. (siehe dazu DOCMA 106, Seite 80 ff.) Eines der Hauptprobleme KI-generierter Bilder sind Finger, sei es in photorealistischer Umsetzung oder an Dürer angelehnt. Bei Zehen ist es nicht besser, und auch Arme können aus der Form geraten. Das angestrebte „Monster“ in Bild 5 entspricht nicht den Erwartungen, Bild 6 schon. Auch ein Prompt, der das Problem gezielt anspricht, führt zu keinem guten Ergebnis: »eine Hand mit fünf und eine andere Hand mit sechs Fingern« (alle Prompts ins Deutsche übersetzt) (Bild 1). Ebensowenig hilft hier der Bezug auf ein berühmtes Beispiel: »Dürers Betende Hände im Stil eines Kupferstichs, schwarzweiß« (Bild 2). Bei Füßen ist es oft nicht besser – Bild 3 bringt es, je nach Zählung, auf neun Zehen! Und wenn endlich die Fingeranzahl stimmt, wird schon mal ein Arm beängstigend gestreckt. Dass bei diesem „Rembrandt“ (Bild 4) das obere Kopfdrittel abgeschnitten wurde, kommt erschwerend hinzu. Zwar gibt es in der Kunstgeschichte mindestens ein Beispiel eines viel zu langen Arms, Cézannes „Knabe mit roter Weste“; bei der Frage nach alten Gemälden mit überzähligen Fingern blamiert sich dagegen eine andere KI, ChatGPT, und zählt etliche Raffaels und Cranachs als Beispiele auf, die es aber gar nicht gibt. Angesichts solcher Mängel, von denen sich allerdings erwarten lässt, dass sie bald behoben werden, ist es tröstlich, dass auch die einem bestimmten Prompt ganz und gar nicht entsprechenden Resultate immer wieder zu interessanten Bildergebnissen führen. Bei den ersten Versuchen hatte Deep Dream Generator, mit dem die meisten Beispiele dieses Artikels generiert wurden, offensichtlich ganz andere Vorstellungen von »Ein grauenvolles, angsteinflößendes Monster« als ich und schlug Bild 5 vor; mein Erschrecken bei der Konfrontation mit dem abgebildeten Wesen in der Realität hielte sich in Grenzen. Der nächste Versuch (Bild 6) traf es dann schon eher. Auf diese Weise entstehen Ordner voller Bilder, die man gar nicht haben wollte, die zum Löschen aber dennoch zu schade sind. Wer weiß, vielleicht kann man sie doch mal für eine Montage verwenden … Jedenfalls haben Bildbearbeitungsprogramme noch lange nicht ausgedient; vielleicht bietet Photoshop ja demnächst einen speziellen Neural Filter an, der überzählige Finger im Handumdrehen eliminiert. KI generiert oft Bilder, die zwar gewisse Aspekte des Prompts berücksichtigen, andere aber völlig ignorieren. Manches wird gar nicht realisiert. Schauen wir uns ein paar weitere Beispiele an: »Drei Kaninchen, die blaue T-Shirts tragen, treiben Gymnastik, als scharfes Foto«. Die dem Prompt folgenden Bilder hatten zwar irgendetwas mit der Vorgabe zu tun, aber selten wurde alle Merkmale berücksichtigt: Mal entstanden sportliche Kaninchen ohne T-Shirt (Bild 7), mal blaue T-Shirts ohne Kaninchen (Bild 8). Bei »Ein Foto von Hitler als Spielzeugfigur« (Bild 9) sieht dieser aus, als habe die KI den Hitler-Stalin-Pakt falsch in Erinnerung gehabt. Wenn das alles offenbar zu schwierig ist, versuchen wir es mit etwas ganz Einfachem: »Ein schwarzes Quadrat auf weißem Grund«. Simpler geht’s kaum; der KI war es wohl zu simpel. Ohne visuelle Ausschmückungen kam kein Ergebnis aus (Bild 10). Da man sich beim Umgang mit KI ja immer wieder zur Ordnung rufen muss, um nicht zu anthropomorphisieren und ihr menschliche Regungen zuzuschreiben, erübrigt sich bei Bild 11, mit exakt demselben Prompt, die Frage, was „sie“ sich wohl dabei „gedacht“ hat. Bild 12 sollte eigentlich zu »ein US-Straßenkreuzer im Stil der 50er, 10 Meter lang, als scharfes Foto« führen – immerhin wurde der 50er-Jahre-Stil umgesetzt. Erhebliche Schwierigkeiten gibt es bei Schriftwiedergabe; Texte behandelt KI als bedeutungslose Muster, was auf den ersten Blick kaum auffällt, beim zweiten schon. (Siehe dazu auch www.docma.info/22770) In diesem Fall ist es das Coca-Cola-Logo, das zwar erkennbar ist, aber nur ungefähr stimmt. Zahlreiche Versuche mit »ein sehr kleiner Elefant und eine sehr große Maus« zeigten diese nie, verschmolzen aber die beiden Vorgaben zu Bild 14. Und da zum Trainingsmaterial der KI ausschließlich Augen mit Iris und Pupille gehören, blieb die Anforderung erfolglos, ein Auge ohne sie zu zeigen (Bild 15). Auch bei nachgeahmten Kunstwerken gibt es noch Mängel. Schattenwurf und Perspektive sind nicht so einheitlich, wie es zunächst scheint. Auch Kunst-Vorbilder haben ihre Tücken. »Die heilige Familie, im Stil von Raffael« präsentiert zwei Kleinkinder, Josef wird mit der (bärtigen) Maria zu einer Person vereint, der Stil ist eher der von Bouguereau (Bild 16). »Gemälde einer jungen Frau im Stil Rembrandts« mogelt ein Selbstporträt des Malers ins Werk (Bild 17), »eine Frau, die aus einem Fenster blickt, im Stil von Edward Hopper« trifft den Stil dieses Malers zwar recht gut, kommt aber mit den Schlagschatten der Fenstersprossen nicht zurecht (Bild 18). Dürers berühmten Hasen versetzt die KI in einen zärtlichen Tier-Porno (Bild 19), während der Versuch der »Geburt der Venus aus dem Meeresschaum am Strand von Paphos« (Bild 20) schamhaft in einer Wassersäule endet. Man fragt sich, wieso es mit Fingern nicht klappt, wohl aber mit globalen Aspekten wie Perspektive oder Beleuchtung. Aber ist das wirklich immer der Fall? In Bild 21 scheinen alle Fluchtlinien zu stimmen – aber eine fällt aus der Rolle. Bei (Bild 22) gibt es eigenwillige Schatten an der Hauswand links; der des Baumes im Hintergrund dagehen fehlt. Auch die Schatten der Aquädukt-Bögen in (Bild 23) sind falsch. Daraufhin schickte mir ein Freund, mit dem ich KI-Resultate austausche, Bild 24. Auch hier seltsame Schatten. Allerdings ist das Bild eine heimtückische Fälschung. Von wegen KI – bloß ein ganz normales Foto! Am ausgeprägtesten jedoch zeigen sich die eingebauten Verweigerungen der KI-Systeme, wenn es um Nacktheit geht (oder um Gewaltdarstellung, was nach Einschätzung der Hersteller ungefähr dasselbe zu sein scheint). Ich war darauf bereits in DOCMA 106 ausführlich eingegangen. Eines der zentralen Verweigerungsprobleme vieler KI-Systeme ist Nacktheit. Foto 25 ist das „Original“ (das Gesicht wurde wegen der Persönlichkeitsrechte hier bereits per Inpainting im neuen Photoshop problemlos und sehr gut ersetzt). Doch alle Versuche, das Bikinioberteil auf demselben Weg auszutauschen, scheiterten – es passierte nichts. Bei Bild 26 wurde dann zunächst ein neues, männliches Gesicht generiert – und siehe da, plötzlich funktionierte es! Bei weiteren Versuchen entstand sogar ein nackter Oberkörper 27, eine recht sexistische Vorgehensweise. Stable Diffusion XL lässt einen recht ansehnlichen Herkules entstehen, aber mit einer zupackenden Hand statt eines Penis 28|. Angesichts der aktuellen und dringend notwendigen Diskussion darüber, wie man KI-Systemen ethische Grenzen setzt, ist dieser Umgang ein hilfreiches Beispiel dafür, wie man es nicht machen sollte. Selbst der harmlose Versuch, per Inpainting in Photoshop auch nur einen kleidungsfreien Ellbogen zu ersetzen, der durch ein Objekt im Vordergrund teilweise verdeckt war, scheiterte trotz zahlreicher Versuche; die Software machte einfach gar nichts. Und bei dem Experiment oben erwies sie sich als schlicht sexistisch. Irgendetwas an Stelle des Bikinioberteils (Bild 25) zu generieren, weigerte sie sich standhaft – als aber mit demselben Verfahren der Kopf gegen den eines Mannes ausgetauscht worden war, klappte es plötzlich (Bild 26). Und da sie nun plötzlich als Mann galt, entstand bei einem weiteren Versuch sogar ein nackter Oberkörper (Bild 27). Auch die XL-Version von Stable Diffusion will es nicht anders. Zwar kam ein recht guter Herkules (wenn auch nicht in der angeforderten Farnese-Fassung) zustande, doch stets ohne Penis, der hier sogar durch eine zupackende Hand ersetzt wurde (Bild 28). Ist das korrekter? Das erinnert an Prohibition und restriktive Drogenpolitik. Wer Haschisch braucht, muss sich an Dealer (mit Zusatzangeboten) wenden. Und wer eine nackte Person generieren möchte, landet etwa bei pornpen.ai (DOCMA 106, S. 50 ff.), das dann auch recht Eindeutiges generiert.

Als Abonnent einloggen

DOCMA 2GO abonnieren

Schreibe einen Kommentar Antwort abbrechen