Der programmierte Sündenfall: Warum die KI-Pornografie-Debatte um Grok ein Kampf um unsere Fantasie ist

Die Empörung war groß, als Grok begann, auf Zuruf Bilder zu liefern, die Menschen entkleidet zeigten. Doch die eigentliche Brisanz liegt nicht in der längst bekannten Tatsache, dass eine Maschine dies vermag. Die wirklich spannende Entwicklung ist die gesellschaftliche Reaktion darauf: der reflexhafte Griff zum „Pornografie“-Vorwurf, selbst bei Darstellungen, die nach klassischen Maßstäben schlicht als Akt oder gar als Urlaubsbild gelten würden. Diese moralische Panik ist weit mehr als nur eine Reaktion auf eine neue Technologie. Sie ist das Symptom eines tiefgreifenden Unbehagens und legt einen Kulturkampf offen, der nicht auf den Serverfarmen, sondern in unseren Köpfen ausgetragen wird: den Kampf um die Hoheit über den eigenen Körper im Zeitalter seiner unendlichen digitalen Reproduzierbarkeit.

Der moralische Panikknopf: Nacktheit als Vergehen

Es ist bezeichnend, mit welcher Geschwindigkeit der Begriff „Pornografie“ zur Allzweckwaffe in der Debatte wurde. Aber es ist nicht neu. Ich kann mich noch gut an einen Vater erinnern, der immer, wenn ich seiner pubertierenden Tochter die »Bravo« brachte – ja, vor 40 Jahren wurden viele Abos noch von Schülern ausgeliefert –, mich erbost anfuhr. „Da kommt ja schon wieder der Porno-Bote“.  

„Pornografie“ ist ein schlagkräftiges Wort, das jede weitere Differenzierung im Keim erstickt und den Diskurs sofort auf eine moralische Ebene hebt, auf der es nur noch Täter und Opfer, Anstand und Verderbtheit zu geben scheint. Dabei wird übersehen, dass viele der beanstandeten Bilder in einem anderen Kontext – etwa dem einer Kunstgalerie oder einem Familienalbum – kaum Anstoß erregen würden. Und es wird völlig ausgeblendet, dass die Bewertung von Medien als „Pornografie“ immer die explizite Darstellung sexueller Handlungen voraussetzt.

Dieses Phänomen fällt in eine Zeit, in der der nackte Körper aus dem öffentlichen digitalen Raum zunehmend verbannt wird. Nach Jahrzehnten, in denen Werbung und Medien eine oft ermüdende Allgegenwart des Nackten zelebrierten, schlug das Pendel um. Die Algorithmen der großen Social-Media-Plattformen, getrieben von der Angst vor Werbekunden und puritanischen Eiferern, sanktionieren heute eine entblößte Brustwarze strenger als manche politische Hetze oder die Darstellung von Gewalt. In diesen sexualmoralisch klinisch reinen Imaginationsraum platzt nun die KI mit ihrer Fähigkeit, auf Wunsch jede erdenkliche Form von Nacktheit zu visualisieren. Der Aufschrei ist auch die Abwehrreaktion eines Systems, das seine mühsam errichteten digitalen Sittlichkeitsgrenzen bedroht sieht. Die KI begeht nicht nur einen Tabubruch, sie entlarvt die Künstlichkeit und Willkür der herrschenden Bildpolitik.

Die alte Kunst, sich jemanden nackt vorzustellen

Viel entscheidender ist jedoch ein Aspekt, der in der technikfokussierten Diskussion meist zu kurz kommt: Die Vorstellung, eine andere Person nackt zu sehen, ist keine Erfindung des digitalen Zeitalters. Sie ist eine menschliche Konstante – ein integraler Bestandteil von Fantasie, Begehren, Neugier und manchmal auch von Machtausübung. Seit jeher malen sich Menschen im geistigen Auge aus, was die Kleidung verbirgt. Dieser Akt der Imagination war bislang vor allem eine rein private, meist recht flüchtige Angelegenheit, die sich im nicht greifbaren Raum des Bewusstseins abspielte.

Die KI verändert hier die Spielregeln. Sie externalisiert diese innere Vorstellung. Sie macht aus einem flüchtigen, ein Worte gefassten Gedanken ein persistentes, teilbares, digitales Artefakt. Der eigentliche Übergriff liegt nicht mehr in der Fantasie selbst, sondern in ihrer Materialisierung und der potenziellen Konfrontation der betroffenen Person mit dieser materialisierten Fantasie. Wenn jemand ein KI-Bild anfertigt, das den Kollegen oder die Nachbarin entkleidet zeigt, ist das Problem nicht der Gedanke, sondern der digitale Beweis. Es ist die Umwandlung einer privaten Vorstellung in eine öffentliche Demütigung, die die eigentliche Verletzung darstellt. Die Technologie dient als Brücke von der nicht justiziablen Fantasie zur potenziell strafbaren Handlung.

Die verlorene Kontrolle über das eigene Abbild

Letztlich wurzelt die Panik in einem tiefen Gefühl des Kontrollverlusts. In einer Welt, in der unser digitales Abbild – durch Profilfotos, Social-Media-Posts und unzählige andere Datenpunkte – allgegenwärtig ist, war die physische Integrität unseres Körpers die letzte Bastion. Die Kleidung war die Grenze. Die KI reißt diese Grenze ein, indem sie zeigt, dass aus wenigen öffentlich zugänglichen Bildinformationen eine plausible Darstellung des Darunterliegenden errechnet werden kann.

Die moralische Empörung ist somit auch ein verzweifelter Versuch, die Kontrolle über das eigene Bild zurückzugewinnen, indem man die Werkzeuge, die diesen Kontrollverlust ermöglichen, gesellschaftlich ächtet.

Es geht weniger darum, die Welt vor dem Anblick von Nacktheit zu schützen, als vielmehr darum, das Individuum vor der ungewollten visuellen Enteignung seines Körpers zu bewahren. Die Debatte um KI-Nacktheit ist daher keine reine Technik- oder Ethikdebatte. Sie ist eine zutiefst politische Auseinandersetzung darüber, wem Bilder von uns gehören und wer das Recht hat, sie zu verändern, zu interpretieren und neu zusammenzusetzen. Für uns als Bildschaffende stellt sich damit die Frage nach der Verantwortung nicht erst beim fertigen Bild, sondern bereits beim formulierten Prompt – dem Moment, in dem die Fantasie zur Anweisung wird.