Meta und die 5000-Dollar-Schande

Auf Facebook und Instagram liefen Hunderte bezahlte Anzeigen mit KI-Missbrauchsbildern von Kindern. Der Konzern verteidigt sich mit dem Taschenrechner und verrät dabei mehr, als ihm lieb sein kann.

Das Foto hat ein europäisches Königshaus selbst veröffentlicht: eines seiner jüngsten Mitglieder, ein minderjähriges Mädchen. Monate später läuft dasselbe Bild als bezahlte Anzeige auf Facebook und Instagram, ausgespielt an erwachsene Männer. Eine KI hat das Kind in eine Missbrauchsszene verwandelt, und am Ende wirbt der Clip für eine chinesische App. Metas Prüfsystem hat die Anzeige durchgelassen. Als Forscher dem Konzern Hunderte solcher Fälle vorlegen, verweist er auf eine bemerkenswerte Zahl: Alle diese Anzeigen zusammen hätten weniger als 5000 Dollar eingebracht.

Die Forscher gehören zum Tech Transparency Project (TTP), dem Recherchearm der parteiunabhängigen Washingtoner Aufsichtsorganisation Campaign for Accountability. Anfang September legte TTP seinen Bericht vor: 332 Anzeigen mit Darstellungen sexuellen Missbrauchs von Kindern, die in diesem Jahr auf Metas Plattformen liefen. Die meisten folgen demselben Muster. Ein Kinderfoto, etwa aus sozialen Netzwerken oder von Websites, wird per KI zu Missbrauchsmaterial verfremdet. Danach folgt der Verweis auf eine App aus dem Store von Apple oder Google. In der großen Mehrzahl stammen diese Apps von chinesischen Entwicklern, viele davon sind sogenannte Nudify-Apps, die Menschen auf Fotos digital entkleiden. Knapp 80 Prozent der Anzeigen liefen auch in den USA, in der EU erreichten sie mehr als 29.000 Menschen. Für Länder außerhalb der EU und Großbritanniens weist Metas Werbebibliothek, das öffentliche Anzeigenarchiv des Konzerns, keine Reichweiten aus.

Metas Reaktion verlief in zwei Schritten. Wenige Stunden nachdem TTP seine Funde am 2. September übermittelt hatte, entfernte der Konzern die 149 Anzeigen, die in der Werbebibliothek noch sichtbar waren. In den Tagen danach liefen trotzdem Dutzende weitere, darunter jene mit dem Foto aus dem Königshaus. Gegenüber „Wired“ und Bloomberg erklärte Meta dann, man dulde weder Nudify-Apps noch irgendeine Form der Ausbeutung von Kindern, ob echt oder KI-generiert. Die meisten Anzeigen seien weniger als 200-mal angezeigt worden, die Werbeausgaben hätten zusammen unter 5000 Dollar gelegen.

Die Verteidigung mit dem Taschenrechner

In diesem letzten Satz steckt der ganze Fall. Er überträgt die Sprache der Quartalsberichte auf ein Verbrechen, als ließe sich der Missbrauch eines Kinderbildes in Reichweite und Umsatz verrechnen. Laut „Wired“ spielte Meta die Funde zusätzlich herunter: Die KI-Videos zeigten Erwachsene, die Aufnahmen der Minderjährigen seien kurz oder verschwommen gewesen, was die Erkennung erschwere. Das erinnert an einen Türsteher, der sich damit verteidigt, der Vierzehnjährige sei nur kurz im Club gewesen und außerdem schlecht beleuchtet.

Und doch führt die kleine Zahl auf die richtige Spur. Wenn diese Anzeigen so wenig einbringen, warum sind sie dann so schwer loszuwerden? Die Antwort liegt weniger in den Anzeigen selbst als in der Maschine, auf der sie mitfahren. Wie diese Maschine auf Warnungen reagiert, hat TTP ausprobiert.

Die Forscher meldeten 129 laufende Anzeigen über Metas eigenes Meldewerkzeug, ausdrücklich als Problem mit Minderjährigen und als mutmaßliche sexuelle Ausbeutung. Die Prüfung dauerte mindestens eine Woche. In 73 Fällen lautete die Antwort, die Anzeige verstoße nicht gegen die Werberichtlinien. Eine Anzeige mit dem Foto eines real existierenden Mädchens hatte am Tag der Meldung vier Nutzer in der EU erreicht; bis Meta sie entfernte, kamen 330 weitere hinzu. Von identischen Anzeigen löschte Meta die eine und winkte die andere durch, obwohl der Konzern nach eigenen Angaben seit 2019 Technik besitzt, die identische und nahezu identische Bilder und Videos erkennt. Bei 113 gelöschten Anzeigen nannte Meta als Grund Verstöße gegen Regeln für Erwachseneninhalte oder einen allgemeinen Richtlinienverstoß. Von Kindern war keine Rede. Erst als TTP nachhakte, korrigierte der Konzern die Einträge. Wer so zählt, muss damit leben, dass man auch seinen Statistiken über gelöschtes Missbrauchsmaterial nicht mehr recht traut.

Symbolträchtig ist der Ort, an dem all das zu finden war. Die Werbebibliothek ist Metas Schaufenster für Transparenz. Dutzende ältere Missbrauchsanzeigen blieben dort für jeden sichtbar, und eine Funktion, archivierte Anzeigen zu melden, gibt es nicht. Bei den meisten der in der EU gelaufenen Anzeigen waren außerdem die Pflichtangaben zu Auftraggeber und Zahler leer oder mit Buchstabensalat gefüllt, offenbar ein Verstoß gegen das EU-Gesetz über digitale Dienste.

Strenge für Gratisnutzer, Nachsicht für Zahler

Dass Meta solche Inhalte grundsätzlich erkennen kann, ist belegt. Die europäische Forschungsgruppe AI Forensics zeigte Anfang 2025, dass der Konzern binnen eines Jahres mehr als 3000 pornografische Anzeigen genehmigt hatte, die allein in der EU über acht Millionen Mal ausgespielt wurden. Luden die Forscher dasselbe Material über normale Nutzerkonten hoch, löschte Meta es rasch. Der Filter funktioniert also, er wird nur nicht auf alle gleich angewandt: streng bei denen, die nichts bezahlen, nachsichtig bei denen, die zahlen.

Warum das so ist, legen interne Unterlagen nahe, die Reuters im November 2025 auswertete. Demnach rechnete Meta Ende 2024 damit, rund zehn Prozent seines Jahresumsatzes, etwa 16 Milliarden Dollar, mit Anzeigen für Betrug und verbotene Waren zu erzielen. Werbekunden sperrte das System erst, wenn es sich zu 95 Prozent sicher war, dass sie betrügen. Bei geringerem Verdacht verlangte Meta höhere Preise. Maßnahmen gegen verdächtige Werbekunden durften den Konzern zeitweise höchstens 0,15 Prozent seines Umsatzes kosten. Meta nannte die Zehn-Prozent-Schätzung grob und zu weit gefasst, die tatsächliche Zahl liege niedriger. Eine eigene Zahl nannte der Konzern nicht.

Für den Vorwurf der Gier braucht es deshalb keine Moralpredigt. Die Stellschrauben genügen: eine Sicherheitsschwelle von 95 Prozent, ein Aufpreis statt einer Sperre, eine Obergrenze für die Kosten des Anstands. Gier zeigt sich bei Meta selten als Entscheidung eines Einzelnen, eher als Voreinstellung.

Pokale für die Vermittler

Besonders locker sitzen diese Stellschrauben im China-Geschäft. Facebook und Instagram sind in der Volksrepublik gesperrt, doch Peking erlaubt chinesischen Unternehmen, auf den Plattformen um Kunden im Ausland zu werben. Laut Reuters nahm Meta 2024 auf diesem Weg mehr als 18 Milliarden Dollar ein, über ein Zehntel seines weltweiten Umsatzes. Nach internen Berechnungen stammten davon rund 19 Prozent, also mehr als drei Milliarden Dollar, aus Anzeigen für Betrug, illegales Glücksspiel, Pornografie und andere verbotene Inhalte. Eine eigens gegründete Einheit drückte den Anteil binnen eines halben Jahres auf neun Prozent. Dann wurde sie aufgelöst, und bis Mitte 2025 stieg der Anteil wieder auf 16 Prozent. Intern hielten Manager laut Reuters fest, man werde bei chinesischen Werbekunden dauerhaft mehr Fehlverhalten hinnehmen als im Rest der Welt.

Einen Teil dieses Geschäfts wickeln autorisierte Wiederverkäufer ab, chinesische Agenturen, die Werbung im Wert von Milliarden auf Metas Plattformen bringen. Reuters zufolge zahlt Meta ihnen zehn Prozent Provision, schützt sie weitgehend vor Strafen bei Regelverstößen und reagiert nicht sofort, wenn die eigenen Systeme bei ihren Anzeigen anschlagen. Meta hält dagegen, man kürze Partnern mit zu vielen Verstößen die Provision. Drei dieser Partner, GIMC, Meetsocial und BlueFocus, schalteten nach Recherchen von TTP im Februar und März 2026 Anzeigen mit demselben Missbrauchsbild eines Mädchens. GIMC ist ein staatlich kontrolliertes Unternehmen, BlueFocus eines der größten PR-Häuser Chinas. Meta hat alle drei in den vergangenen Jahren mit Branchenpreisen ausgezeichnet, GIMC etwa zweimal für die Aktivierung von Kunden in großem Stil.

Im Juli hatte Meta noch „entschlossene Kriminelle“ für solche Anzeigen verantwortlich gemacht. Für die Scheinidentitäten, hinter denen viele der Anzeigen standen, mag das zutreffen: leere Facebook-Seiten mit häufig demselben Profilbild, eine davon mit Adresse in Chicago und einer Telefonnummer, unter der sich nur eine unverständliche Bandansage meldete. Ein Teil der Anzeigen kam allerdings über Partner, denen Meta selbst Preise verliehen hat.

Der Harn des Kaisers

Neu ist dieses Muster nicht, und die Einsicht, dass Geld nicht riecht, ist fast zweitausend Jahre alt. Sueton erzählt, Kaiser Vespasian habe seinem Sohn Titus, der ihm die Steuer auf Urin vorhielt, Geld aus der ersten Zahlung unter die Nase gehalten und gefragt, ob ihn der Geruch störe. Titus verneinte, und Vespasian erwiderte, das Geld stamme doch vom Urin. Aus der Anekdote wurde später das geflügelte Wort „pecunia non olet“. Vespasian wusste allerdings immerhin, woher sein Geld kam. Das Geschäftsmodell von Menlo Park ist raffinierter. Es organisiert das Nichtwissen: Die Stellschrauben sorgen dafür, dass niemand offiziell wissen muss, was er inoffiziell ahnt.

Upton Sinclair hat diese Mechanik einmal auf den Punkt gebracht: Es sei schwierig, einem Menschen etwas begreiflich zu machen, wenn sein Gehalt davon abhänge, dass er es nicht begreife. Auch bei Meta beschließt vermutlich kein Manager, Missbrauchsbilder auszuspielen. Viele beschließen lediglich, dass Reibung im Anzeigengeschäft zu teuer ist.

Wie reibungslos solche Voreinstellungen alle Instanzen passieren, zeigte ein Dokument, über das Reuters im August 2025 berichtete. Interne Regeln für Metas KI-Chatbots erklärten es für akzeptabel, Kinder in romantische oder sinnliche Gespräche zu verwickeln. Abgesegnet hatten das Papier nach Reuters-Angaben die Rechts- und die Politikabteilung, Ingenieure und der oberste Ethiker des Konzerns. Gestrichen wurde die Passage erst, nachdem Reuters nachgefragt hatte. Die Kontrollkette hatte also funktioniert. Sie war nur falsch geeicht.

Mit derselben Geschmeidigkeit behandelt Meta Fragen nach der eigenen Verantwortung. San Franciscos Stadtanwalt David Chiu forderte den Konzern per Unterlassungsschreiben auf, die Anzeigen zu stoppen und zu erklären, wie sie immer wieder durchrutschen konnten. Meta antwortete, es gebe keinen Hinweis, dass die Anzeigen in San Francisco zu sehen gewesen seien; der Fall liege daher außerhalb von Chius Zuständigkeit. Nachprüfen lässt sich das von außen nicht, denn die Werbebibliothek schlüsselt US-Anzeigen nicht nach Orten auf. Bemerkenswert bleibt das Argument trotzdem, denn es kommt von einem Unternehmen, dessen gesamtes Geschäft darauf beruht, sehr genau zu wissen, wer wo welche Anzeige sieht.

Ein Quartalsgewinn, auf zehn Jahre verteilt

Nun ließe sich einwenden, die Rechnung gehe für Meta längst nicht mehr auf. Im März 2026 verpflichtete eine Jury in New Mexico den Konzern zu 375 Millionen Dollar Zivilstrafe, weil er Verbraucher über die Sicherheit seiner Plattformen getäuscht und Kinder nicht vor Tätern geschützt habe. Meta hat Berufung angekündigt. Ende August folgte der Vergleich mit fast allen US-Bundesstaaten: je nach Rechnung zwischen 16,7 und 18 Milliarden Dollar, dazu Zeitlimits und Nachtsperren für Minderjährige sowie ein unabhängiger Prüfer. Beteiligte Bundesstaaten sprachen vom größten Verbraucherschutzerfolg seit den Tabakvergleichen der Neunzigerjahre.

Die Summe klingt gewaltig, bis man sie neben die Bilanz legt. Meta zahlt sie über zehn Jahre, hat aber allein im zweiten Quartal 2026 einen Nettogewinn von 15,8 Milliarden Dollar ausgewiesen. Für Rechenzentren und KI will der Konzern in diesem Jahr 130 bis 145 Milliarden Dollar ausgeben. Die Stanforder Rechtsprofessorin Nora Freeman Engstrom nannte die Summe gegenüber NPR nicht gerade Kleingeld, aber kaum einen Wirkungstreffer. Floridas Generalstaatsanwalt, der dem Vergleich nicht beitrat, sprach von Peanuts.

Aufschlussreich ist ein Detail der Konstruktion: Meta zahlt mehr, wenn YouTube, TikTok und Snap sich denselben Regeln unterwerfen. Die zusätzliche Last fällt also nur an, wenn auch die Konkurrenz sie trägt. Offenbar fürchtet Meta weniger die Zahlung als den Nachteil gegenüber den Rivalen. Noch am Tag des Vergleichs forderte Metas Chefjurist TikTok und YouTube auf, dem Beispiel zu folgen, und der Konzern präsentierte sich als Vorreiter beim Jugendschutz. Zur selben Zeit liefen in seinem Anzeigensystem weiter Missbrauchsbilder, darunter bald auch das Foto aus dem Königshaus.

Anzeige

Medienkompetenz
in Zeiten von KI

Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien. 

Mehr erfahren

Das Argument der Größe

Meta kann Gegenargumente anführen, und einige davon wiegen schwer. Auf seinen Plattformen laufen Anzeigen in einer Menge, die sich jeder menschlichen Kontrolle entzieht, und die Gegenseite lernt schnell. Apple berichtet, die Entwickler der beworbenen Apps hätten zunächst regelkonforme Programme eingereicht und die Entkleidungsfunktion erst später freigeschaltet. Auch Apple und Google hatten diese Apps also in ihren Läden. Meta verweist auf mehr als 36 Millionen entfernte Inhalte mit sexueller Ausbeutung von Kindern im vergangenen Jahr, auf Klagen gegen Entwickler von Nudify-Apps, auf seine Meldungen an die US-Kinderschutzstelle NCMEC und auf neue KI-Systeme, die verbotene Anzeigen schon beim Hochladen erkennen sollen. TTP wiederum ist parteiunabhängig, verfolgt aber ein klares Ziel: große Technologiekonzerne zur Rechenschaft zu ziehen. Und Reuters stützt sich auf Dokumente, deren Auswahl Meta für verzerrend hält.

Den Kern treffen diese Einwände allerdings kaum. Bei den Funden handelt es sich um bezahlte Anzeigen, die Meta nach eigener Darstellung vor der Ausspielung prüft und für deren Verbreitung der Konzern Geld genommen hat. Sie stammen aus Metas eigener Werbebibliothek. Das US-Recht schützt Plattformen weitgehend vor der Haftung für Beiträge ihrer Nutzer, doch diese Schutzklausel gilt nicht bei Verstößen gegen Bundesstrafrecht. Und das verbietet auch die Werbung für Missbrauchsdarstellungen; nach Auffassung des FBI gilt das ebenso für Bilder aus einer KI.

Man stelle sich die Anzeigenabteilung einer Regionalzeitung vor, die monatelang Kleinanzeigen mit solchen Bildern druckt, auf Hinweise von Lesern erst nach einer Woche reagiert, meist mit dem Bescheid, alles sei in Ordnung, und sich zuletzt darauf beruft, der Umsatz sei doch gering gewesen. Kein Verleger käme mit dem Hinweis davon, die Inserenten seien eben entschlossene Kriminelle. Meta ist diese Anzeigenabteilung, nur mit mehr als drei Milliarden täglichen Lesern.

Bleibt die Frage, ob Gier überhaupt das richtige Wort ist. Von innen betrachtet sieht sie vermutlich aus wie Effizienz: Reibung vermeiden, Wachstum schützen, Kosten deckeln. Ob ein Konzern gierig ist oder bloß gleichgültig, mag für die Mädchen auf den manipulierten Fotos unerheblich sein. Für die Frage, was hilft, ist der Unterschied entscheidend. Gleichgültigkeit lässt sich durch Empörung vielleicht aufbrechen. Gier reagiert auf Preise.

Diese Preise steigen gerade, mit Urteilen, Vergleichen und Post aus Rathäusern. Ob sie hoch genug sind, zeigt eine recht unspektakuläre Stellschraube: Prüft Meta bezahlte Anzeigen künftig mindestens so streng wie die Beiträge von Menschen, die nichts bezahlen, und gilt das auch für Partner mit zehn Prozent Provision und Branchenpreis im Regal? Solange das nicht geschieht, bleibt die von Meta beschworene Null-Toleranz eine Formulierung der Presseabteilung. Und die Werbebibliothek bleibt, was sie in diesem Sommer war: ein öffentlich einsehbarer Katalog all dessen, was der Konzern hätte sehen können.

Quellen

• F.A.Z.: Bericht über die TTP-Untersuchung zu Missbrauchsanzeigen auf Meta-Plattformen (abgerufen am 10. September 2026)
• Tech Transparency Project: „Meta Ran Hundreds of Paid Ads with Child Sexual Abuse Imagery“, 8. September 2026. https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery
• Bloomberg: „Meta Ran Hundreds of Ads Showing AI Child Sexual Abuse, NGO Says“, 8. September 2026. https://www.bloomberg.com/news/articles/2026-09-08/meta-ran-hundreds-of-ads-showing-ai-child-sexual-abuse-ngo-says
• Engadget zum ersten Wired-Bericht (Metas Stellungnahme, 36 Millionen entfernte Inhalte), August 2026. https://www.engadget.com/2231100/meta-apps-displayed-ads-that-contained-ai-generated-csam/
• Wired zum Schreiben des Stadtanwalts von San Francisco, September 2026, nach der Wiedergabe bei InfoSec Today. https://www.infosectoday.io/san-francisco-orders-meta-to-stop-allowing-ai-child-abuse-ads
• Reuters zu Betrugsanzeigen (10 Prozent, 95-Prozent-Schwelle, 0,15-Prozent-Grenze, Metas Widerspruch), November 2025, nach AML Intelligence und The Drum. https://www.amlintelligence.com/2025/11/insight-10-of-meta-revenue-comes-from-ads-for-scams/ · https://www.thedrum.com/opinion/mark-ritson-martin-lewis-shouldn-t-be-alone-in-calling-out-metas-lucrative-scam-ads
• Reuters zum China-Geschäft (18 Milliarden, 19 Prozent, Duldung von Fehlverhalten, Provisionskürzungen), Dezember 2025, nach WARC, eMarketer und Business & Human Rights Resource Centre. https://www.warc.com/content/feed/meta-hit-with-scam-ad-accusations-again/en-GB/11215 · https://www.emarketer.com/content/meta-s-massive-china-ad-fraud-problem-hurts-marketers-and-meta-itself · https://www.business-humanrights.org/en/latest-news/meta-allegedly-decides-to-accept-high-levels-of-fraudulent-chinese-ads-to-protect-revenue/
• Reuters zu den Chatbot-Richtlinien, August 2025, nach TechCrunch. https://techcrunch.com/2025/08/14/leaked-meta-ai-rules-show-chatbots-were-allowed-to-have-romantic-chats-with-kids/
• AI Forensics: „Pay-to-Play: Meta’s Community (double) Standards on Pornographic Ads“, Januar 2025. https://aiforensics.org/work/meta-porn-ads
• NPR zum Vergleich mit den Bundesstaaten (Engstrom, Chefjurist Mahoney, Zahlungsmechanik), 26. August 2026. https://www.npr.org/2026/08/26/nx-s1-5944781/meta-settlement-child-safety-lawsuit
• Stateline zum Vergleich (Tabakvergleiche als Maßstab), 26. August 2026. https://stateline.org/2026/08/26/meta-to-pay-47-states-up-to-17-1-billion-in-landmark-child-safety-settlement/
• AP via Free Speech Center (Florida), August 2026. https://firstamendment.mtsu.edu/post/meta-reaches-landmark-18-billion-settlement-with-states-in-trial-over-teen-social-media-addiction/
• CNBC zur Vergleichssumme von 16,7 Milliarden Dollar, 26. August 2026. https://www.cnbc.com/2026/08/26/meta-social-media-trial-settlement.html
• New Mexico Department of Justice zum Urteil über 375 Millionen Dollar, 24. März 2026. https://nmdoj.gov/press-release/new-mexico-department-of-justice-wins-landmark-verdict-against-meta/
• Variety und Yahoo Finance zu Metas Quartalszahlen Q2 2026. https://variety.com/2026/digital/news/meta-q2-2026-earnings-results-legal-proceedings-charge-1236823577/ · https://finance.yahoo.com/markets/stocks/articles/meta-platforms-inc-meta-q2-050330313.html

FAQ