KI-Trainingsdaten: Neunzig Prozent der Quellen bleiben im Dunkeln
Ein klein wenig Hoffnung, dass wir Fotografen, Illustratoren und Schreiber vielleicht doch noch eine Chance bekommen, etwas vom großen KI-Kuchen abzubekommen, gab es: Seit dem Vorjahr muss in der EU jeder, der ein Allzweck-KI-Modell auf den Markt bringt, öffentlich zusammenfassen, womit er es trainiert hat. Was für eine schöne Idee! Doch wer darin nachschlagen will, ob das eigene Blog, das eigene Buch oder die eigenen Fotos in ChatGPT, Claude oder Gemini gelandet sind, findet unter „Web-Scraping“ eine Aufzählung von Herkunftsadressen: Common Crawl, Wikipedia, ein paar große Nachrichtenportale. Dann endet die Liste. Vorgeschrieben ist nur das oberste Zehntel der Quellen.
Die Pflicht steht in Artikel 53 des AI Act, das Format gibt die Kommission über eine verbindliche Vorlage vor, und die Liste der Angaben ist lang: Modell und Versionen, Art und Größenordnung der Inhalte, öffentliche Datensätze, Beschreibungen lizenzierter Daten, Herkunft von Nutzerdaten, synthetisches Material, Vorkehrungen gegen illegale Inhalte und zum Urheberrecht. Eine Auskunft über Sie steht nirgends darin.
Beim Web-Scraping lautet die Zahl: die obersten zehn Prozent aller Domains, gemessen an der Datenmenge, bei kleinen und mittleren Unternehmen fünf Prozent oder tausend Adressen. Bei Modellen, die aus Milliarden Seiten lernen, verschwindet alles darunter. Ihre Website taucht in keiner Zusammenfassung auf, wenn sie nicht zu den ganz großen Lieferanten des Netzes gehört, auch dann nicht, wenn sie vollständig eingesammelt wurde. Dazu die Ausnahmen: Einzelne Werke und einzelne Adressen müssen nicht genannt werden, Geschäftsgeheimnisse sind gegen das Transparenzinteresse abzuwägen, und wer etwas nicht mehr rekonstruieren kann, muss die Lücke bloß begründen. Heraus kommt ein Verzeichnis von Kategorien, keine Suchmaschine für eigene Ansprüche.
Das Reinheitsgebot der Maschinen
Das bayerische Reinheitsgebot von 1516 regelte, was in ein Bier hinein darf: Gerste, Hopfen, Wasser. Eine Frage beantwortet es bis heute nicht, nämlich auf welchem Acker die Gerste gewachsen ist. Kategorien lassen sich vorschreiben, Herkunft nachzuweisen kostet Geld und Zeit. Wie viel, zeigt die Provenienzforschung der Kunstgeschichte. Sie funktioniert, weil ein Gemälde ein einzelnes Ding bleibt. Ein Satz aus Ihrem Blog ist das nicht mehr, sobald er in den Gewichten eines Modells liegt. Er wird dort zu einem winzigen statistischen Beitrag an einer Wahrscheinlichkeit, so wie Milch im Sammeltank keine Milch mehr von Ihrer Kuh ist.
Damit hat das Recht ein Problem. Es hat gelernt, Kopien zu verfolgen, und steht ratlos vor einem Verfahren, das aus Millionen Werken eine Statistik macht. Die Offenlegungspflicht setzt dieser Ratlosigkeit ein Formular entgegen. Eine schwache Antwort, aber die erste verbindliche: Durchsetzbar sind die Pflichten seit diesem Sommer, es drohen bis zu drei Prozent des weltweiten Jahresumsatzes oder fünfzehn Millionen Euro. Ältere Modelle, und das sind viele der heute genutzten, haben bis August kommenden Jahres Zeit.
Japan verlangt mehr und verpflichtet zu weniger. Ein Expertengremium der Regierung hat einen Kodex für Anbieter generativer KI gebilligt, dessen zweiter Grundsatz vorsieht, dass Unternehmen Rechteinhabern auf Anfrage mitteilen, ob bestimmte Webseiten in den Trainingsdaten stecken. Also genau das, was die europäische Vorlage ausspart. Bindend ist der Kodex allerdings nicht.
Drei Umwege
Bis jetzt helfen nur Umwege. Forscher arbeiten mit Memorisierungstests und bringen Modelle dazu, längere Passagen wörtlich auszuspucken; so ließ sich zeigen, dass Llama große Teile von Harry Potter praktisch auswendig konnte. Bei einem durchschnittlichen Blogeintrag versagt die Methode, dafür kommt er zu selten vor.
Genauer sind die Gerichte. In den zahlreichen US-Urheberrechtsverfahren rund um KI-Training muss die Herkunft der Daten im Beweisverfahren offengelegt werden, und was dort ans Licht kommt, übertrifft jede freiwillige Angabe.
Der dritte Weg zielt nach vorn: ein Rechtevorbehalt beim Text- und Data-Mining, technisch über die robots.txt oder maschinenlesbare Nutzungsvorbehalte. Bei Meta führt der Widerspruch über je ein Formular für Facebook und Instagram, erreichbar über die Datenschutzrichtlinie in den Einstellungen; er gilt dauerhaft. Bei LinkedIn steckt der Schalter unter „Datenschutz“ im Bereich „So verwendet LinkedIn Ihre Daten“ und ist von Haus aus eingeschaltet.
Alle drei wirken nur nach vorn. Was einmal in den Gewichten eines Modells steckt, holt kein Formular zurück und kein Häkchen. Die Zusammenfassung sagt Ihnen, woraus die Maschine gemacht ist. Wer sie mitgebaut hat, steht auf einem anderen Blatt, und dieses Blatt gibt es nicht.
Anzeige
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.
FAQ
Anbieter von Allzweck-KI-Modellen müssen in der EU eine öffentliche Zusammenfassung der Trainingsinhalte veröffentlichen. Dazu gehören Modell und Modellversionen, die Arten der Inhalte (Text, Bild, Audio, Video), die Größenordnung der Datenmenge, öffentlich verfügbare Datensätze, eine Beschreibung lizenzierter Daten, die Herkunft von Nutzerdaten, synthetische Daten sowie Maßnahmen gegen illegale Inhalte und zum Urheberrecht. Grundlage ist Artikel 53 des AI Act mit einem verpflichtenden Template der EU-Kommission.
Offenzulegen sind nur die obersten zehn Prozent aller Domains, gemessen an der Datenmenge. Für kleine und mittlere Unternehmen sind es die obersten fünf Prozent oder 1.000 Domains. Alles darunter bleibt unsichtbar, und bei Modellen, die aus Milliarden von Webseiten lernen, ist das die überwältigende Mehrheit der Quellen. Zusätzlich müssen Anbieter die Namen der eingesetzten Crawler, die Zeiträume der Sammlung und die Art des Gecrawlten beschreiben.
Aus den offiziellen Zusammenfassungen lässt sich das nach heutigem Stand nicht ablesen. Die vorgeschriebene Zusammenfassung ist ein Verzeichnis von Kategorien und großen Quellen, keine durchsuchbare Liste. Einzelne Werke und einzelne URLs müssen nicht genannt werden. Wer nicht zu den größten Datenlieferanten des Netzes zählt, taucht in keiner dieser Zusammenfassungen auf, selbst wenn die eigene Website vollständig eingesammelt wurde.
Das Fragen-und-Antworten-Papier der EU-Kommission nennt mehrere Ausnahmen. Einzelne Werke und einzelne URLs müssen nicht genannt werden. Datensätze unterhalb der Schwellenwerte fallen heraus. Geschäftsgeheimnisse und vertrauliche Geschäftsinformationen sind gegen das Transparenzinteresse abzuwägen, wobei der Anbieter diese Linie in der Praxis selbst zieht. Wer Informationen trotz sorgfältiger Bemühungen nicht mehr rekonstruieren kann, muss die Lücke lediglich begründen, nicht schließen.
Die Pflichten für Anbieter von Allzweck-KI-Modellen sind seit dem Sommer 2026 durchsetzbar. Bei Verstößen drohen Geldbußen von bis zu drei Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro, je nachdem, welcher Betrag höher ist. Modelle, die vor Inkrafttreten der Pflicht auf den Markt kamen, haben bis August 2027 Zeit, ihre Zusammenfassung nachzureichen. Danach ist halbjährlich zu aktualisieren.
Am Artikel 53 des AI Act, der die öffentliche Zusammenfassung der Trainingsinhalte regelt, hat der Digital Omnibus nichts geändert. Mit diesem Paket hat die EU-Kommission andere Teile des AI Act entschärft. Die Transparenzpflicht für Allzweck-KI-Modelle und das dazugehörige verpflichtende Template der Kommission bestehen unverändert fort.
Japan verlangt inhaltlich mehr, verpflichtet aber zu weniger. Ein Expertengremium der japanischen Regierung hat einen Kodex für Anbieter generativer KI gebilligt, dessen zweiter Grundsatz vorsieht, dass Unternehmen Rechteinhabern auf Anfrage mitteilen, ob bestimmte Webseiten in den Trainingsdaten enthalten sind. Genau das klammert das EU-Template aus. Der japanische Kodex ist allerdings rechtlich nicht bindend: Unternehmen können sich für „comply or explain“ entscheiden und öffentlich begründen, warum sie nicht mitmachen.
Über einen Rechtevorbehalt beim Text- und Data-Mining, technisch etwa über die robots.txt oder maschinenlesbare Nutzungsvorbehalte. Das wirkt allerdings nur für künftige Crawling-Durchgänge. Inhalte, die bereits in den Gewichten eines trainierten Modells stecken, lassen sich auf diesem Weg nicht mehr entfernen. Bei den großen Plattformen gibt es zusätzlich dokumentierte Widerspruchsmöglichkeiten für die eigenen Nutzerdaten.
Meta stellt eigene Widerspruchsformulare bereit, je eines für Facebook und Instagram, erreichbar auch über die Datenschutzrichtlinie in den Einstellungen, wenn man dort nach „Widerspruch“ sucht. Der Widerspruch gilt laut Meta dauerhaft und deckt bei verknüpften Konten alle Konten ab. Bei LinkedIn steckt der Schalter in den Einstellungen unter „Datenschutz“ im Bereich „So verwendet LinkedIn Ihre Daten“ und heißt „Daten zur Verbesserung generativer KI“. Er ist standardmäßig aktiviert.
Forschende arbeiten mit Memorisierungstests, bei denen Modelle dazu gebracht werden, längere Passagen wörtlich wiederzugeben. Ein bekanntes Beispiel war der Nachweis, dass Llama große Teile von Harry Potter praktisch auswendig konnte. Solche Tests funktionieren vor allem bei sehr häufig vorkommenden Texten, nicht bei einem durchschnittlichen Blogeintrag. Der zweite Weg führt über Gerichte: In US-Urheberrechtsverfahren muss die Herkunft der Daten im Discovery-Verfahren offengelegt werden.
