Neue Entwicklung der University of California: SAGA soll KI-Videos bis zum Ursprung zurückverfolgen
Mit SAGA haben Forscher der University of California, Riverside, ein Verfahren entwickelt, das KI-generierte Videos nicht nur als echt oder synthetisch erkennt, sondern ihre Herkunft bis auf die Ebene einzelner KI-Modelle oder Entwicklerteams zurückverfolgen soll. Damit erweitert das System die klassische Deepfake-Erkennung um eine Quellenanalyse und könnte die digitale Forensik künftig um eine zusätzliche Ebene ergänzen. Die Forschungsarbeit wurde in enger Partnerschaft mit YouTube (Google) und Google DeepMind verfasst.
SAGA: Von der Erkennung zur Quellenanalyse
SAGA steht für „Source Attribution of Generative AI Videos“. Das System basiert auf einem Video-Transformer, also einem neuronalen Netzwerk, das zeitliche Zusammenhänge in Bildsequenzen analysiert. Dabei extrahiert es sogenannte „Temporal Attention Signatures“ (T-Sigs), auf Deutsch „zeitliche/temporale Aufmerksamkeits-Signaturen“. Diese charakteristischen Muster entstehen aus den Aufmerksamkeitsverteilungen des Modells über die einzelnen Videobilder und ermöglichen es, verschiedene Videogeneratoren anhand ihrer typischen Merkmale voneinander zu unterscheiden.
Die Forscher verfolgen dabei einen zweistufigen Ansatz. Zunächst lernt das Modell, zwischen echten und synthetischen Videos zu unterscheiden. Anschließend übertragen sie diese Repräsentation auf die eigentliche Aufgabe der Quellenzuordnung. Dadurch benötigt SAGA vergleichsweise wenige gelabelte Trainingsdaten. Nach Angaben der Autoren erzielt das Verfahren bereits mit lediglich 0,5 Prozent entsprechend gekennzeichneter Quelldaten hohe Genauigkeiten bei der Attribution.
Videos auf fünf Ebenen einordnen
SAGA ordnet Videos auf fünf Ebenen ein. Es unterscheidet zunächst zwischen echten und synthetischen Videos, anschließend zwischen Text-zu-Video- und Bild-zu-Video-Systemen sowie zwischen Modellfamilien, Entwicklerteams und einzelnen Generatoren.
Gerade bei ähnlichen KI-Systemen bietet diese Abstufung zusätzliche Anhaltspunkte. Selbst wenn sich ein Video keinem einzelnen Generator eindeutig zuordnen lässt, kann das Verfahren dessen wahrscheinliche Modellfamilie oder das verantwortliche Entwicklerteam eingrenzen. Für die digitale Forensik liefert das mehr Informationen als eine reine Echtheitsprüfung.
Unterschied zu UNITE
SAGA baut auf dem früheren Riverside-System UNITE auf. UNITE steht für „Universal Network for Identifying Tampered and Synthetic Videos“ und dient in erster Linie dazu, manipulierte oder vollständig synthetische Videos zu erkennen.
SAGA geht einen Schritt weiter. Während UNITE die Frage beantwortet, ob ein Video echt oder manipuliert ist, versucht SAGA zusätzlich, den Ursprung eines synthetischen Videos innerhalb verschiedener KI-Systeme einzuordnen. Solche Herkunftsinformationen können forensische Untersuchungen unterstützen und die Nachverfolgung von Deepfakes erleichtern.
Bedeutung
Die Forschungsarbeit verschiebt den Schwerpunkt der Deepfake-Analyse von der reinen Erkennung hin zur Herkunftsbestimmung. Anstatt lediglich zwischen echt und künstlich zu unterscheiden, ordnet SAGA synthetische Videos mehreren Attributionsebenen zu und macht damit nachvollziehbar, welche Merkmale für die Zuordnung ausschlaggebend sind.
Ob sich das Verfahren auch außerhalb der getesteten Datensätze bewährt, muss sich noch zeigen. Sollten sich die Ergebnisse bestätigen, könnte SAGA die Analyse KI-generierter Videos um eine wichtige forensische Komponente erweitern – insbesondere dort, wo die Herkunft synthetischer Inhalte für die Bewertung oder Nachverfolgung von Bedeutung ist.
