Animation mit Künstlicher Intelligenz: Deepfakes

Bilder, die den Betrachter in die Irre führen, sind so alt wie die Fotografie selbst. Mit den Mitteln der KI und des maschinellen Lernens kann man heute täuschend echte Videos produzieren, die Menschen Dinge tun lassen, die sie nie getan haben, und Tote zu scheinbarem Leben erwecken. Wie das funktioniert, wo die Grenzen liegen und wie man solchen Deepfakes auf die Schliche kommt, beschreibt Michael J. Hußmann. Der Begriff „Deepfake“ setzt sich aus „Deep Learning“ und „Fake“ zusammen, wobei sich „deep“ auf die mehrschichtige Struktur der neuronalen Netze bezieht, denen mit Methoden des maschinellen Lernens das Fälscherhandwerk beigebracht wird. Bei Deepfakes geht es nicht um die Manipulation einzelner Bilder, wie sie schon immer möglich war; vielmehr wird ein neuronales Netz auf der Basis von Bild- oder besser Videomaterial zweier Menschen so trainiert, dass es aus beliebigen Bildern des einen Menschen solche des anderen erzeugen kann, in denen er sich genauso bewegt. Der eine wird so zum Puppenspieler, der andere zur virtuellen Puppe. Nachdem der Schauspieler Brandon Lee 1993 bei den Dreharbeiten zu „The Crow“ tödlich verletzt worden war, wurden die noch fehlenden Szenen mit Stuntmen nachgedreht, denen in der Postproduktion Lees Gesicht aufgesetzt wurde. Das war noch CGI in Handarbeit, ohne Unterstützung der KI. In den letzten Jahren sah man solche Tricks öfter. So wurden bei der Produktion des Star-Wars-Films Rogue One (2016), dessen Handlung vor der des ersten Films der Reihe (A New Hope von 1977) spielt, für die ursprünglich von Peter Cushing (gestorben 1994) und Carrie Fisher gespielten Rollen digitale Modelle verwendet. Nachdem die KI von Face2Face mit Videomaterial einer Zielperson wie dem Schauspieler Daniel Craig oder dem ehemaligen US-Präsidenten George W. Bush trainiert worden ist, kann sie die Mimik einer anderen Person („Input“) in Echtzeit auf diese übertragen („Reenactment“). In der Filmproduktion arbeitet man meist mit der Methode des „Motion Capture“ – am Körper und/oder dem Gesicht eines Schauspielers werden Marker (beispielsweise unterschiedlich gepulste Leuchtdioden) angebracht, mit denen seine Bewegungen von einer Kamera erfasst und auf ein CGI-Modell übertragen werden können, das dann für die eigentlichen Filmbilder gerendert wird. Deepfakes benötigen dagegen keine Marker und nicht einmal dreidimensionale Modelle der beiden Personen; zweidimensionale Videos oder sogar einzelne Fotos genügen. Für die Rekonstruktion der dreidimensionalen Gestalt von Gesicht und Körper sowie deren Austausch sorgt ein neuronales Netz. Die Grundidee dahinter ist, dass sich der Körperbau aller Menschen gleicht; wir haben alle die gleichen Knochen, Gelenke und Muskeln und damit dieselben Bewegungsmöglichkeiten, die sich nur im Detail unterscheiden. Ein neuronales Netz vom Autoencoder-Typ lässt sich nun darauf trainieren, die grundlegenden Bewegungsmuster des „Puppenspielers“ zu erkennen. Ein zweites Netz, das mit Ansichten der „Puppe“ trainiert ist und als Dekoder arbeitet, überträgt dann die Bewegungen auf den Körper dieser Person. Als Ausgangsmaterial dienen die jeweils ähnlichsten Ansichten der „Puppe“, die dann weiter angepasst werden. Neuere Deepfake-Ansätze arbeiten oft mit KI-Systemen vom Adversarial-Typ, bei denen zwei neuronale Netze gegeneinander arbeiten: Das eine Netz erbringt die eigentliche Leistung, während ein Kritiker-Netz die Ergebnisse mit realen Bildern vergleicht und danach bewertet, wie nahe sie diesen kommen. Bei dieser Vorgehensweise findet allerdings keine präzise dreidimensionale Modellierung der Personen und ihrer Umgebung statt; außerdem bleiben die vorhandenen Lichtquellen unberücksichtigt. Wenn der Puppenspieler den Kopf dreht und das Videomaterial für die Puppe keine entsprechende Ansicht zeigt, muss das neuronale Netz fehlende Details ergänzen, was oft zu augenfälligen Fehlern im Rendering führt. Auch Schatten und Lichtreflexe bewegen sich meist nicht so, wie man es erwarten müsste. Manche Deepfake-Apps verwenden Einzelbilder statt Videos als Quelle und sind für solche Fehler besonders anfällig; die Ergebnisse haben dann höchstens einen Unterhaltungswert. Besondere Probleme bereitet der Mund, etwa wenn Zähne sichtbar werden müssten, das Quellmaterial aber keine passenden Bilder enthält. Manche Deepfake-Systeme ergänzen dann generische Zahnreihen oder übernehmen den Mund des Puppenspielers, was zumindest bei höheren Auflösungen ebenfalls auffällt. Sehr überzeugende Ergebnisse kann das „Face2Face“-Projekt der Forschergruppe um Prof. Matthias Nießner an der TU München vorweisen (http://niessnerlab.org), in dem die jeweils ähnlichste Mundpartie im Videomaterial gesucht und an die Mimik des Puppenspielers angepasst wird. Dies gelingt sogar in Echtzeit: Nachdem das Ausgangsmaterial analysiert und das neuronale Netz trainiert ist, kann Face2Face die Bilder einer Webcam interpretieren und mit minimaler Verzögerung auf Ansichten der Zielperson übertragen. Selbst dieser Ansatz muss aber versagen, wenn das verfügbare Material keine geeignete Referenz enthält. Schon ein Lächeln lässt sich ohne eine entsprechende Vorlage kaum überzeugend simulieren; dies zeigt sich beispielsweise bei einem Deepfake auf der Basis von Wladimir Putins Neujahrsansprache von 2012, während der er kein einziges Mal gelächelt hatte. Da Wladimir Putin im verwendeten Videomaterial nie lächelt, wirkt die Übertragung eines Lächelns im Ergebnis gequält. Deepfakes werden zur Propaganda verwendet, hier für eine vermeintliche Kapitulationserklärung des ukrainischen Präsidenten. Anwendungen Die Deepfake-Technologie ist seit etwa fünf Jahren allgemein verfügbar, und der Begriff „Deepfake“ ist ebenso alt. Es gibt kommerzielle (www.docma.info/22467) ebenso wie Open-Source-Software (www.docma.info/22465), mit der jeder eigene Deepfakes produzieren kann. Wie aufgrund ihres Potentials zu erwarten, wurde die Technologie von Anfang an auch zu manipulativen, kriminellen oder zumindest fragwürdigen Zwecken eingesetzt. Manche nutzen sie, um bekannte Schauspieler auf diesem Wege in Pornofilme einzufügen, andere verbreiteten vermeintliche Sexvideos von Ex-Freundinnen als „revenge porn“. Die Eltern eines Opfers des Schulmassakers von Parkland nutzen ein Deepfake dagegen zu einem guten Zweck, obwohl es befremdlich wirkte: Ein Ebenbild ihres ermordeten Sohns trat in einem Video auf, um US-Bürger zur Stimmabgabe für Politiker aufzufordern, die Gesetze zur Waffenkontrolle befürworten (www.docma.info/22464). Nach dem Überfall Russlands auf die Ukraine tauchten in den sozialen Medien Deepfakes von Wladimir Putin und Wolodymyr Selenskyj auf, in denen Putin den russischen Sieg beziehungsweise der ukrainische Präsident Selenskyj die Kapitulation seines Landes zu verkünden schienen (www.docma.info/22466). Deepfakes bieten auch ein Potential zum Betrug, etwa wenn der Chef per Videotelefonat zu einer größeren Überweisung aufzufordern scheint, aber tatsächlich ein Fremder in dessen Rolle geschlüpft ist. Auch bei der für eine glaubwürdige Impersonation nötigen Nachahmung fremder Stimmen – in der fiktiven Welt James Bonds verfügte dessen Widersacher Blofeld schon 1971 (in „Diamantenfieber“) über einen Stimmensimulator – hat die KI in jüngster Zeit große Fortschritte gemacht (www.docma.info/22468). Minimale Veränderungen der Gesichtsfarbe im Rhythmus des Herzschlags, die durch die wechselnde Durchblutung entstehen, lassen sich mit einer geeigneten Software hervorheben. Im Falle von Deepfakes zeigen sich hier Unstimmigkeiten, die eine Täuschung entlarven. (Bilder: Michael Rubinstein) Deepfakes können auch Körperbewegungen übertragen, hier von einer Ballerina auf einen im Spitzentanz ungeübten Studenten. Echt oder Fake? Wegen ihres bekannten Täuschungspotentials weckt die leichte Verfügbarkeit der Deepfake-Technologie heutzutage generelle Zweifel an der Authentizität von Videomaterial. So war es während der österreichischen Ibiza-Affäre (2019), ausgelöst durch ein Video, das den damaligen Vizekanzler Heinz-Christian Strache bei der Planung illegaler Machenschaften zeigte – das Video erwies sich jedoch als echt. Zur Erkennung von Deepfakes genügt es manchmal, auf Unstimmigkeiten bei den Körperformen oder dem Schattenwurf zu achten. Video-Kompressionsverfahren wie AVC oder HEVC sparen Speicherplatz, indem ähnliche Bildausschnitte in mehreren Frames durch Verweise auf eine einzige Referenz ersetzt werden, und wenn Videomaterial aus verschiedenen Quellen montiert wird, fällt die Inkonsistenz bei einer Analyse der Videodaten auf. Direkt sichtbar sind solche Fehler jedoch nicht, und eine erneute Komprimierung würde etwaige Spuren verwischen. Auch Unstimmigkeiten bei Timecodes lassen sich relativ leicht vermeiden. Der Rückgriff auf die jeweils passendsten Frames im Ausgangsmaterial führt dazu, dass diese Bilder in einer anderen als der ursprünglichen chronologischen Reihenfolge abgespielt werden, was sich beispielsweise in Unregelmäßigkeiten beim Blinzeln zeigt. Am MIT wurde schon vor acht Jahren eine Software entwickelt, die in Videobildern minimale Bewegungen wie auch subtile Farbveränderungen verstärken kann (www.docma.info/22469). Unter anderem lässt sich so der Herzschlag sichtbar machen, da sich die Haut in dessen Rhythmus rötet. Für das menschliche Auge bleibt das unsichtbar, aber die Software hebt es hervor, und ein unregelmäßiger Puls weist auf eine Manipulation hin. Auf https://scanner.deepware.ai/ kann man verdächtige Videos hochladen und nach verschiedenen Verfahren – die ebenfalls auf künstlicher Intelligenz basieren – auf einen möglichen Deepfake testen. Was bringt die Zukunft? Um die Qualität von Deepfakes zu optimieren – rechtlich und moralisch einwandfreie Zwecke vorausgesetzt –, sind vor allem möglichst vielfältige Referenzvideos nötig, die wiederum eine lange Trainingszeit für das neuronale Netz erfordern. Wahrscheinlich werden Deepfakes aber auch künftig auf Szenen beschränkt bleiben, in denen sich die simulierten Personen kaum bewegen; die Kontrolle der verbleibenden Freiheitsgrade kann dann die KI übernehmen. Für ein perfektes Puppenspiel ohne Beschränkungen wäre ein anderer Ansatz nötig: Man müsste das Skelett, die Muskeln und Sehnen sowie das Bindegewebe und die Haut modellieren und könnte dann die Bewegungen eines Menschen auf das Modell eines anderen übertragen. Das bedeutete dann allerdings eine Rückkehr zu klassischen 3D-Modeling- und Rendering-Verfahren und hätte nichts mehr mit KI zu tun. Einfache Deepfake-Apps wie Avatarify, denen ein einziges Bild (a) als Basis für Animationen genügt, liefern nur in engem Rahmen plausible Ergebnisse (b). Verdeckte Teile des Gesichts können sie nicht korrekt ergänzen (c) und die Brille macht sich hier selbstständig (d).

Als Abonnent einloggen

DOCMA 2GO abonnieren

Schreibe einen Kommentar Antwort abbrechen