Studie: Gezieltes Training gegen Deepfake-Betrug
KI-generierte Porträts wirken inzwischen so überzeugend, dass einzelne Bildfehler kaum noch als Erkennungsmerkmale taugen. Eine Studie der Australian National University (ANU) zeigt nun, dass Menschen dennoch trainieren können, künstlich erzeugte Gesichter zuverlässiger zu erkennen – allerdings mit einer anderen Methode als bisher.
Die Forscher gehen davon aus, dass klassische Hinweise wie unnatürlich geformte Hände, asymmetrischer Schmuck oder andere offensichtliche Fehler an Bedeutung verlieren, weil moderne Bildgeneratoren diese Schwächen zunehmend verlieren. Stattdessen richtet das entwickelte Training den Blick auf das Gesamtbild eines Gesichts.
Wahrnehmung statt Fehlersuche
Im Mittelpunkt stehen sechs Merkmale der menschlichen Wahrnehmung: Einzigartigkeit/ Unterscheidbarkeit, Einprägsamkeit, Proportionen, Symmetrie, Attraktivität und Ausdruck (distinctiveness, memorability, proportionality, symmetry, attractiveness and expressiveness). Nach Angaben der Forscher erscheinen KI-generierte Gesichter häufig symmetrischer, gleichmäßiger proportioniert und attraktiver als Fotografien realer Menschen. Ohne gezieltes Training würden viele Betrachter diese Eigenschaften jedoch eher mit echten Gesichtern verbinden.
In der Studie verbesserten alle Teilnehmer ihre Fähigkeit, künstlich erzeugte Gesichter zu erkennen. Bereits vergleichsweise kurze Trainingseinheiten führten nach Angaben der Autoren zu einer deutlich höheren Trefferquote. Die besten Probanden identifizierten KI-Bilder nach dem Training nahezu fehlerfrei.
Ergebnisse in zweiter Studie bestätigt
Ein Forschungsteam der University of Victoria in Kanada wiederholte das Experiment mit einer neuen Teilnehmergruppe und kam zu vergleichbaren Ergebnissen. Nach Einschätzung der Wissenschaftler spricht dies dafür, dass die Resultate reproduzierbar sind und nicht auf Zufall beruhen.
Als Grundlage dienten Porträts, die mit dem KI-Bildgenerator StyleGAN erzeugt wurden. In weiteren Untersuchungen wollen die Forscher prüfen, ob sich das Training auch auf Gesichter übertragen lässt, die mit neueren Bildgeneratoren entstanden sind. Außerdem soll untersucht werden, wie sich das Training verkürzen lässt und ob der Trainingseffekt langfristig erhalten bleibt.
Menschliche Kontrolle bleibt wichtig
Die Autoren sehen das Training als Ergänzung zu automatischen Erkennungssystemen für Deepfakes. Nach ihrer Einschätzung reichen technische Verfahren allein nicht aus, da ihre Entscheidungen oft nur schwer nachvollziehbar seien und aktuelle Vergleichstests Schwächen bei der Erkennung künstlich erzeugter Gesichter zeigten. Deshalb halten die Forscher die menschliche Beurteilung auch künftig für einen wichtigen Bestandteil bei der Erkennung manipulierter Bilder.
Die Studie „Training Humans to Detect AI-generated Faces“ erschien in der Fachzeitschrift „Proceedings of the National Academy of Sciences“ (PNAS).
Die Studie mit dem Titel „Training Humans to Detect AI-generated Faces“ wurde in der Fachzeitschrift PNAS veröffentlicht.
Das „Emotions and Faces Lab“ der ANU sucht nach Interessenten, die am Training zur Erkennung von KI-Gesichtern teilnehmen oder an anderen Studien zum Thema KI-Gesichter mitwirken möchten. Die Anmeldung zur Teilnahme ist über die Website der ANU möglich.
