Die EU schätzt das Risiko von Deepfakes als so gravierend ein, dass seit dem 2. August 2026 eine Kennzeichnungspflicht gilt. Videos, die vollständig oder teilweise mit KI erstellt wurden und für kommerzielle Zwecke genutzt werden, müssen jetzt einen Hinweis enthalten. Weil Betrüger trotzdem versuchen werden, gefälschte Videos als authentisch auszugeben, sind neue Werkzeuge nötig, die solche Inhalte zuverlässig erkennen und bis zur Quelle zurückverfolgen können. Forscher der University of California haben genau ein solches Tool entwickelt und das dazugehörige Whitepaper über die Computer Vision Foundation zugänglich gemacht.
Deepfakes fluten das Internet
Viele Deepfakes sind inzwischen so täuschend echt, dass selbst Experten sie kaum von authentischen Videos unterscheiden können. Die Gefahren sind vielfältig: Betrüger nutzen sie, um Produkte mit Gesichtern bekannter Persönlichkeiten ohne deren Zustimmung zu bewerben oder sich in Online-Gesprächen als eine andere Person auszugeben. Vor allem in Vorstellungsgesprächen wird das zunehmend zum Problem. Ehrliche Bewerber haben dadurch geringere Chancen auf einen fairen Bewerbungsprozess, während Unternehmen zusätzlichen Sicherheitsrisiken wie Datendiebstahl oder eingeschleuster Schadsoftware ausgesetzt sind. Laut Gartner könnte bis 2028 sogar jede vierte Bewerbung gefälscht sein.
Selbst Rohit Kundu, wissenschaftlicher Praktikant bei YouTube und Doktorand an der University of California in Riverside, hat inzwischen Probleme, echte von gefälschten Inhalten zu unterscheiden – obwohl er sich täglich damit befasst. Heute reiche es allerdings nicht mehr aus, KI-generierte Videos zu erkennen, auch die Quelle müsse identifiziert werden, so Kundu gegenüber Dark Reading. Die zunehmende Verbreitung und Qualität solcher Videos veranlasste ihn und sein Team dazu, das Tool „Source Attribution of Generative AI videos (SAGA)“ zu entwickeln. Es identifiziert neben der Authentizität eines Videos auch das verwendete KI-Modell.
Vom Deepfake bis zur Quelle
Die Forscher konzentrierten sich bei ihrer Arbeit zunächst darauf, gefälschte Videos zu erkennen. Darauf aufbauend entwickelten sie ein Modell, das in der Lage ist, verschiedene Videoarten zu analysieren und zu erklären, warum ein Video gefälscht ist. Anschließend erweiterte sich die Aufgabe auf die Ermittlung der verwendeten KI-Tools. SAGA helfe dabei, jene Modelle zu identifizieren, die am häufigsten für Deepfakes genutzt werden. Laut dem Forschungsteam könne das auch dazu beitragen, dass Entwickler die Schutzmaßnahmen ihrer Modelle verbessern.
Weil selbst KI Schwierigkeiten haben kann, gefälschte Videos zu erkennen, entwickelten die Forscher SAGA auf Basis eines Foundation Models. Stößt es in der praktischen Anwendung auf Videos, die von den Trainingsdaten abweichen, soll es sich dadurch nicht aus dem Konzept bringen lassen. Wenn jemand zum Beispiel ein Video in den sozialen Medien hochlädt, ähneln sich Original und Upload technisch stark. Das Foundation Model sorgt laut Kundu dafür, dass solche Ähnlichkeiten die Analyse nicht verfälschen.
Als die Forscher feststellten, wie erfolgreich das Modell bei der Rückverfolgung von Deepfakes war, wollten sie die Gründe dahinter besser verstehen. In ihrem Whitepaper stellten sie die These auf, dass das Modell die Herkunftszuordnung anhand zeitlicher Signaturen vornehme. Diese beschreiben die zeitliche Entwicklung von Einzelbildern, wobei verschiedene KI-Modelle hier unterschiedliche Spuren hinterlassen. Zwei Modelle mit derselben Eingabe erzeugten zwar ähnliche Videos, erklärte Kundu gegenüber Dark Reading, trotzdem treten dabei winzige, kaum sichtbare Unstimmigkeiten auf, anhand derer die Forensik das erzeugende Modell bestimmen kann.
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
English (US) ·