Deepfakes im Netz: Der KI-Betrug floriert weiter auf Social Media

Ulrich ist auf Fakereklame reingefallen. Er leidet unter Schmerzen und hat eine online beworbene, vielversprechende Salbe entdeckt. 219 Euro. Das sollte stutzig machen, doch derjenige, der das Produkt anpreist, ist ein bekannter Arzt – Eckart von Hirschhausen. Wird schon gut angelegtes Geld sein, dachte sich Ulrich, bestellte die Salbe und merkte bald, dass sie nicht wirkt: „Das hat in mir eine große Enttäuschung ausgelöst.“

Momentan existieren im Netz mehr als 2000 Fakes von Eckart von Hirschhausen. Manche lassen sich leicht als solche erkennen, bei anderen muss man konzentriert hinschauen, um zu merken, dass da etwas nicht stimmt. Genau wie Ulrich ist auch eine weitere Verbraucherin einem technisch erzeugten Doppelgänger des Arztes auf den Leim gegangen. Sie sagt: „Ich bin ja Medizinerin, mir war klar, dass ich durch dreimaliges Auftragen von so einem Gel nicht meine Arthrose bessern kann. Ich glaube, ich hätte das nicht bestellt, wenn das irgendjemand gewesen wäre.“

Wie gehen die Betrüger vor?

Ärzte dürfen in Deutschland keine Medikamente bewerben, und man wird auch nirgends echtes Marketing von Hirschhausen finden. Dass sich das noch nicht herumgesprochen hat und Schwindelreklame mit Medizinern ein einträgliches Geschäft darstellt, kommt dem organisierten Verbrechen entgegen. Kristin Sieberts sehenswerter Film „Hirschhausen und die Deepfake-Mafia“ gibt Einblick in dieses kriminelle System, dessen Hintermänner das Vertrauen hilfsbedürftiger Menschen ausnutzen, um ihnen Scheinmedikation zu verkaufen.

Wie gehen die Betrüger vor? Sie nehmen sich einen echten Ausschnitt aus einem Interview und versehen ihn mit einer neuen Tonspur. Während Hirschhausen im Originalclip über, sagen wir, den Zusammenhang von Zuckerkonsum und der Aktivierung unseres Belohnungssystems spricht, geht es im gefälschten Video um ganz andere Dinge: „Und das Beste daran“, sagt er hier, „alle Frauen, die mit diesem Kaffeetrick abgenommen haben, haben nie wieder zugenommen. Das bedeutet – kein Jo-Jo-Effekt mehr.“ Die eingesetzte Software stimmt Hirschhausens Lippenbewegungen auf den neuen Text ab, was gut gemacht ist, aber noch nicht täuschend echt wirkt. Man darf jedoch davon ausgehen, dass vom Original nicht mehr zu unterscheidende Fälschungen bald die Regel sein werden.

Man sollte viele „juristische Torpedos“ gleichzeitig abfeuern

Hirschhausen ist für die Dokumentation viel herumgereist, er hat Politiker getroffen und mit Leuten geredet, die Mogelannoncen glaubwürdig fanden. Außerdem erzählt er, wie er gegen den hinter Facebook, Whatsapp und Instagram stehenden Konzern Meta klagte, denn der hatte Fakes mit seinem Konterfei ausgespielt. Der Ablauf: zwei Instanzen, „Anwälte in Irland, die sich doof stellen“, ein Sieg vor dem Oberlandesgericht Frankfurt. Das Urteil: Meta muss die entsprechenden Videos entfernen. Und was passiert? „Praktisch nichts, der Betrug geht weiter.“ Weil er sich lohnt, Meta machte 2024 rund 16 Milliarden Dollar mit Fakewerbung.

Eigentlich besagt der Digital Services Act, dass betrügerische Anzeigen von Plattformen in Europa gelöscht werden müssen. Warum also wird geltendes Recht nicht strikter durchgesetzt? „Weil die Europäische Kommission Angst vor den USA hat“, sagt die EU-Abgeordnete Alexandra Geese. Die Trump-Regierung arbeite eng mit Techfirmen zusammen – und gegen diese Allianz wolle man hier sicherheitshalber nicht vorgehen. Johnny Ryan war lange für die Onlinewerbebranche tätig und sagt: „Was wir brauchen, sind EU-Beamte, die Risiken eingehen.“ Es sei wichtig, gegen die Plattformen viele „juristische Torpedos“ gleichzeitig abzufeuern. „Wenn wir jetzt nicht handeln, bedeutet das für die liberale Demokratie das Aus.“

Ryan wird konkret: „Datenhändler bieten heute alles an, von den persönlichen Gesundheitsdaten bis hin zu Bewegungsprofilen über Jahre hinweg.“ Er loggt sich bei einem „data broker“ ein und zeigt, wie viele Details über deutsche User im Angebot sind. Kosten für den Zugang zu Informationen von 1000 Betroffenen: 1,75 Dollar. Spätestens nach dieser Sequenz betrachtet man die personalisierten, auf etlichen Websites sich öffnenden Pop-up-Fenster mit den mulmigsten Gefühlen.

Irreführende medizinische Werbung erreichte in den vergangenen sechs Jahren etwa 900 Millionen Nutzer von Google und Facebook in Europa. Hirschhausen hat in Brasilien einen Whistleblower getroffen, der selbst als Telefonist arbeitete und erläutert, wie potentielle Opfer umgarnt werden. Über die Strippenzieher weiß er hingegen nicht viel, die agierten verdeckt auf der ganzen Welt. Am Ende dieser finsteren Dokumentation bleibt ein Lichtblick: Im Strafgesetzbuch soll sich ein neuer Paragraph bald um die „Verletzung von Persönlichkeitsrechten durch digitale Fälschung“ drehen. Juristen sprechen schon vom – „Hirschhausen-Paragraphen“.