Seit mehreren Jahren gibt es Berichte darüber, dass Menschen mithilfe von Deepfakes unabsichtlich in Pornodarsteller verwandelt werden. Die neue Folge der MDR-Reportagereihe „Genau“ wirft nun einen genaueren Blick auf die Gefahren der KI-Technologie.
Wie gefährlich sind Deepfakes? Der MDR-Bericht gibt Aufschluss
Ob Scarlett Johansson, Gal Gadot oder Tom Cruise, die drei amerikanischen Schauspieler wurden Opfer sogenannter Deepfakes. Ein heimtückischer Cyberbetrug, bei dem das Gesicht einer Person einschließlich ihrer Mimik gescannt und dann auf einen anderen Körper übertragen wird.
Insbesondere pornografische Deepfakes von Prominenten und Nicht-Prominenten sind in letzter Zeit immer häufiger anzutreffen, da gefälschte Videoaufnahmen mittlerweile ganz einfach per Smartphone-App erstellt werden können. Die wachsende Aktualität des Themas nutzt der MDR nun, um eine Episode seiner Reportagereihe „gezielt“ der perfiden Technologie der KI zu widmen und auf die reale Gefahr von Deepfakes für die Gesellschaft hinzuweisen.
Auch Sophie, die direkt Betroffene, hat ein Mitspracherecht in der Sendung, die mit solch falschen Inhalten erpresst wurde. Sie sagt: „Ab einem gewissen Punkt hatte ich keine Kraft mehr, dagegen anzukämpfen. Ich habe daraufhin alle meine Social-Media-Profile gelöscht.
Streamer berichtet von mangelnder Unterstützung durch die Justiz
Die berühmte Twitch-Streamerin Shurjoka (richtiger Name Pia Scholz) hatte eine ähnliche Erfahrung wie Sophie. Sie beschreibt: „Menschen übernehmen gegen meinen Willen Macht über mich als Person, über meinen Körper und zwingen mir ihre Fantasien auf.“ » Die große Menge an Material würde sie machtlos machen.
Auch Shurjoka betont, dass sie sich von der Justiz im Stich gelassen fühle. Und das ist kein Zufall, wie Joséphine Ballon weiß. Der Anwalt, der in dem Bericht die rechtlichen Aspekte von Deepfakes untersucht, sagt: „Es wird vermutet, dass der Staat kein Interesse daran hat, dass sogenannte Nacktfotos von Ihnen in der Öffentlichkeit kursieren.“ Man kann es melden, und irgendwie spiegelt es sich im Gesetz wider, aber es wird fast nie strafrechtlich verfolgt.
In Deutschland können auf pornografische Deepfakes nur indirekt Gesetze angewendet werden, beispielsweise Bildrechte. Allerdings gibt es keine Gesetze, die die Erstellung und Verbreitung von Deepfakes ausdrücklich verbieten. Ballon hält dies für eine Gesetzeslücke.
Der „genau“ Deepfake-Bericht ist seit dem 18. September 2023 verfügbar ARD-Mediathek verfügbar. Der Film ist auch auf dem YouTube-Kanal „MDR-Untersuchung“ zu sehen.
Sex-Deepfakes sind auf dem Vormarsch und Pornoseiten tun nicht viel, um sie aufzuhalten
