Forscher haben in der Messaging-App ein „Deepfake-Ökosystem“ entdeckt Telegram dreht sich um Roboter, die bei Bedarf gefälschte Akte erzeugen. Benutzer, die mit diesen Bots interagieren, sagen, dass sie hauptsächlich Akte von Frauen erstellen, die sie kennen, indem sie Bilder aus sozialen Medien verwenden, die sie dann teilen und auf verschiedenen Kanälen miteinander tauschen. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Die Untersuchung stammt von der Sicherheitsfirma Sensity, die sich auf das konzentriert, was sie „visuelle Bedrohungsinformationen“ nennt, insbesondere die Verbreitung von Deepfakes. Sensibilitätsforscher fanden heraus, dass über 100 Bilder erstellt und auf öffentlichen Kanälen geteilt wurden Telegram bis Juli 2020 (was bedeutet, dass die Gesamtzahl der generierten Bilder, einschließlich der nie geteilten und der seit Juli erstellten, viel höher ist). Die meisten Nutzer dieser Kanäle, etwa 70 Prozent, stammen aus Russland und den Nachbarländern, erklärt Sensity. Der Rand konnte bestätigen, dass viele vom Unternehmen untersuchte Kanäle noch aktiv sind.
Die Nutzung der Bots ist kostenlos, aber sie erzeugen gefälschte Akte mit Wasserzeichen oder nur teilweise Nacktheit. Benutzer können dann eine Gebühr in Höhe von ein paar Cent zahlen, um die Bilder vollständig zu „entdecken“. Eine „Anfängergebühr“ verlangt von den Benutzern 100 Rubel (ca. 1,28 US-Dollar), um 100 gefälschte Akte ohne Wasserzeichen über einen Zeitraum von sieben Tagen zu erstellen. Sensity sagt, dass „eine begrenzte Anzahl“ der von den Bots generierten Bilder Ziele enthalten, „die unbedeutend erschienen“.
Beide Der Rand und Sensity kontaktiert Telegram ihn zu fragen, warum sie diesen Inhalt in ihrer App zulassen, aber noch keine Antwort erhalten haben. Sensity sagt, es habe auch die Strafverfolgungsbehörden kontaktiert.
Die Software, die zum Generieren dieser Bilder verwendet wird, ist als DeepNude bekannt. Es erschien zum ersten Mal im vergangenen Juni im Internet, aber sein Ersteller schloss seine Website Stunden, nachdem es Berichte in den Mainstream-Medien erhalten hatte, und sagte: „Die Wahrscheinlichkeit, dass Menschen es missbrauchen, ist zu hoch.“ Die Software verbreitete sich jedoch weiterhin über Backchannels, und laut Sensity wurde DeepNude „seitdem rückentwickelt und kann in verbesserter Form auf Open-Source-Repositories und Torrent-Websites gefunden werden.“ . Es wird jetzt verwendet, um Roboter anzutreiben Telegram, die Zahlungen automatisch verarbeiten, um Einnahmen für ihre Ersteller zu generieren.
DeepNude verwendet eine KI-Technik, die als Generative Adversarial Networks oder GANs bekannt ist, um gefälschte Akte zu erzeugen, wobei die resultierenden Bilder in der Qualität variieren. Die meisten sind offensichtlich gefälscht, mit verschmiertem oder verpixeltem Fleisch, aber einige können leicht mit echten Bildern verwechselt werden.
Schon vor dem Aufkommen von Photoshop haben Menschen nicht einvernehmliche gefälschte weibliche Akte erstellt. Derzeit gibt es viele Foren und Websites, die sich dieser Aktivität widmen und Nicht-KI-Tools verwenden, wobei Benutzer Akte von Prominenten und ihnen bekannten Personen teilen. Aber Deepfakes führten zu einer schnelleren Generierung realistischerer Bilder. Nun, die Automatisierung dieses Prozesses über Roboter Telegram macht das Generieren gefälschter Akte so einfach wie das Senden und Empfangen von Bildern.
„Der Hauptunterschied ist die Zugänglichkeit dieser Technologie“, sagte Giorgio Patrini, CEO von Sensity und Mitautor des Berichts. Der Rand. „Es ist wichtig zu beachten, dass andere Versionen der Kern-KI dieses Bots, Bildverarbeitung und -synthese, in Online-Code-Repositories frei verfügbar sind. Aber Sie müssen ein Programmierer sein und ein gewisses Verständnis für Computer Vision haben, damit sie funktionieren, abgesehen von leistungsstarker Hardware. All dies spielt im Moment keine Rolle, da dies von dem Bot erledigt wird, der in eine Messaging-Anwendung integriert ist.
Der Sensity-Bericht stellt fest, dass es „angemessen ist anzunehmen“, dass die meisten Menschen, die diese Bots verwenden, „in erster Linie daran interessiert sind, Deepfake-Pornografie zu konsumieren“ (was bleibt). eine beliebte Kategorie auf pornografischen Seiten). Aber diese Bilder und Videos können auch für Erpressung, Erpressung, Belästigung usw. verwendet werden. Es gab eine Reihe von dokumentiert cas Frauen, die mit KI-generierten Akten gezielt wurden, und es ist möglich, dass einige von denen, die Akte mit den Robotern erstellen Telegram Tun Sie dies aus diesen Gründen.
Patrini sagte Der Rand dass Sensity-Forscher keine direkten Beweise dafür gesehen hatten, dass die Kreationen des Bots für diese Zwecke verwendet wurden, aber das Unternehmen glaubte, dass dies der Fall sei. Er fügte hinzu, dass die politische Bedrohung durch Deepfakes zwar „fehlkalkuliert“ worden sei („aus Sicht der Autoren ist es einfacher und billiger, Bilder mit Photoshop zu bearbeiten und mit weniger Aufwand eine ähnliche Wirkung zu erzielen, um Fehlinformationen zu verbreiten“), dass die Technologie jedoch klar sei stellt „eine serielle Bedrohung für den persönlichen Ruf und die Sicherheit“ dar.
