Die cloudbasierte Messaging-Plattform Telegram ist laut einer von Sensity durchgeführten Sicherheitsuntersuchung eine Brutstätte für pornografische Deepfakes. Die Analyse beschreibt den Ende-zu-Ende verschlüsselten Messenger als „Deepfake-Ökosystem“, in dem Bots Alltagfotos von Menschen in „nackte“ Inhalte, insbesondere von Frauen, verwandeln können.
Diese Bots werden von künstlicher Intelligenz, von Sensity, angetrieben und führen „Ausziehaktionen“ an einem Foto ohne Kleidung durch, oft zum Zweck der öffentlichen Demütigung und Erpressung. Das Unternehmen beschreibt
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
Dieser Vorgang stellt eine Art Bearbeitungsfunktion dar, die von Besitzern von Smartphones und herkömmlichen Computern problemlos genutzt werden kann. Sie müssen lediglich ein Foto aus ihrer persönlichen Bildergalerie aufnehmen und den Bots erlauben, den Deepfake zu generieren. Diese Fotos können von überall im Internet stammen.
Was Sensity gefunden hat - Hier sind die wichtigsten Schlussfolgerungen von Sensity:
- Das Unternehmen hat Roboter entdeckt, die Bilder erstellen, die bisher 104 Frauen ins Visier genommen haben.
- Diese Bilder wurden dann bis Ende Juli dieses Jahres über die Plattform verbreitet.
- Allein in den letzten drei Monaten haben diese Deepfakes um 198 % zugenommen.
- Mindestens 70 Prozent der Zielpersonen haben ihre gewilderten Bilder in sozialen Medien oder anderen privaten Quellen gesehen.
- Einige dieser Opfer waren minderjährig.
- Demographisch fand das Unternehmen das heraus Telegram hatte Werbung von der russischen Website VK erhalten, während der Deepfake-Bot 101 Menschen zur Teilnahme anlockte. Erschwerend kommt hinzu, dass Bots kostenlos arbeiten. Benutzer müssen nichts bezahlen, es sei denn, sie möchten, dass das Wasserzeichen entfernt wird, was höchstens 080 US-Dollar kostet.
Wie funktionieren diese Bots - In früheren Berichten, Beitrag erklärt, wie Roboter aus Originalquellen wie Fotos und Videos eigene Bilder generieren können. Im Fall von Deepfake-Bots aus Telegramstützen sich diese Bots auf die zuvor erwähnten Generative Adversarial Networks. Sie entfernen das ursprüngliche Bild der bekleideten Frau für eine „realistische Annäherung“ an die Anatomie des Individuums.
Diese Art der Synthese hängt von der Fähigkeit des Bots ab, die Körperteile und die Größe der Person effektiv zu erraten. Damit dies „perfekt“ funktioniert, werden diese Roboter natürlich auf große Mengen an visuellen Daten zum weiblichen Körper trainiert.
Das sind schlechte Nachrichten für Telegram. Das Netzwerk hat bereits einen zweifelhaften Ruf, da weiße Rassisten den Messenger häufig nutzen. Jetzt, da Bots gefälschte Akte mit ahnungslosen Personen, einschließlich Minderjährigen, machen, zementiert das Messaging-Programm nur sein Image als zutiefst kompromittierte Plattform.