Die cloudbasierte Messaging-Plattform Telegram ist laut einer von Sensity durchgeführten Sicherheitsuntersuchung eine Brutstätte für pornografische Deepfakes. Die Analyse beschreibt den Ende-zu-Ende verschlüsselten Messenger als „Deepfake-Ökosystem“, in dem Bots Alltagsfotos von Menschen in „nackte“ Inhalte, insbesondere von Frauen, verwandeln können.
Diese Roboter werden von künstlicher Intelligenz, Sensity, angetrieben und führen Aktionen aus, bei denen sie ein Foto ohne Kleidung „ausziehen“, oft zum Zwecke der Demütigung und öffentlichen Erpressung. Das Unternehmen beschreibt diesen Vorgang als eine Art Bearbeitungsfunktion, die von Besitzern von Smartphones und herkömmlichen Computern problemlos genutzt werden kann. Alles, was sie tun müssen, ist, ein Foto aus ihrer persönlichen Bildergalerie zu holen und den Bots zu erlauben, den Deepfake zu generieren. Diese Fotos können von überall und überall im Internet aufgenommen werden.
Was Sensity gefunden hat - Hier sind die wichtigsten Schlussfolgerungen von Sensity:
- Das Unternehmen hat Roboter entdeckt, die Bilder erstellen, die bisher 104 Frauen ins Visier genommen haben.
- Diese Bilder wurden dann bis Ende Juli dieses Jahres über die Plattform verbreitet.
- Allein in den letzten drei Monaten haben diese Deepfakes um 198 % zugenommen.
- Mindestens 70 Prozent der Zielpersonen haben ihre gewilderten Bilder in sozialen Medien oder anderen privaten Quellen gesehen.
- Einige dieser Opfer waren minderjährig.
- Demographisch fand das Unternehmen das heraus Telegram hatte Werbung von der russischen Website VK erhalten, während der Deepfake-Bot 101 Menschen zur Teilnahme anlockte. Erschwerend kommt hinzu, dass Bots kostenlos arbeiten. Benutzer müssen nichts bezahlen, es sei denn, sie möchten, dass das Wasserzeichen entfernt wird, was höchstens 080 US-Dollar kostet.
Wie funktionieren diese Bots - In früheren Berichten, Beitrag erklärt, wie Roboter aus Originalquellen wie Fotos und Videos eigene Bilder generieren können. Im Fall von Deepfake-Bots aus Telegramstützen sich diese Bots auf die zuvor erwähnten Generative Adversarial Networks. Sie entfernen das ursprüngliche Bild der bekleideten Frau für eine „realistische Annäherung“ an die Anatomie des Individuums.
Diese Art der Synthese hängt von der Fähigkeit des Bots ab, die Körperteile und die Größe der Person effektiv zu erraten. Damit dies „perfekt“ funktioniert, werden diese Roboter natürlich auf große Mengen an visuellen Daten zum weiblichen Körper trainiert.
Das sind schlechte Nachrichten für Telegram. Das Netzwerk hat bereits einen zweifelhaften Ruf, da weiße Rassisten den Messenger häufig nutzen. Jetzt, da Bots gefälschte Akte mit ahnungslosen Personen, einschließlich Minderjährigen, machen, zementiert das Messaging-Programm nur sein Image als zutiefst kompromittierte Plattform.
