Menu

Les robots sur Telegram font des nus deepfake gratuitement

La plate-forme de messagerie basée sur le cloud Telegram est un foyer pour deepfakes pornographiques, selon une enquête de sécurité menée par Sensity. L’analyse décrit le messager crypté de bout en bout comme un « écosystème deepfake » où les robots sont capables de transformer des photos de tous les jours de personnes en contenu « dénudé », en particulier de femmes.

Sensibilité

Ces robots sont alimentés par l’intelligence artificielle, par Sensity, et effectuent des actions de « décapage » d’une photo sans vêtements, souvent à des fins d’humiliation et d’extorsion publique. L’entreprise décrit ce processus comme une sorte de fonction d’édition qui peut être facilement utilisée par les propriétaires de smartphones et d’ordinateurs traditionnels. Tout ce qu’ils ont à faire est de récupérer une photo de leur galerie d’images personnelle et de permettre aux robots de générer le deepfake. Ces photos peuvent provenir de n’importe où et de n’importe où sur Internet.

Ce que Sensity a trouvé — Voici les principales conclusions de Sensity :

  • La société a découvert des robots créant des images qui ont ciblé 104 852 femmes à ce jour.
  • Ces images ont ensuite été propagées sur toute la plate-forme jusqu’à la fin juillet de cette année.
  • Au cours des trois derniers mois seulement, ces deepfakes ont augmenté de 198 %.
  • Au moins 70 pour cent des personnes ciblées ont vu leurs images braconnées sur les réseaux sociaux ou d’autres sources privées.
  • Certaines de ces victimes étaient mineures.
  • Sur le plan démographique, la société a constaté que Telegram avait reçu de la publicité du site Web russe VK tandis que le deepfake bot avait recueilli la participation de 101 080 personnes. Pour exacerber les choses, les bots fonctionnent gratuitement. Les utilisateurs n’ont rien à payer à moins qu’ils ne souhaitent que le filigrane soit supprimé, ce qui ne prend que 1,50 $ au maximum.

Comment fonctionnent ces bots — Dans les rapports précédents, Contribution a expliqué comment les robots sont capables de générer leurs propres images à partir de sources originales telles que des photos et des vidéos. Dans le cas des bots deepfake de Telegram, ces bots s’appuient sur les réseaux accusatoires génératifs mentionnés précédemment. Ils dépouillent l’image originale de la femme vêtue pour une « approximation réaliste » de l’anatomie de l’individu.

Ce type de synthèse dépend de la capacité du bot à deviner efficacement les parties du corps et la taille de l’individu. Bien sûr, pour que cela fonctionne « parfaitement », ces robots sont entraînés sur de grandes quantités de données visuelles liées au corps des femmes.

C’est une mauvaise nouvelle pour Telegram. Le réseau a déjà une réputation douteuse grâce aux suprémacistes blancs utilisant fréquemment le messager. Maintenant, avec des robots qui fabriquent de faux nus avec des personnes sans méfiance, y compris des mineurs, le programme de messagerie ne fait que consolider son image de plate-forme profondément compromise.

A voir aussi

Qui veut jouer avec moi ?

Bonjour, je suis une fille pas très sage qui aime les petites gâteries sur oreillers dès le matin.

Le producteur de « BBB » accusé de harcèlement sexuel après avoir demandé des nus d’étudiants

Le producteur du programme a demandé des photos de nu comme condition pour passer à la phase suivante des essais Éditer 247 – La dentiste Aline Vargas, 35 ans, a ouvert un rapport de police contre un producteur de « BBB » pour harcèlement sexuel au poste de police des femmes, à Belo Horizonte, le 23 mai […]

UP Police surveillera vos recherches de porno dans l’historique d’Internet. Réduira-t-il les crimes contre les femmes ?

Alors que le pays célébrait le week-end de la Saint-Valentin, la police de l’Uttar Pradesh a mis au point une nouvelle tactique pour assurer la sécurité des femmes – en gardant un œil sur l’historique des recherches pornographiques. Samedi, la police de l’Uttar Pradesh a déclaré avoir engagé une entreprise pour « garder un œil » sur […]