Pesquisadores descobriram um 'ecossistema deepfake' no aplicativo de mensagens Telegram centrado em robôs que geram nus falsos sob demanda. Os usuários que interagem com esses bots dizem que criam principalmente nus de mulheres que conhecem usando imagens tiradas das redes sociais, que depois compartilham e trocam entre si em vários canais. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
A investigação vem da empresa de segurança Sensity, que se concentra no que chama de “inteligência visual de ameaças”, particularmente na disseminação de deepfakes. Os pesquisadores da Sensity descobriram que mais de 100 imagens foram geradas e compartilhadas em canais públicos Telegram até julho de 2020 (ou seja, o número total de imagens geradas, incluindo as nunca compartilhadas e as feitas desde julho, é muito maior). A maioria dos utilizadores destes canais, cerca de 70%, vem da Rússia e de países vizinhos, diz Sensity. A borda conseguiu confirmar que muitos canais estudados pela empresa ainda estão ativos.
Os bots são de uso gratuito, mas geram nus falsos com marcas d'água ou apenas nudez parcial. Os usuários podem então pagar uma taxa igual a alguns centavos para “descobrir” totalmente as imagens. Uma “taxa para iniciantes” cobra dos usuários 100 rublos (cerca de US$ 1,28) para gerar 100 nus falsos sem marca d'água durante um período de sete dias. Sensity diz que “um número limitado” de imagens geradas pelos bots mostram alvos “que pareciam ser menores”.
Os dois A borda e Sensibilidade entrou em contato Telegram para perguntar por que eles permitem esse conteúdo em seus aplicativos, mas ainda não receberam nenhuma resposta. A Sensity diz que também contatou as autoridades policiais.
O software usado para gerar essas imagens é conhecido como DeepNude. Ele apareceu pela primeira vez na web em junho passado, mas seu criador fechou seu site poucas horas depois de receber a cobertura da grande mídia, dizendo que “a probabilidade de as pessoas fazerem mau uso dele é muito alta”. No entanto, o software continuou a se espalhar pelos backchannels, e a Sensity diz que o DeepNude “já passou por engenharia reversa e pode ser encontrado em formas aprimoradas em repositórios de código aberto e sites de torrent”. Agora é usado para alimentar robôs Telegram, que lidam automaticamente com pagamentos para gerar receita para seus criadores.
DeepNude usa uma técnica de IA conhecida como redes adversárias generativas, ou GANs, para gerar nus falsos, com as imagens resultantes variando em qualidade. A maioria é obviamente falsa, com manchas ou pixels, mas algumas podem ser facilmente confundidas com imagens reais.
Desde antes do advento do Photoshop, as pessoas têm criado nus falsos e não consensuais de mulheres. Atualmente existem muitos fóruns e sites dedicados a esta atividade usando ferramentas que não são de IA, com usuários compartilhando nus de celebridades e pessoas que conhecem. Mas os deepfakes levaram à geração mais rápida de imagens mais realistas. Agora, automatizando esse processo por meio de robôs Telegram torna a geração de nus falsos tão fácil quanto enviar e receber imagens.
“O principal diferencial é a acessibilidade dessa tecnologia”, disse Giorgio Patrini, CEO da Sensity e coautor do relatório. A borda. “É importante observar que outras versões da IA central deste bot, processamento e síntese de imagens, estão disponíveis gratuitamente em repositórios de código online. Mas você precisa ser um programador e ter algum conhecimento de visão computacional para fazê-los funcionar, além de hardware poderoso. No momento, tudo isso não importa porque é cuidado pelo bot integrado a um aplicativo de mensagens.
O relatório Sensity afirma que é "razoável supor" que a maioria das pessoas que usam esses bots "estão principalmente interessadas em consumir pornografia falsa" (o que permanece uma categoria popular em sites pornográficos). Mas essas imagens e vídeos também podem ser usados para extorsão, chantagem, assédio, etc. Houve uma série de documentado cas mulheres segmentadas usando nus gerados por IA, e é possível que alguns daqueles que criam nus usando os robôs Telegram fazê-lo com estas razões em mente.
Patrini disse A borda que os pesquisadores da Sensity não viram evidências diretas de que as criações do bot foram usadas para esses fins, mas disseram que a empresa acreditava que isso estava acontecendo. Ele acrescentou que embora a ameaça política dos deepfakes tenha sido “mal calculada” (“do ponto de vista dos perpetradores, é mais fácil e barato fazer photoshop de imagens e obter um impacto semelhante para disseminar desinformação, com menos esforço”), é claro que a tecnologia representa “uma ameaça em série à reputação e segurança pessoal”.
