I ricercatori hanno scoperto un "ecosistema deepfake" sull'app di messaggistica Telegram incentrato su robot che generano nudi falsi su richiesta. Gli utenti che interagiscono con questi bot affermano di creare principalmente nudi di donne che conoscono utilizzando immagini prese dai social media, che poi condividono e scambiano tra loro su vari canali Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
L’indagine proviene dalla società di sicurezza Sensity, che si concentra su quella che chiama “intelligence visiva sulle minacce”, in particolare sulla diffusione dei deepfake. I ricercatori di Sensity hanno scoperto che più di 100 immagini sono state generate e condivise su canali pubblici Telegram fino a luglio 2020 (il che significa che il numero totale di immagini generate, comprese quelle mai condivise e quelle realizzate a partire da luglio, è molto più elevato). La maggior parte degli utenti di questi canali, circa il 70%, proviene dalla Russia e dai paesi vicini, afferma Sensity. Il bordo ha potuto confermare che molti canali studiati dall'azienda sono ancora attivi.
I bot sono gratuiti, ma generano nudi falsi con filigrane o nudità solo parziali. Gli utenti potranno poi pagare una tariffa pari a pochi centesimi per “scoprire” integralmente le immagini. Una “tariffa per principianti” addebita agli utenti 100 rubli (circa 1,28 dollari) per generare 100 nudi falsi senza filigrana in un periodo di sette giorni. Sensity afferma che "un numero limitato" di immagini generate dai robot mostrano obiettivi "che sembravano minori".
Entrambi Il bordo e Sensity contattati Telegram per chiedere perché consentono questo contenuto sulla loro app ma non hanno ancora ricevuto alcuna risposta. Sensity afferma di aver contattato anche le forze dell'ordine.
Il software utilizzato per generare queste immagini è noto come DeepNude. È apparso per la prima volta sul web lo scorso giugno, ma il suo creatore ha chiuso il suo sito poche ore dopo aver ricevuto la copertura mediatica mainstream, affermando che "la probabilità che le persone ne facciano un uso improprio è troppo alta". Tuttavia, il software ha continuato a diffondersi attraverso i backchannel e Sensity afferma che DeepNude "da allora è stato sottoposto a ingegneria inversa e può essere trovato in forme migliorate su repository open source e siti Web torrent". Ora è utilizzato per alimentare i robot Telegram, che gestiscono automaticamente i pagamenti per generare entrate per i loro creatori.
DeepNude utilizza una tecnica di intelligenza artificiale nota come reti generative avversarie, o GAN, per generare nudi falsi, con le immagini risultanti di qualità variabile. La maggior parte sono ovviamente finte, con carne imbrattata o pixelata, ma alcune possono essere facilmente scambiate per immagini reali.
Da prima dell’avvento di Photoshop, le persone hanno creato falsi nudi di donne non consensuali. Attualmente esistono molti forum e siti Web dedicati a questa attività che utilizzano strumenti non basati sull'intelligenza artificiale, in cui gli utenti condividono nudi di celebrità e persone che conoscono. Ma i deepfake hanno portato alla generazione più rapida di immagini più realistiche. Ora, automatizzando questo processo tramite robot Telegram rende la generazione di nudi falsi facile come inviare e ricevere immagini.
"La differenza principale è l'accessibilità di questa tecnologia", ha affermato Giorgio Patrini, CEO di Sensity e coautore del rapporto. Il bordo. “È importante notare che altre versioni dell'intelligenza artificiale principale di questo bot, ovvero l'elaborazione e la sintesi delle immagini, sono disponibili gratuitamente negli archivi di codici online. Ma per farli funzionare è necessario essere un programmatore e avere una certa conoscenza della visione artificiale, oltre all'hardware potente. Per il momento tutto questo non ha importanza perché se ne occupa il bot integrato in un'applicazione di messaggistica.
Il rapporto Sensity afferma che è "ragionevole presumere" che la maggior parte delle persone che utilizzano questi robot "sia principalmente interessata a consumare pornografia deepfake" (che rimane una categoria popolare su siti pornografici). Ma queste immagini e questi video possono essere utilizzati anche per estorsioni, ricatti, molestie, ecc. Ce ne sono stati diversi documentato cas donne prese di mira utilizzando nudi generati dall'intelligenza artificiale ed è possibile che alcuni di coloro che creano nudi utilizzando i robot Telegram farlo tenendo conto di questi motivi.
Patrini ha detto Il bordo che i ricercatori di Sensity non avevano visto prove dirette dell'utilizzo delle creazioni del bot per questi scopi, ma hanno affermato che la società credeva che stesse accadendo. Ha aggiunto che mentre la minaccia politica dei deepfake è stata "calcolata male" ("dal punto di vista degli autori, è più facile ed economico modificare le immagini con Photoshop e ottenere un impatto simile per diffondere disinformazione, con meno sforzo"), è chiaro che la tecnologia rappresenta “una minaccia seriale alla reputazione e alla sicurezza personale”.
