Onderzoekers hebben een 'deepfake-ecosysteem' ontdekt in de berichten-app Telegram gecentreerd rond robots die op verzoek nepnaakten genereren. Gebruikers die met deze bots communiceren, zeggen dat ze voornamelijk naaktfoto's maken van vrouwen die ze kennen met behulp van afbeeldingen van sociale media, die ze vervolgens op verschillende kanalen met elkaar delen en uitwisselen. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Het onderzoek is afkomstig van beveiligingsbedrijf Sensity, dat zich richt op wat het ‘visuele dreigingsinformatie’ noemt, met name de verspreiding van deepfakes. Sensity-onderzoekers ontdekten dat er meer dan 100 afbeeldingen werden gegenereerd en gedeeld op openbare kanalen Telegram tot juli 2020 (wat betekent dat het totale aantal gegenereerde afbeeldingen, inclusief de afbeeldingen die nooit zijn gedeeld en de afbeeldingen die sinds juli zijn gemaakt, veel hoger is). De meeste gebruikers van deze kanalen, zo’n 70 procent, komen uit Rusland en omringende landen, zegt Sensity. De rand kon bevestigen dat veel door het bedrijf onderzochte kanalen nog steeds actief zijn.
De bots zijn gratis te gebruiken, maar ze genereren nepnaakten met watermerken of slechts gedeeltelijke naaktheid. Gebruikers kunnen vervolgens een vergoeding van enkele centen betalen om de afbeeldingen volledig te ‘ontdekken’. Een “beginnerstarief” brengt gebruikers 100 roebel (ongeveer $ 1,28) in rekening om gedurende een periode van zeven dagen 100 nepfoto's zonder watermerk te genereren. Sensity zegt dat “een beperkt aantal” van de door de bots gegenereerde afbeeldingen doelen toont “die klein leken”.
Beiden De rand en Sensity gecontacteerd Telegram om te vragen waarom ze deze inhoud in hun app toestaan, maar nog geen antwoord hebben ontvangen. Sensity zegt dat het ook contact heeft opgenomen met de wetshandhavingsautoriteiten.
De software die wordt gebruikt om deze afbeeldingen te genereren staat bekend als DeepNude. Het verscheen afgelopen juni voor het eerst op internet, maar de maker ervan sloot zijn website binnen enkele uren na ontvangst van de mainstream media-aandacht, omdat "de kans dat mensen het misbruiken te groot is". De software bleef zich echter verspreiden via backchannels, en Sensity zegt dat DeepNude "sindsdien reverse-engineered is en in verbeterde vormen te vinden is op open source-opslagplaatsen en torrent-websites." Het wordt nu gebruikt om robots aan te drijven Telegram, die automatisch betalingen afhandelen om inkomsten te genereren voor hun makers.
DeepNude maakt gebruik van een AI-techniek die bekend staat als generatieve vijandige netwerken, of GAN's, om nepnaakten te genereren, waarbij de resulterende beelden in kwaliteit variëren. De meeste zijn duidelijk nep, met vlekkerig of korrelig vlees, maar sommige kunnen gemakkelijk worden aangezien voor echte afbeeldingen.
Sinds vóór de komst van Photoshop maken mensen zonder wederzijds goedvinden nepnaaktfoto's van vrouwen. Er zijn momenteel veel forums en websites gewijd aan deze activiteit die niet-AI-tools gebruiken, waarbij gebruikers naaktfoto's delen van beroemdheden en mensen die ze kennen. Maar deepfakes hebben geleid tot het sneller genereren van realistischere beelden. Automatiseer dit proces nu via robots Telegram maakt het genereren van nepnaakten net zo eenvoudig als het verzenden en ontvangen van afbeeldingen.
"Het belangrijkste verschil is de toegankelijkheid van deze technologie", zegt Giorgio Patrini, CEO van Sensity en co-auteur van het rapport. De rand. “Het is belangrijk op te merken dat andere versies van de kern-AI van deze bot, beeldverwerking en synthese, gratis beschikbaar zijn in online codeopslagplaatsen. Maar je moet een programmeur zijn en enig begrip hebben van computervisie om ze te laten werken, afgezien van krachtige hardware. Op dit moment doet dit er allemaal niet toe, omdat het wordt verzorgd door de bot die is geïntegreerd in een berichtentoepassing.
Het Sensity-rapport stelt dat het "redelijk is om aan te nemen" dat de meeste mensen die deze bots gebruiken "in de eerste plaats geïnteresseerd zijn in het consumeren van deepfake-pornografie" (wat nog steeds een populaire categorie op pornografische sites). Maar deze afbeeldingen en video’s kunnen ook gebruikt worden voor afpersing, chantage, intimidatie, etc. Er zijn er een aantal geweest gedocumenteerd cas vrouwen getarget met behulp van AI-gegenereerde naakten, en het is mogelijk dat sommigen van degenen die naakten maken met behulp van de robots Telegram doe dit met deze redenen in gedachten.
Patrini zei: De rand dat Sensity-onderzoekers geen direct bewijs hadden gezien dat de creaties van de bot voor deze doeleinden werden gebruikt, maar zeiden dat het bedrijf geloofde dat dit gebeurde. Hij voegde eraan toe dat, hoewel de politieke dreiging van deepfakes ‘verkeerd was ingeschat’ (‘vanuit het standpunt van de daders is het gemakkelijker en goedkoper om afbeeldingen te photoshoppen en een vergelijkbare impact te bereiken door desinformatie te verspreiden, met minder moeite’), het duidelijk is dat technologie “een seriële bedreiging voor de persoonlijke reputatie en veiligheid” vormt.
