Forskere har opdaget et 'deepfake økosystem' på messaging-appen Telegram centreret omkring robotter, der genererer falske nøgenbilleder on demand. Brugere, der interagerer med disse bots, siger, at de primært skaber nøgenbilleder af kvinder, de kender ved hjælp af billeder taget fra sociale medier, som de derefter deler og udveksler med hinanden på forskellige kanaler Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Undersøgelsen kommer fra sikkerhedsfirmaet Sensity, som fokuserer på, hvad det kalder "visuel trusselintelligens", især spredningen af deepfakes. Sensity-forskere fandt ud af, at mere end 100 billeder blev genereret og delt på offentlige kanaler Telegram indtil juli 2020 (hvilket betyder, at det samlede antal genererede billeder, inklusive dem, der aldrig er delt, og dem, der er lavet siden juli, er meget højere). De fleste brugere af disse kanaler, omkring 70 procent, kommer fra Rusland og nabolandene, siger Sensity. Kanten var i stand til at bekræfte, at mange kanaler, der blev undersøgt af virksomheden, stadig er aktive.
Botterne er gratis at bruge, men de genererer falske nøgenbilleder med vandmærker eller kun delvis nøgenhed. Brugere kan derefter betale et gebyr svarende til et par cent for fuldt ud at "opdage" billederne. En "begynderpris" opkræver brugere 100 rubler (ca. $1,28) for at generere 100 falske nøgenbilleder uden vandmærke over en periode på syv dage. Sensity siger, at "et begrænset antal" af billederne genereret af bots viser mål "der så ud til at være mindre."
Begge af dem Kanten og Sensity kontaktes Telegram at spørge, hvorfor de tillader dette indhold på deres app, men har endnu ikke modtaget nogen svar. Sensity siger, at det også har kontaktet de retshåndhævende myndigheder.
Softwaren, der bruges til at generere disse billeder, er kendt som DeepNude. Den dukkede første gang op på nettet i juni sidste år, men dens skaber lukkede hans hjemmeside ned få timer efter at have modtaget mainstream mediedækning og sagde "sandsynligheden for, at folk misbruger den, er for høj". Softwaren fortsatte dog med at sprede sig på tværs af back-kanaler, og Sensity siger, at DeepNude "siden er blevet omvendt manipuleret og kan findes i forbedrede former på open source repositories og torrent-websteder." Det bruges nu til at drive robotter Telegram, som automatisk håndterer betalinger for at generere indtægter til deres skabere.
DeepNude bruger en AI-teknik kendt som generative adversarial networks, eller GAN'er, til at generere falske nøgenbilleder, med de resulterende billeder af varierende kvalitet. De fleste er åbenlyst falske med udtværet eller pixeleret kød, men nogle kan let forveksles med rigtige billeder.
Siden før fremkomsten af Photoshop har folk skabt falske nøgenbilleder af kvinder uden samtykke. Der er i øjeblikket mange fora og websteder dedikeret til denne aktivitet ved hjælp af ikke-AI-værktøjer, hvor brugere deler nøgenbilleder af berømtheder og folk, de kender. Men deepfakes har ført til hurtigere generering af mere realistiske billeder. Nu automatisere denne proces via robotter Telegram gør det lige så nemt at generere falske nøgenbilleder som at sende og modtage billeder.
”Den største forskel er tilgængeligheden af denne teknologi,” sagde Giorgio Patrini, administrerende direktør for Sensity og medforfatter til rapporten. Kanten. "Det er vigtigt at bemærke, at andre versioner af denne bots kerne-AI, billedbehandling og syntese, er tilgængelige gratis på online kodelagre. Men du skal være programmør og have en vis forståelse for computervision for at få dem til at fungere, bortset fra kraftfuld hardware. I øjeblikket er alt dette ligegyldigt, fordi det tages af botten integreret i en beskedapplikation.
Sensity-rapporten siger, at det er "rimeligt at antage", at de fleste mennesker, der bruger disse bots "primært er interesserede i at forbruge dyb falsk pornografi" (som stadig er en populær kategori på pornografiske sider). Men disse billeder og videoer kan også bruges til afpresning, afpresning, chikane mv. Der har været en del dokumenteret cas kvinder målrettet ved hjælp af AI-genererede nøgenbilleder, og det er muligt, at nogle af dem, der skaber nøgenbilleder ved hjælp af robotterne Telegram gør det med disse grunde i tankerne.
Sagde Patrini Kanten at Sensity-forskere ikke havde set direkte beviser for, at botens kreationer blev brugt til disse formål, men sagde, at virksomheden troede på, at det skete. Han tilføjede, at selvom den politiske trussel om deepfakes var blevet "fejlberegnet" ("fra gerningsmændenes synspunkt er det nemmere og billigere at photoshoppe billeder og opnå en lignende effekt at formidle misinformation med mindre indsats"), er det klart. at teknologi udgør "en seriel trussel mod personligt omdømme og sikkerhed."
