Forskare har upptäckt ett "djupt falskt ekosystem" på meddelandeappen Telegram centrerad kring robotar som genererar falska nakenbilder på begäran. Användare som interagerar med dessa bots säger att de främst skapar nakenbilder på kvinnor de känner med hjälp av bilder tagna från sociala medier, som de sedan delar och utbyter med varandra på olika kanaler Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Utredningen kommer från säkerhetsföretaget Sensity, som fokuserar på vad det kallar "visuell hotintelligens", särskilt spridningen av deepfakes. Sensity-forskare fann att mer än 100 000 bilder genererades och delades på offentliga kanaler Telegram fram till juli 2020 (vilket innebär att det totala antalet genererade bilder, inklusive de som aldrig har delats och de som gjorts sedan juli, är mycket högre). De flesta användare av dessa kanaler, runt 70 procent, kommer från Ryssland och grannländerna, säger Sensity. Kanten kunde bekräfta att många kanaler som studerats av företaget fortfarande är aktiva.
Botarna är gratis att använda, men de genererar falska nakenbilder med vattenstämplar eller endast delvis nakenhet. Användare kan sedan betala en avgift motsvarande några cent för att helt "upptäcka" bilderna. En "nybörjarpris" debiterar användarna 100 rubel (cirka $1,28) för att generera 100 falska nakenbilder utan vattenstämpel under en sjudagarsperiod. Sensity säger att "ett begränsat antal" av bilderna som genereras av robotarna visar mål "som verkade vara mindre."
båda Kanten och Sensity kontaktade Telegram för att fråga varför de tillåter detta innehåll i sin app men har inte fått några svar ännu. Sensity säger att de också har kontaktat brottsbekämpande myndigheter.
Mjukvaran som används för att generera dessa bilder kallas DeepNude. Den dök upp första gången på webben i juni förra året, men dess skapare stängde ner hans webbplats inom några timmar efter att ha fått den vanliga mediabevakningen och sa att "sannolikheten för att folk missbrukar den är för stor". Mjukvaran fortsatte dock att spridas över bakkanaler, och Sensity säger att DeepNude "sedan har blivit omvänd konstruerad och kan hittas i förbättrade former på arkiv med öppen källkod och torrentwebbplatser." Den används nu för att driva robotar Telegram, som automatiskt hanterar betalningar för att generera intäkter för sina skapare.
DeepNude använder en AI-teknik som kallas generativa motstridiga nätverk, eller GAN, för att generera falska nakenbilder, med de resulterande bilderna varierande i kvalitet. De flesta är uppenbarligen falska, med utsmetat eller pixlat kött, men vissa kan lätt misstas för riktiga bilder.
Sedan före tillkomsten av Photoshop har människor skapat falska nakenbilder av kvinnor utan samtycke. Det finns för närvarande många forum och webbplatser dedikerade till denna aktivitet som använder icke-AI-verktyg, med användare som delar nakenbilder på kändisar och personer de känner. Men deepfakes har lett till en snabbare generering av mer realistiska bilder. Nu, automatisera denna process via robotar Telegram gör det lika enkelt att skapa falska nakenbilder som att skicka och ta emot bilder.
"Den största skillnaden är tillgängligheten för denna teknik", säger Giorgio Patrini, vd för Sensity och medförfattare till rapporten. Kanten. "Det är viktigt att notera att andra versioner av denna bots kärn-AI, bildbehandling och syntes, är tillgängliga gratis på online-kodarkiv. Men du måste vara programmerare och ha viss förståelse för datorseende för att få dem att fungera, förutom kraftfull hårdvara. För tillfället spelar allt detta ingen roll eftersom det tas om hand av boten som är integrerad i en meddelandeapplikation.
Sensity-rapporten säger att det är "rimligt att anta" att de flesta som använder dessa bots "främst är intresserade av att konsumera djupt falsk pornografi" (som förblir en populär kategori på pornografiska webbplatser). Men dessa bilder och filmer kan också användas för utpressning, utpressning, trakasserier osv. Det har funnits ett antal dokumenterad cas kvinnor inriktade på att använda AI-genererade nakenbilder, och det är möjligt att vissa av dem som skapar nakenbilder med hjälp av robotarna Telegram gör det med dessa skäl i åtanke.
Sa Patrini Kanten att Sensity-forskare inte hade sett direkta bevis på att botens skapelser användes för dessa ändamål, men sa att företaget trodde att det hände. Han tillade att även om det politiska hotet om deepfakes hade "felberäknats" ("från förövarnas synvinkel är det lättare och billigare att photoshopa bilder och uppnå en liknande effekt för att sprida desinformation, med mindre ansträngning"), är det tydligt. att tekniken utgör "ett seriellt hot mot personligt rykte och säkerhet."
