Platforma za razmjenu poruka temeljena na oblaku Telegram je leglo pornografskih lažnih lažnih sadržaja, prema sigurnosnoj istrazi koju je proveo Sensity. Analiza opisuje end-to-end kriptirani messenger kao "deepfake ekosustav" u kojem botovi mogu pretvoriti svakodnevne fotografije ljudi u "gole" sadržaje, posebno žena.
Ovi botovi su pokretani umjetnom inteligencijom, Sensityjem, i izvode akcije “skidanja” na fotografiji bez odjeće, često u svrhu javnog ponižavanja i iznude. Tvrtka opisuje
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
ovaj proces kao vrsta funkcije uređivanja koju mogu lako koristiti vlasnici pametnih telefona i tradicionalnih računala. Sve što trebaju učiniti je zgrabiti fotografiju iz svoje osobne galerije slika i dopustiti botovima da generiraju deepfake. Ove fotografije mogu doći s bilo kojeg mjesta i svugdje na internetu.
Što je Sensity pronašao - Ovdje su Sensityjevi ključni nalazi:
- Tvrtka je otkrila botove koji stvaraju slike koje su do sada ciljale 104 žene.
- Te su se slike potom proširile po cijeloj platformi do kraja srpnja ove godine.
- Samo u posljednja tri mjeseca ovi deepfakeovi su porasli za 198%.
- Najmanje 70 posto onih koji su ciljani dobili su svoje slike s društvenih mreža ili drugih privatnih izvora.
- Neke od tih žrtava bile su maloljetne osobe.
- Demografski, tvrtka je to otkrila Telegram dobio je reklamu s ruske web stranice VK dok je deepfake bot privukao 101 ljudi za sudjelovanje. Da stvar bude gora, botovi rade besplatno. Korisnici ne moraju ništa platiti osim ako ne žele uklanjanje vodenog žiga, za što je potrebno najviše 080 USD.
Kako ti botovi rade - U prethodnim izvješćima, Doprinos objasnio je kako roboti mogu generirati vlastite slike iz izvornih izvora kao što su fotografije i videozapisi. U slučaju deepfake botova iz Telegram, ovi se botovi oslanjaju na prethodno spomenute generativne protivničke mreže. Oni skidaju izvornu sliku odjevene žene za "realističnu aproksimaciju" anatomije pojedinca.
Ova vrsta sinteze ovisi o sposobnosti bota da učinkovito pogodi dijelove tijela i visinu pojedinca. Naravno, kako bi ovo radilo "savršeno", ovi roboti su obučeni na velikim količinama vizualnih podataka koji se odnose na ženska tijela.
Ovo je loša vijest za Telegram. Mreža već ima sumnjivu reputaciju zahvaljujući bijelim rasistima koji često koriste Messenger. Sada, s botovima koji prave lažne aktove s ljudima koji ništa ne sumnjaju, uključujući maloljetnike, program za razmjenu poruka samo učvršćuje svoju sliku duboko ugrožene platforme.
