Istraživači su otkrili 'deepfake ekosustav' u aplikaciji za razmjenu poruka Telegram usredotočen na robote koji generiraju lažne aktove na zahtjev. Korisnici koji komuniciraju s ovim botovima kažu da prvenstveno stvaraju aktove žena koje poznaju koristeći slike preuzete s društvenih mreža, koje zatim međusobno dijele i razmjenjuju na raznim kanalima Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Istragu je pokrenula sigurnosna tvrtka Sensity, koja se usredotočuje na ono što naziva "vizualnom inteligencijom prijetnji", posebice na širenje deepfakeova. Istraživači osjetljivosti otkrili su da je više od 100 slika generirano i podijeljeno na javnim kanalima Telegram do srpnja 2020. (što znači da je ukupan broj generiranih slika, uključujući one koje nikada nisu podijeljene i one napravljene od srpnja, puno veći). Većina korisnika ovih kanala, oko 70 posto, dolazi iz Rusije i susjednih zemalja, kažu u Sensityju. Ruba uspio je potvrditi da su mnogi kanali koje je tvrtka istražila još uvijek aktivni.
Botovi su slobodni za korištenje, ali generiraju lažne aktove s vodenim žigovima ili samo djelomičnu golotinju. Korisnici tada mogu platiti naknadu od nekoliko centi kako bi u potpunosti "otkrili" slike. “Cijena za početnike” naplaćuje korisnicima 100 rubalja (oko 1,28 USD) za generiranje 100 lažnih aktova bez vodenog žiga u razdoblju od sedam dana. Sensity kaže da "ograničeni broj" slika koje su generirali botovi pokazuju mete "koje su izgledale manje".
Oboje Ruba i Sensity kontaktirali Telegram pitati zašto dopuštaju ovaj sadržaj u svojoj aplikaciji, ali još nisu dobili odgovore. Sensity kaže da je također kontaktirao tijela za provođenje zakona.
Softver koji se koristi za generiranje ovih slika poznat je kao DeepNude. Prvi put se pojavio na webu u lipnju prošle godine, ali je njegov tvorac zatvorio svoju web stranicu nekoliko sati nakon što je dobio medijsku pokrivenost, rekavši da je "vjerojatnost da će je ljudi zloupotrijebiti prevelika". Međutim, softver se nastavio širiti po povratnim kanalima, a Sensity kaže da je DeepNude "od tada obrnuti inženjering i da se može pronaći u poboljšanim oblicima na otvorenim repozitorijima i torrent web stranicama". Sada se koristi za napajanje robota Telegram, koji automatski obrađuju plaćanja za stvaranje prihoda za svoje kreatore.
DeepNude koristi tehniku umjetne inteligencije poznatu kao generativne suparničke mreže ili GAN za generiranje lažnih aktova, s rezultirajućim slikama različite kvalitete. Većina je očito lažna, s razmazanim ili pikseliziranim mesom, no neke se lako mogu zamijeniti za prave slike.
Prije pojave Photoshopa ljudi su stvarali lažne aktove žena bez pristanka. Trenutačno postoje mnogi forumi i web stranice posvećene ovoj aktivnosti koristeći alate koji nisu AI, a korisnici dijele aktove slavnih osoba i ljudi koje poznaju. No deepfakes su doveli do bržeg stvaranja realističnijih slika. Sada, automatizacija ovog procesa putem robota Telegram čini generiranje lažnih aktova lakim kao slanje i primanje slika.
"Glavna razlika je u dostupnosti ove tehnologije", rekao je Giorgio Patrini, izvršni direktor tvrtke Sensity i koautor izvješća. Ruba. “Važno je napomenuti da su ostale verzije jezgre umjetne inteligencije ovog bota, obrade i sinteze slike, dostupne besplatno na mrežnim spremištima kodova. Ali morate biti programer i imati neko razumijevanje računalnog vida da bi radili, osim moćnog hardvera. Trenutačno sve to nije bitno jer se za to brine bot integriran u aplikaciju za slanje poruka.
Sensityovo izvješće kaže da je "razumno pretpostaviti" da je većina ljudi koji koriste ove botove "primarno zainteresirana za konzumiranje duboke lažne pornografije" (što ostaje popularna kategorija na pornografskim stranicama). No te se slike i videozapisi također mogu koristiti za iznudu, ucjenu, uznemiravanje itd. Bilo ih je nekoliko dokumentirano cas žene ciljane koristeći aktove generirane umjetnom inteligencijom, a moguće je da neki od onih koji stvaraju aktove pomoću robota Telegram učinite to imajući na umu ove razloge.
rekao je patrini Ruba da istraživači Sensityja nisu vidjeli izravne dokaze da se kreacije bota koriste u te svrhe, ali su rekli da tvrtka vjeruje da se to događa. Dodao je da je, iako je politička prijetnja deepfakeova "pogrešno procijenjena" ("sa stajališta počinitelja, lakše je i jeftinije fotošopirati slike i postići sličan učinak širenja dezinformacija, uz manje truda"), jasno da tehnologija predstavlja "serijsku prijetnju osobnom ugledu i sigurnosti".
