Tutkijat ovat löytäneet "deepfake-ekosysteemin" viestisovelluksesta Telegram keskittynyt robottien ympärille, jotka luovat väärennettyjä alastonkuvia pyynnöstä. Näiden robottien kanssa vuorovaikutuksessa olevat käyttäjät kertovat luovansa ensisijaisesti alastonkuvia tuntemistaan naisista käyttämällä sosiaalisesta mediasta otettuja kuvia, joita he sitten jakavat ja vaihtavat keskenään eri kanavilla. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Tutkimus tulee tietoturvayhtiö Sensityltä, joka keskittyy "visuaaliseen uhkatiedustukseen", erityisesti syväväärennösten leviämiseen. Sensity-tutkijat havaitsivat, että yli 100 000 kuvaa luotiin ja jaettiin julkisilla kanavilla Telegram heinäkuuhun 2020 asti (eli luotujen kuvien kokonaismäärä, mukaan lukien kuvat, joita ei ole koskaan jaettu, ja kuvat, jotka on tehty heinäkuun jälkeen, on paljon suurempi). Suurin osa näiden kanavien käyttäjistä, noin 70 prosenttia, tulee Venäjältä ja sen naapurimaista, Sensity kertoo. Reuna pystyi vahvistamaan, että monet yrityksen tutkimat kanavat ovat edelleen aktiivisia.
Botit ovat vapaasti käytettävissä, mutta ne luovat väärennettyjä alastonkuvia, joissa on vesileimoja tai vain osittaista alastomuutta. Käyttäjät voivat sitten maksaa muutaman sentin suuruisen maksun kuvien täydellisestä "löydöstä". "Aloitushinta" veloittaa käyttäjiltä 100 ruplaa (noin 1,28 dollaria) 100 väärennetyn alaston luomisesta ilman vesileimaa seitsemän päivän aikana. Sensity sanoo, että "rajoitettu määrä" robottien luomista kuvista näyttää kohteita "jotka vaikuttivat vähäisiltä".
Tous les deux Reuna ja Sensity ottivat yhteyttä Telegram kysyä, miksi he sallivat tämän sisällön sovelluksessaan, mutta eivät ole vielä saaneet vastauksia. Sensity kertoo ottaneensa yhteyttä myös lainvalvontaviranomaisiin.
Näiden kuvien luomiseen käytetty ohjelmisto tunnetaan nimellä DeepNude. Se ilmestyi verkkoon ensimmäisen kerran viime kesäkuussa, mutta sen luoja sulki verkkosivustonsa muutamassa tunnissa valtavirran tiedotusvälineiden vastaanottamisesta ja sanoi, että "todennäköisyys, että ihmiset käyttävät sitä väärin, on liian suuri". Ohjelmisto levisi kuitenkin edelleen takakanaville, ja Sensity sanoo, että DeepNude "on sittemmin käännetty takaisin ja löytyy parannetuissa muodoissa avoimen lähdekoodin arkistoista ja torrent-sivustoista." Sitä käytetään nykyään robottien voimanlähteenä Telegram, jotka käsittelevät maksuja automaattisesti tuottaakseen tuloja tekijöilleen.
DeepNude käyttää tekoälytekniikkaa, joka tunnetaan nimellä generative adversarial networks tai GAN, luodakseen väärennettyjä alastonkuvia, jolloin syntyvien kuvien laatu vaihtelee. Useimmat ovat ilmeisesti väärennöksiä, joissa on tahriintunutta tai pikselöityä lihaa, mutta jotkut voidaan helposti sekoittaa oikeiksi kuviksi.
Ennen Photoshopin tuloa ihmiset ovat luoneet ei-yhtenäisiä väärennettyjä naisten alastonkuvia. Tällä hetkellä on monia foorumeita ja verkkosivustoja, jotka on omistettu tälle toiminnalle ei-AI-työkaluilla, ja käyttäjät jakavat julkkisten ja tuntemiensa ihmisten alastonkuvia. Mutta syväväärennökset ovat johtaneet realistisempien kuvien nopeampaan luomiseen. Nyt tämä prosessi automatisoidaan robottien avulla Telegram tekee väärennettyjen alastonkuvien luomisesta yhtä helppoa kuin kuvien lähettämisen ja vastaanottamisen.
"Suurin ero on tämän tekniikan saavutettavuus", sanoi Giorgio Patrini, Sensityn toimitusjohtaja ja raportin toinen kirjoittaja. Reuna. "On tärkeää huomata, että muut versiot tämän botin ydinälystä, kuvankäsittelystä ja synteesistä, ovat saatavilla ilmaiseksi online-koodivarastoista. Mutta sinun on oltava ohjelmoija ja oltava jonkin verran ymmärrystä tietokonenäöstä, jotta ne toimisivat tehokkaan laitteiston lisäksi. Tällä hetkellä kaikella ei ole väliä, koska siitä huolehtii viestisovellukseen integroitu botti.
Sensityn raportin mukaan on "kohtuullista olettaa", että useimmat näitä botteja käyttävistä ihmisistä "ovat ensisijaisesti kiinnostuneita syväpornografian kuluttamisesta" (mikä pysyy suosittu luokka pornografisilla sivustoilla). Mutta näitä kuvia ja videoita voidaan käyttää myös kiristykseen, kiristykseen, häirintään jne. Niitä on ollut useita dokumentoitu cas naiset kohdistuivat tekoälyn luomiin alastontöihin, ja on mahdollista, että jotkut niistä, jotka luovat alastomia robottien avulla Telegram tee niin nämä syyt mielessä.
patrini sanoi Reuna että Sensity-tutkijat eivät olleet nähneet suoria todisteita siitä, että botin luomuksia olisi käytetty näihin tarkoituksiin, mutta sanoi yhtiön uskovan sen tapahtuvan. Hän lisäsi, että vaikka syväväärennösten poliittinen uhka oli "laskettu väärin" ("rikoksentekijöiden näkökulmasta on helpompaa ja halvempaa photoshopata kuvia ja saavuttaa samanlainen vaikutus väärän tiedon levittämiseen pienemmällä vaivalla"), on selvää. että tekniikka muodostaa "sarjan uhan henkilökohtaiselle maineelle ja turvallisuudelle".
