Viime kesänä pornografinen video tunnetulta tekijältä TikTok levisi sosiaalisessa mediassa. Kuvakaappaus videosta TikTok meni Instagram-tilille @tiktokhuoneeseen, johon liittyy videolla julkaistun sisällöntuottajan kommentti. "Se on syvä väärennös, mutta silti, vanhempani tässä sovelluksessa, rentoutukaa", luoja sanoi. (Liukuva kivi ei nimeä tätä tekijää tai muuta tässä tarinassa mainittua tekijää sillä perusteella, että videot on lähetetty ilman heidän suostumustaan.)
Syväfake on digitaalisesti manipuloitu video, joka käyttää tekoälytekniikkaa vaihtaakseen henkilön kasvot (usein, mutta ei aina julkkis) toisen henkilön vartaloon, yleensä ilman hänen suostumustaan. Suuri osa median huomiosta syväpetoksiin on keskittynyt niiden mahdollisuuksiin levittää disinformaatiota, etenkin poliittisen kampanjan tai vaalien yhteydessä, yhtenä Nancy Pelosin tohtoroitu leike joka meni virukseen Facebookissa viime vuonna. Silti valtaosa syväväärennöksistä - 96% tekoälyyrityksen Sensityn vuonna 2019 tekemän tutkimuksen mukaan - ovat pornografisia ja käytetään kohdistamaan naisiin.
Aiemmin deepfake-tekniikkaa käytettiin ensisijaisesti luomaan alastomia tai seksuaalisesti selkeitä kuvia erityisesti naisjulkkiksista. Osa tästä johtuu siitä, että syväväärennettyjen mallien luomiseen tarvitaan tuhansia valokuvia tai useita minuutteja videomateriaalia hyvän työn tekemiseen, sanoo Sensityn perustaja ja toimitusjohtaja Giorgio Patrini.
Mutta tekniikasta on tullut helppokäyttöisempi ja vähemmän monimutkainen, ja sen tulokset ovat kauhistuttavia. Viime viikko, Sensity julkaisi raportin tekoäly botista salatussa viestintäsovelluksessa Telegram käytetään alastomien tai seksuaalisesti paljastavien kuvien luomiseen sadoista tuhansista naisista ilman heidän suostumustaan. Toisin kuin muut syvänväärennösvideoiden luomiseen käytetyt ohjelmistot, robotti vaati vain valokuvan kuvaamaan alastomia naisia, mikä johti siihen, että kohteet kohdistuivat yhä enemmän muihin kuin julkkiksiin naisiin ja tyttöihin . Sama pätee vaikuttajiin sellaisilla alustoilla kuin Instagram ja TikTok. "Se on videopohjainen alusta, joten se tarjoaa itse asiassa enemmän materiaalia [deepfakejen tekemiseen]", Patrini sanoo. "Nämä ihmiset ovat alttiimpia kuin jos he vain lähettäisivät valokuvia. »
Bostonin yliopiston oikeustieteellisen tiedekunnan oikeustieteen professori ja Cyber Civil Rights Initiativen varapuheenjohtaja Danielle Citron sanoo, että pornografisessa syvävalevideossa esiintymisen psykologisia vaikutuksia ei voida yliarvioida, ja jotkut ovat myös verranneet yksimielistä pornografiaa muotoon / digitaalinen raiskaus. "Kun näet syväväärennetyn seksivideon itsestäsi, tuntuu siltä kuin se olisi vartaloasi viskeraalisesti. Se on sukupuoli-identiteettisi omistaminen ilman lupaasi. Se kuulostaa kauhealta autonomian ja kehon loukkaukselta, ja se tekee tilaa päähäsi ”, hän sanoo. Patrinin mukaan syväfake-pornovideolla esiintymisellä voi olla merkittävä ja vahingollinen taloudellinen vaikutus tekijän liiketoimintamalliin mainitsemalla esimerkin merkittävästä YouTuberista, joka menetti kumppanuuden tuotemerkin kanssa sen jälkeen, kun joku lähetti syvävalevideon hänestä pornosivustolle .
Asioiden pahentamiseksi lähes kolmasosa käyttäjistä TikTok ovat alle 14-vuotiaita, yrityksen sisäisten tietojen mukaan New York Times, tehdä tästä väestöstä entistä haavoittuvampi uhalle. Kuten Liukuva kivi aiemmin raportoitu, se ei ole harvinaista alaikäisille luojille TikTok löytää heidän videonsa kokoelmavideoissa putkisivustoilta, kuten Pornhub. Liukuva kivi puhui 17-vuotiaan tytön äidin kanssa, joka huomasi yhden hänen videoistaan TikTok oli julkaistu Pornhubissa. "Hän oli järkyttynyt. Hän ei halunnut mennä takaisin kouluun", nimettömäksi jäämistä pyytänyt äiti kertoi minulle. "Hän julkaisi tämän videon hyvin viattomasti. Hän ei halunnut olla tekemisissä Pornhubin kanssa. Tämä ei ole oppitunti, jonka sinun pitäisi oppia 17-vuotiaana. (Hän sanoo, että Pornhub poisti videon välittömästi heidän pyynnöstään. Sähköpostilla osoitteeseen Vierivä kivi, Pornhub kiisti sisällön TikTok julkaistiin usein sen alustalla.)
Tämän tarinan tutkinnassa Liukuva kivi löysi yli kaksi tusinaa esimerkkejä merkittävistä luojista TikTok esiintynyt syväpornossa. Suurin osa niistä on alun perin julkaistu yhdelle harvoista verkkosivuista, jotka on omistettu yksinomaan syväväärennösten julkaisemiseen, mutta niitä ei ole myöskään vaikea löytää sosiaalisen median alustoilta, kuten Twitter ja Reddit, vaikka molemmilla alustoilla on käytäntöjä, jotka kieltävät syväväärennökset.
Twitter-tiedottaja ohjasi lausunnossaan Liukuva kivi sen käytäntöön, joka kieltää syvät väärennökset tai "intiimi valokuvat tai videot henkilöstä, jotka on tuotettu tai jaettu ilman hänen suostumustaan". Julkaisuhetkellä hän ei poistanut twiittiä, joka sisälsi syväpornografisen videon kahdelta tekijältä TikTok. Reddit, jolla on myös politiikka, joka vastustaa ei-sopimuksen mukaisten syväväärennösten julkaisemista, ei vastannut välittömästi kommenttipyyntöön.
Niitä ei myöskään ole vaikea löytää Pornhubista ja muista putkisivustoista, vaikka Pornhub kieltää myös syväpetokset. "The vain kieltivät ihmisiä merkitsemästä syväfakeja. Ihmiset voisivat silti ladata ne ja käyttää toista nimeä ”, kertoo entinen Sensity-tutkija Henry Ajder. Hän uskoo, että "sinulla todennäköisesti on jonnekin muutamassa tuhannessa" Pornhubissa.
Yksi suosituimmista verkkosivustoista deepfakes, joka Liukuva kivi kieltäytyy nimeämästä, hänellä oli yli 100 jäsenen Discord-palvelin, josta käyttäjät voivat kysyä kuuluisuuksiaan ja vaikuttajiaan TikTok suosikkeja syvän väärennöksen kohteeksi. Vaikka tällä sivustolla julkaistaan vain videoita, joissa esiintyy yli 18-vuotiaita sisällöntuottajia, yksi tämän palvelimen kysytyimmistä julkkiksista on suosittu TikTok joka täytti juuri 17. [nimi muokattu], hän on muuten 18-vuotias neljän päivän kuluttua”, eräs käyttäjä sanoi äskettäin kysyessään tekijältä. (Järjestelmänvalvoja loi videon ja julkaisi sen verkkosivustolle kaksi viikkoa sen jälkeen, kun hän täytti 4.)
Kysyttäessä palvelimesta, Discord sanoi, että se rikkoi käytäntöjä, jotka koskevat yksimielistä alastomuutta, ja poisti sen. "Erimielisyydellä on nollatoleranssi lähestymistavassa palvelujen pornoon, joka ei ole yksimielistä, ja yritys ryhtyy välittömästi toimiin, kun olemme tietoisia siitä", yrityksen edustaja sanoi. Pornografiasivuston deepfake-ilmoituksessa todetaan kuitenkin, että se "työskentelee vaihtoehtoisella palvelimella".
Siksi, miksi ihmiset luovat ensisilmää pornoa, Citronin mukaan jotkut uskovat virheellisesti, että se on lähinnä uhriton rikos. "Paha on niin kaukana ihmisistä, että se tuntuu peliltä", hän sanoi. ”Voit tehdä jonkun ruumiista oman, eikä sinun tarvitse kysyä häneltä. Syväväärennetyn pornografian ilmiö johtuu "rankaisemattomuuden kulttuurista" tai ajatuksesta, että nuorilla miehillä on oikeus tehdä mitä haluavat naisten ruumiilla.
Mutta vaikka jotkut miehet saattavat tuntea olevansa valtuutettuja tekemään mitä haluavat vaikuttajien kuvilla, Citron sanoo olevansa julkishenkilöitä, viime kädessä syväfake-pornon aiheena "kuin seksuaalinen väkivalta. "
