Viime kesänä pornografinen video tunnetulta tekijältä TikTok levisi sosiaalisessa mediassa. Kuvakaappaus videosta TikTok meni Instagram-tilille @tiktokroom, accompagnée d’un commentaire du créateur dont le visage a été publié dans la vidéo. « C’est un deepfake mais quand même, mes parents sur cette application, détendez-vous », a déclaré le créateur. (Liukuva kivi ei nimeä tätä tekijää tai muuta tässä tarinassa mainittua tekijää sillä perusteella, että videot on lähetetty ilman heidän suostumustaan.)
Deepfake on digitaalisesti manipuloitu video, joka käyttää tekoälyteknologiaa yhden henkilön (usein, mutta ei aina, julkkiksen) kasvojen vaihtamiseen toisen henkilön vartaloon, yleensä ilman hänen suostumustaan. Suuri osa tiedotusvälineiden huomiosta syväväärennöksiä kohtaan on keskittynyt niiden mahdollisuuksiin levittää disinformaatiota, erityisesti liittyen poliittiseen kampanjaan tai vaaleihin, kuten eräs Nancy Pelosin tohtoroitu leike joka levisi Facebookissa viime vuonna. Silti valtaosa syväväärennöksistä – 96 %, tekoälyyrityksen Sensityn vuoden 2019 tutkimuksen mukaan – ovat pornografisia ja niitä käytetään naisten kohteeksi.
Aiemmin deepfake-tekniikkaa käytettiin pääasiassa alastomien tai seksuaalisten kuvien luomiseen tietyistä naisjulkkiksista. Tämä johtuu osittain siitä, että syväfake-mallien luomiseen tarvitaan tuhansia valokuvia tai useita minuutteja videomateriaalia tehdäksesi hyvää työtä, sanoo Giorgio Patrini, Sensityn perustaja ja toimitusjohtaja.
Mutta teknologiasta on tullut helpompaa ja vähemmän monimutkaisempaa, ja tulokset ovat pelottavia. Viime viikko, Sensity julkaisi raportin tekoäly botista salatussa viestintäsovelluksessa Telegram utilisée pour créer des images nues ou sexuellement explicites de centaines de milliers de femmes sans leur consentement. Contrairement à d’autres logiciels utilisés pour créer des vidéos deepfake, le bot n’a requis que l’utilisation d’une photo pour représenter les femmes nues, ce qui a conduit à cibler de plus en plus les femmes et les filles non célèbres. Il en va de même des influenceurs sur des plateformes comme Instagram et TikTok. « C’est une plate-forme basée sur la vidéo, donc elle fournit en fait plus de matériel [to make deepfakes], dit Patrini. « Ces personnes sont plus exposées que s’ils ne faisaient que télécharger des photos. »
Bostonin yliopiston oikeustieteellisen tiedekunnan oikeustieteen professori ja Cyber Civil Rights Initiativen varapuheenjohtaja Danielle Citron sanoo, että pornografisessa syvävalevideossa esiintymisen psykologisia vaikutuksia ei voida yliarvioida, ja jotkut ovat myös verranneet yksimielistä pornografiaa muotoon / digitaalinen raiskaus. ”Kun näet syvän seksivideon itsestäsi, sinusta tuntuu, että se on kehosi. Se on seksuaalisen identiteettisi haltuunottoa ilman lupaasi. Se tuntuu hirveältä autonomian ja kehon loukkaukselta, ja se tekee tilaa päähän", hän sanoo. Patrinin mukaan deepfake-pornovideossa esiintymisellä voi olla merkittävä ja haitallinen taloudellinen vaikutus sisällöntuottajan liiketoimintamalliin. Hän mainitsee esimerkin korkean profiilin YouTubesta, joka menetti kumppanuuden brändin kanssa sen jälkeen, kun joku julkaisi hänestä syvän fake-videon pornosivusto.
Asioiden pahentamiseksi lähes kolmasosa käyttäjistä TikTok ovat alle 14-vuotiaita, yrityksen sisäisten tietojen mukaan New York Times, tekee tästä väestöstä entistä haavoittuvaisemman uhalle. Kuten Liukuva kivi aiemmin raportoitu, se ei ole harvinaista alaikäisille luojille TikTok löytää heidän videonsa kokoelmavideoissa putkisivustoilta, kuten Pornhub. Liukuva kivi puhui 17-vuotiaan tytön äidin kanssa, joka huomasi yhden hänen videoistaan TikTok avait été publiée sur Pornhub. « Elle était mortifiée. Elle ne voulait pas retourner à l’école », m’a dit la mère, qui a demandé à garder l’anonymat. «Elle a posté cette vidéo très innocemment. Elle ne voulait pas s’impliquer avec Pornhub. Ce n’est pas une leçon que vous devriez avoir à apprendre à 17 ans. (Elle dit que Pornhub a immédiatement retiré la vidéo à leur demande. Dans un e-mail à Vierivä kivi, Pornhub kiisti sisällön TikTok julkaistiin usein sen alustalla.)
Tämän tarinan tutkinnassa Liukuva kivi löysi yli kaksi tusinaa esimerkkejä merkittävistä luojista TikTok présentés dans du porno deepfake. La plupart d’entre eux sont initialement publiés sur l’un des rares sites Web consacrés exclusivement à la publication de deepfakes, mais ils ne sont pas non plus difficiles à trouver sur les plateformes de médias sociaux comme Twitter et Reddit, même si les deux plateformes ont des politiques interdisant les deepfakes.
Twitter-tiedottaja ohjasi lausunnossaan Liukuva kivi à sa politique interdisant les deepfakes, ou toutes « photos ou vidéos intimes de quelqu’un qui ont été produites ou distribuées sans son consentement ». Au moment de la publication, il n’a pas supprimé un tweet contenant une vidéo pornographique deepfake de deux créateurs de TikTok. Reddit, qui a également une politique contre la publication de deepfakes non consensuels, n’a pas immédiatement répondu à la demande de commentaires.
Niitä ei myöskään ole vaikea löytää Pornhubista ja muilta putkisivustoilta, vaikka Pornhub kieltää myös syväväärennökset. "The vain kielsivät ihmisiä leimaamasta syväväärennöksiä. Ihmiset voivat aina ladata ne ja käyttää eri nimeä", sanoo entinen Sensity-tutkija Henry Ajder. Hän arvioi, että "sinulla on luultavasti jossain muutamassa tuhannessa" syväväärennöksiä Pornhubissa.
Yksi suosituimmista verkkosivustoista deepfakes, joka Liukuva kivi kieltäytyy nimeämästä, hänellä oli yli 100 jäsenen Discord-palvelin, josta käyttäjät voivat kysyä kuuluisuuksiaan ja vaikuttajiaan TikTok préférés de faire l’objet d’un deepfake. Bien que ce site Web ne publie que des vidéos mettant en vedette des créateurs de plus de 18 ans, l’une des célébrités les plus demandées sur ce serveur est un créateur populaire de TikTok qui vient d’avoir 17 ans. [name redacted], en passant, elle aura 18 ans dans 4 jours », a récemment déclaré un utilisateur, demandant à un créateur. (L’administrateur a réalisé la vidéo et l’a publiée sur le site Web deux semaines après ses 18 ans.)
Kysyttäessä palvelimesta Discord sanoi, että se rikkoi sen käytäntöjä, jotka koskevat ei-suostumusta alastomuutta, ja poisti sen. "Discordilla on nollatoleranssi palvelussa olevaan ei-konsensuspornografiaan, ja yritys ryhtyy välittömästi toimiin, kun saamme sen tietoomme", yhtiön tiedottaja sanoi. Deepfake pornografiasivuston arvostelussa kuitenkin todetaan, että se "toimii vaihtoehtoisella palvelimella".
Mitä tulee siihen, miksi ihmiset ylipäätään luovat syvää fake-pornoa, Citron sanoo, että jotkut uskovat virheellisesti, että se on pohjimmiltaan uhriton rikos. "Pahuus on niin kaukana ihmisistä, että se tuntuu peliltä", hän sanoo. ”Voit ottaa jonkun ruumiin haltuunsa, eikä sinun tarvitse kysyä heiltä. Deepfake-pornografian ilmiö johtuu "rankaisemattomuuden kulttuurista" tai ajatuksesta, että nuorilla miehillä on oikeus tehdä naisten ruumiillaan mitä haluavat.
Mutta vaikka jotkut miehet saattavat tuntea olevansa valtuutettuja tekemään mitä haluavat vaikuttajien kuvilla, Citron sanoo olevansa julkishenkilöitä, viime kädessä syväfake-pornon aiheena "kuin seksuaalinen väkivalta. "
