Zeszłego lata ukazał się film pornograficzny wybitnego twórcy TikTok zrobiło się wirusowo w mediach społecznościowych. Zrzut ekranu wideo na TikTok poszłam na konto na Instagramie @tiktokroom, opatrzony komentarzem twórcy, którego twarz została opublikowana w filmie. „To deepfake, ale moi rodzice korzystający z tej aplikacji, spokojnie” – powiedział twórca. (Rolling Stone nie wymienia tego twórcy ani żadnego innego twórcy, o którym mowa w tej historii, ponieważ filmy zostały opublikowane bez ich zgody).
Deepfake to cyfrowo zmanipulowane wideo, które wykorzystuje technologię sztucznej inteligencji do zamiany twarzy osoby (często, ale nie zawsze, celebryty) na ciało innej osoby, zwykle bez jej zgody. Duża część uwagi mediów na temat deepfake'ów skupiła się na ich potencjale szerzenia dezinformacji, szczególnie w związku z kampanią polityczną lub wyborami, jako Opracowany klip Nancy Pelosi który w zeszłym roku stał się wirusowy na Facebooku. Jednak zdecydowana większość deepfake – 96%, według badań przeprowadzonych w 2019 r. przez firmę Sensity zajmującą się sztuczną inteligencją – ma charakter pornograficzny i jest wykorzystywana do atakowania kobiet.
W przeszłości technologia deepfake była używana przede wszystkim do tworzenia nagich lub erotycznych zdjęć, w szczególności celebrytek. Częściowo wynika to z tego, że do tworzenia modeli deepfake potrzebujesz tysięcy zdjęć lub kilku minut materiału wideo, aby wykonać dobrą robotę, mówi Giorgio Patrini, założyciel i dyrektor generalny Sensity.
Ale technologia stała się bardziej dostępna i mniej złożona, z przerażającymi wynikami. W zeszłym tygodniu Sensity opublikował raport o bocie AI AI w aplikacji do zaszyfrowanych wiadomości Telegram wykorzystywane do tworzenia nagich lub o charakterze seksualnym zdjęć setek tysięcy kobiet bez ich zgody. W przeciwieństwie do innych programów używanych do tworzenia filmów typu deepfake, bot wymagał jedynie użycia zdjęcia w celu przedstawienia nagich kobiet, co doprowadziło do coraz częstszego atakowania kobiet i dziewcząt niebędących gwiazdami. To samo dotyczy wpływowych osób na platformach takich jak Instagram i TikTok. „To platforma wideo, więc w rzeczywistości zapewnia więcej materiału [do tworzenia deepfake’ów]” – mówi Patrini. „Te osoby są bardziej narażone na ryzyko, niż gdyby po prostu przesyłały zdjęcia. »
Danielle Citron, profesor prawa w Boston University Law School i wiceprezes Cyber Civil Rights Initiative, mówi, że psychologiczny wpływ pojawienia się w pornograficznym filmie deepfake jest nie do przecenienia, a niektórzy porównują również nieprzychylną pornografię do formy z gwałt cyfrowy. „Kiedy widzisz swój deepfake seks wideo, masz wrażenie, że to twoje ciało. Jest to przywłaszczenie twojej tożsamości płciowej bez twojej zgody. Brzmi jak straszne naruszenie autonomii i ciała, i robi miejsce w twojej głowie ”- mówi. Według Patrini, pojawienie się w filmie porno z deepfake może mieć znaczący i szkodliwy wpływ finansowy na model biznesowy twórcy, powołując się na przykład znanego YouTubera, który stracił partnerstwo z marką po tym, jak ktoś umieścił jej film z deepfake na stronie porno. .
Co gorsza, prawie jedna trzecia użytkowników TikTok mają mniej niż 14 lat, zgodnie z wewnętrznymi danymi firmy zweryfikowanymi przez New York Times czyniąc tę populację jeszcze bardziej podatną na zagrożenie. Tak jak Rolling Stone jak już wcześniej informowaliśmy, nierzadko zdarza się, że pomniejsi twórcy TikTok znajdź ich filmy opublikowane w kompilacjach na stronach z kanałami, takimi jak Pornhub. Rolling Stone rozmawiał z matką 17-letniej dziewczyny, która odkryła ten jeden z jej filmów TikTok został opublikowany na Pornhubie. „Była upokorzona. Nie chciała wracać do szkoły” – powiedziała mi matka, która prosiła o zachowanie anonimowości. „Opublikowała ten film bardzo niewinnie. Nie chciała wiązać się z Pornhubem. To nie jest lekcja, której powinieneś się nauczyć w wieku 17 lat. (Mówi, że Pornhub natychmiast usunął film na swoją prośbę. W e-mailu na adres Toczący się kamień, Pornhub zaprzeczył, że treść TikTok był często publikowany na jego platformie.)
W naszym śledztwie dotyczącym tej historii Rolling Stone Znaleziono ponad dwa tuziny przykładów wybitnych twórców TikTok występujące w deepfake porno. Większość z nich jest początkowo publikowana na jednym z nielicznych serwisów poświęconych wyłącznie publikowaniu deepfakes, ale nietrudno je też znaleźć na platformach mediów społecznościowych, takich jak Twitter i Reddit, chociaż obie Platformy mają politykę zabraniającą deepfakes.
W oświadczeniu wyreżyserował rzecznik Twittera Rolling Stone do swojej polityki zakazującej deepfakes, czyli wszelkich „intymnych zdjęć lub filmów przedstawiających osobę, które zostały wyprodukowane lub rozpowszechnione bez jej zgody”. W momencie publikacji nie usunął tweeta zawierającego fałszywy film pornograficzny autorstwa dwóch twórców TikTok. Reddit, który również ma politykę zakazującą publikowania deepfake'ów bez zgody, nie odpowiedział natychmiast na prośbę o komentarz.
Nie jest też trudno je znaleźć na Pornhub i innych witrynach z kanałami, chociaż Pornhub zabrania również deepfake. „Tpo prostu zabronili ludziom oznaczania deepfake'ami. Ludzie nadal mogliby je pobrać i używać innej nazwy ”- mówi były badacz Sensity Henry Ajder. Uważa, że „prawdopodobnie masz gdzieś na kilka tysięcy” deepfake na Pornhub.
Jedna z najpopularniejszych stron internetowych dla deepfake, która, Rolling Stone nie chce podać nazwy, miał serwer Discord z ponad 100 członkami, na którym użytkownicy mogli zadawać pytania swoim celebrytom i wpływowym osobom TikTok faworytów jako obiekt deepfake'a. Chociaż na tej stronie publikowane są wyłącznie filmy przedstawiające twórców, którzy ukończyli 18 lat, jedną z najczęściej poszukiwanych gwiazd na tym serwerze jest popularny twórca TikTok który właśnie skończył 17 lat. [imię zredagowano], tak na marginesie, za 18 dni skończy 4 lat” – powiedział niedawno jeden z użytkowników, pytając twórcę. (Administrator nakręcił film i umieścił go na stronie internetowej dwa tygodnie po tym, jak skończyła 18 lat.)
Zapytany o serwer, Discord powiedział, że naruszył swoje zasady dotyczące nieobowiązkowej nagości i usunął go. „Discord ma zerową tolerancję wobec pornografii bez zgody w serwisie, a firma podejmuje natychmiastowe działania, gdy dowiadujemy się o tym” – powiedział rzecznik firmy. Jednak informacja na stronie z pornografią deepfake stwierdza, że "działa na alternatywnym serwerze".
Jeśli chodzi o to, dlaczego ludzie tworzą deepfake porno, Citron mówi, że niektórzy błędnie uważają, że jest to zasadniczo przestępstwo bez ofiar. „Zło jest tak odległe od ludzi, że wydaje się, że jest to gra” – powiedziała. „Możesz zrobić własne ciało i nie musisz ich o to prosić. Fenomen pornografii deepfake wywodzi się z „kultury bezkarności”, czyli idei, że młodzi mężczyźni mają prawo robić z kobiecymi ciałami, co tylko chcą.
Ale podczas gdy niektórzy mężczyźni mogą czuć się upoważnieni do robienia wszystkiego, co chcą z obrazami wpływowych osób, będąc osobami publicznymi, ostatecznie będącymi przedmiotem podróbek porno, Citron mówi, „jak napaść na tle seksualnym. "
