Minulé léto, pornografické video od významného tvůrce TikTok se stal virálním na sociálních sítích. Snímek obrazovky z videa na TikTok přešel na účet Instagram @tiktokpokoj, doplněný komentářem od tvůrce, jehož tvář byla ve videu zveřejněna. "Je to hluboký fake, ale přesto, moji rodiče na této aplikaci, odpočívejte," řekl tvůrce. (Rolling stone nepojmenovává tohoto tvůrce ani žádného jiného autora uvedeného v tomto příběhu z důvodu, že videa byla zveřejněna bez jejich souhlasu.)
Deepfake je digitálně manipulované video, které pomocí technologie umělé inteligence vyměňuje tvář člověka (často, ale ne vždy, celebrity) za tělo jiné osoby, obvykle bez jeho souhlasu. Velká část pozornosti médií se zaměřila na jejich padělání, zejména pokud jde o šíření dezinformací, zejména v souvislosti s politickou kampaní nebo volbami Doktorský klip Nancy Pelosi který se minulý rok stal virálním na Facebooku. Drtivá většina padělání - 96%, podle výzkumu z roku 2019 od společnosti Sensity - je pornografická a používá se k cílení na ženy.
V minulosti se technologie deepfake primárně používala k vytváření nahých nebo sexuálně explicitních obrazů zejména ženských celebrit. Součástí toho je, že k vytvoření hlubokých modelů potřebujete tisíce fotografií nebo několik minut videozáznamu, abyste mohli dělat dobrou práci, říká Giorgio Patrini, zakladatel a generální ředitel společnosti Sensity.
Tato technologie se ale stala přístupnější a méně složitou s děsivými výsledky. Minulý týden, Hustota zveřejnil zprávu o robotovi AI v aplikaci pro šifrované zasílání zpráv Telegram používá k vytváření nahých nebo sexuálně explicitních obrázků stovek tisíc žen bez jejich souhlasu. Na rozdíl od jiného softwaru používaného k vytváření hluboce falešných videí bot vyžadoval pouze použití fotografie k zobrazení nahých žen, což vedlo k rostoucímu cílení na ženy a dívky, které nejsou celebritami. Totéž platí pro influencery na platformách jako Instagram a TikTok. „Je to platforma založená na videu, takže ve skutečnosti poskytuje více materiálu [k vytváření deepfakes],“ říká Patrini. „Tito lidé jsou vystaveni většímu riziku, než kdyby jen nahrávali fotografie. »
Danielle Citron, profesorka práva na Boston University Law School a viceprezidentka iniciativy Cyber Civil Rights Initiative, říká, že psychologický dopad objevování se v pornografickém videu s hlubokým uměním nelze přeceňovat a někteří také srovnávají pornografii bez souhlasu s formou z digitální znásilnění. "Když vidíš hluboko falešné video ze sebe, máš pocit, že je to tvoje tělo viscerálně." Jedná se o přivlastnění vaší genderové identity bez vašeho svolení. Zní to jako hrozné narušení autonomie a těla a dělá vám to místo v hlavě, “říká. Podle Patrini může mít vystoupení v pornografickém videu s hlubokým pornografií významný a nepříznivý finanční dopad na obchodní model tvůrce, s odvoláním na příklad prominentního YouTubera, který ztratil partnerství se značkou poté, co někdo na pornografické stránce zveřejnil její hluboké video.
Aby toho nebylo málo, téměř třetina uživatelů TikTok jsou mladší 14 let, podle interních údajů společnosti přezkoumaných New York Times, což činí tuto populaci ještě zranitelnější vůči této hrozbě. Tak jako Rolling stone dříve hlášeno, to není neobvyklé pro drobné tvůrce TikTok najdete jejich videa zveřejněná v kompilačních videích na stránkách trubek, jako je Pornhub. Rolling stone mluvila s matkou 17leté dívky, která objevila jedno z jejích videí TikTok byla zveřejněna na Pornhubu. "Byla znechucená. Nechtěla se vrátit do školy,“ řekla mi matka, která chtěla zůstat v anonymitě. „Toto video zveřejnila velmi nevinně. Nechtěla se zaplést s Pornhubem. Toto není lekce, kterou byste se měli naučit v 17. (Říká, že Pornhub okamžitě odstranil video na jejich žádost. V e-mailu na Valící se kámen, Pornhub popřel, že by obsah TikTok byl často zveřejňován na její platformě.)
Při našem vyšetřování tohoto příběhu Rolling stone našli více než dvě desítky příkladů významných tvůrců TikTok vystupoval v deepfake pornu. Většina z nich je zpočátku zveřejněna na jedné z mála webových stránek věnovaných výhradně publikování deepfakes, ale také není těžké je najít na platformách sociálních médií, jako je Twitter a Reddit, ačkoli obě platformy mají zásady zakazující deepfakes.
V prohlášení nařídil mluvčí Twitteru Rolling stone k jeho zásadám zakazujícím deepfakes nebo jakékoli „intimní fotografie nebo videa někoho, které byly vytvořeny nebo distribuovány bez jeho souhlasu“. V době zveřejnění nesmazal tweet obsahující hluboce falešné pornografické video od dvou tvůrců TikTok. Reddit, který má také politiku proti zveřejňování nekonsensuálních deepfakes, na žádost o komentář okamžitě neodpověděl.
Také není těžké je najít na Pornhubu a dalších webech s trubicemi, ačkoli Pornhub také zakazuje hluboké padělání. „Tprostě zakázali lidem označovat hluboké podvody. Lidé si je stále mohli stáhnout a použít jiné jméno, “říká bývalý výzkumník Sensity Henry Ajder. Počítá s tím, že „pravděpodobně máte někde za těch pár tisíc“ hluboké podvody na Pornhubu.
Jeden z nejpopulárnějších webů pro deepfakes, který Rolling stone odmítá jmenovat, měl Discord server s více než 100 členy, kde se uživatelé mohli ptát svých celebrit a influencerů TikTok oblíbené být předmětem deepfake. Přestože tento web zveřejňuje pouze videa s tvůrci staršími 18 let, jednou z nejžádanějších celebrit na tomto serveru je oblíbený tvůrce TikTok kterému právě bylo 17. [jméno upraveno], mimochodem, za 18 dny jí bude 4,“ řekl nedávno jeden uživatel na otázku tvůrce. (Administrátor natočil video a umístil ho na web dva týdny poté, co dosáhla 18 let.)
Když byl dotázán na server, Discord uvedl, že porušil své zásady týkající se nedobrovolné nahoty a odstranil jej. „Společnost Discord uplatňuje ve službě nulovou toleranci k pornografii bez souhlasu a společnost přijme okamžitá opatření, jakmile se o ní dozvíme,“ řekl mluvčí společnosti. Oznámení na pornografickém webu deepfake však uvádí, že „pracuje na alternativním serveru“.
Pokud jde o to, proč lidé vytvářejí na prvním místě deepfake porno, Citron říká, že někteří se mylně domnívají, že jde v podstatě o zločin bez obětí. "Zlo je tak daleko od lidí, že se cítí jako hra," řekla. "Můžete si něčí tělo přizpůsobit svým vlastním a nemusíte se ho ptát." Fenomén hluboké falešné pornografie vychází z „kultury beztrestnosti“ nebo z myšlenky, že mladí muži mají právo dělat s těly žen cokoli chtějí.
Ale zatímco někteří muži se mohou cítit oprávněni dělat si s obrázky vlivných lidí, co chtějí, být veřejnými osobnostmi, v konečném důsledku předmětem hlubokého porna, Citron říká: „jako sexuální útok. "
