Tavaly nyáron egy pornográf videó a film egyik prominens alkotójától TikTok vírusos lett a közösségi médiában. Képernyőkép a bekapcsolt videóról TikTok belépett az Instagram fiókba @tiktokszobába, annak az alkotónak a megjegyzése kíséretében, akinek az arca megjelent a videóban. „Ez egy mélyhamisítás, de a szüleim ezzel az alkalmazással, nyugi” – mondta az alkotó. (Gördülő kő nem nevezi meg ezt az alkotót vagy más, a történetben hivatkozott alkotót azzal az indokkal, hogy a videókat beleegyezésük nélkül tették közzé.)
A deepfake egy digitálisan manipulált videó, amely mesterséges intelligencia technológiával cseréli az ember arcát (gyakran, de nem mindig egy hírességet) egy másik ember testére, általában beleegyezésük nélkül. A média nagy része a mélyhamisításokra összpontosította a dezinformáció terjesztésének lehetőségeit, különösen egy politikai kampány vagy választás kapcsán, Nancy Pelosi doktor klipje amely tavaly vírussá vált a Facebookon. A mélyhamisítások túlnyomó része - a Sensity mesterséges intelligencia cég 96-es kutatása szerint - 2019% -a pornográf és a nők megcélzására szolgál.
Korábban a deepfake technológiát elsősorban női hírességek meztelen vagy szexuális jellegű képeinek létrehozására használták. Ennek része, mert a mélyhamis modellek létrehozásához több ezer fényképre vagy több percnyi videofelvételre van szükség a jó munka érdekében - mondja Giorgio Patrini, a Sensity alapítója és vezérigazgatója.
De a technológia hozzáférhetőbbé és kevésbé összetetté vált, félelmetes eredménnyel. Múlt héten az Érzékenység jelentést tett közzé egy AI botról titkosított üzenetküldő alkalmazásban Telegram több százezer nőről készült meztelen vagy szexuális tartalmú képek készítésére használták a beleegyezésük nélkül. Más, mélyhamisított videók készítésére használt szoftverekkel ellentétben a botnak csak egy fényképet kellett használnia a meztelen nők ábrázolásához, ami a nem híres nők és lányok egyre nagyobb megcélzásához vezetett. Ugyanez vonatkozik az influencerekre is olyan platformokon, mint az Instagram és TikTok. "Ez egy videó alapú platform, így valójában több anyagot biztosít [a mélyhamisításhoz]" - mondja Patrini. „Ezek az emberek nagyobb kockázatnak vannak kitéve, mintha csak fotókat töltenének fel. »
Danielle Citron, a Boston University Law School jogászprofesszora és a Cyber Civil Rights Initiative alelnöke szerint a pornográf deepfake videóban való megjelenés pszichológiai hatásait nem lehet túlbecsülni, és egyesek a nem egyetértés nélküli pornográfiát is egy formához hasonlítják nak,-nek digitális nemi erőszak. „Amikor meglát egy mély hamis szexvideót magáról, úgy érzi, mintha a teste lenne zsigeri úton. Ez a nemi identitásod jóváhagyása az engedélyed nélkül. Ez az autonómia és a test szörnyű megsértésének hangzik, és helyet ad a fejedben ”- mondja. Patrini szerint a deepfake pornó videóban való megjelenés jelentős és káros pénzügyi hatással lehet az alkotó üzleti modelljére, egy prominens YouTuber példájára hivatkozva, aki elvesztette partnerségét egy márkával, miután valaki mélyhamis videót tett közzé róla egy pornó oldalon .
Tovább ront a helyzeten, felhasználóinak csaknem egyharmada TikTok 14 év alattiak, a társaság által felülvizsgált belső adatok szerint New York Times, ezzel a lakosságot még kiszolgáltatottabbá téve a fenyegetés szempontjából. Mint Gördülő kő Korábban beszámoltunk róla, nem ritka a kisebb alkotók körében TikTok megtalálja a videóikat összeállítási videókban közzétéve olyan csőoldalakon, mint a Pornhub. Gördülő kő beszélt egy 17 éves lány édesanyjával, aki felfedezte, hogy az egyik videója TikTok megjelent a Pornhubon. „Elégedett volt. Nem akart visszamenni az iskolába” – mondta nekem az anya, aki elhallgatását kérte. „Nagyon ártatlanul tette közzé ezt a videót. Nem akart a Pornhubhoz keveredni. Ez nem olyan lecke, amit 17 évesen meg kell tanulnod. (Azt mondja, hogy a Pornhub kérésükre azonnal eltávolította a videót. E-mailben Guruló kő, Pornhub tagadta, hogy a tartalom TikTok gyakran megjelent a platformján.)
Ennek a történetnek a nyomozása során Gördülő kő több mint két tucat példát talált a kiemelkedő alkotókra TikTok mélyhamis pornóban szerepelt. A legtöbbjük kezdetben azon kevés webhelyek egyikén jelenik meg, amelyek kizárólag a mélyhamisítások közzétételével foglalkoznak, de nem nehéz megtalálni azokat a közösségi média platformokon, mint a Twitter és a Reddit, bár mindkét platformon tiltják a mélyhamisítást.
Nyilatkozatában a Twitter szóvivője irányította Gördülő kő irányelve szerint, amely tiltja a mélyhamisítást, vagy bármely „valakiről készült intim fotókat vagy videókat, amelyeket az ő beleegyezése nélkül készítettek vagy terjesztettek”. A közzétételkor nem törölt egy tweetet, amely mélyhamisított pornográf videót tartalmazott két alkotótól. TikTok. A Reddit, amely szintén tiltja a nem konszenzusos mélyhamisítások közzétételét, nem válaszolt azonnal a megjegyzéskérésre.
A Pornhub és más tubusok oldalain sem nehéz megtalálni őket, bár a Pornhub tiltja a mélyhamisításokat is. "Tcsak megtiltották az embereknek a mélyhamisítások címkézését. Az emberek továbbra is letölthetik őket, és más nevet használhatnak ”- mondja Henry Senser, a Sensity volt kutatója. Úgy véli, hogy "valószínűleg van valahol a néhány ezer" mélyhamisítás a Pornhubon.
Az egyik legnépszerűbb weboldal a mélyhamisításokhoz, amely Gördülő kő nem hajlandó megnevezni, volt egy Discord szervere több mint 100 taggal, ahol a felhasználók megkérdezhették hírességeiket és befolyásolóikat TikTok kedvencek, hogy mélyhamisítás alanyai legyenek. Bár ez a webhely csak olyan videókat tesz közzé, amelyeken 18 éven felüli alkotók szerepelnek, az egyik legkeresettebb híresség ezen a szerveren a TikTok aki most töltötte be a 17. életévét. [név szerkesztve], egyébként 18 nap múlva lesz 4 éves” – mondta nemrég egy felhasználó egy alkotótól. (Az adminisztrátor készítette a videót, és két héttel azután tette fel a weboldalra, hogy betöltötte a 18. életévét.)
Amikor a szerverről kérdezték, a Discord azt mondta, hogy megsértette a nem konszenzusos meztelenségre vonatkozó irányelveit, és eltávolította azt. "A diszkord zéró toleranciát alkalmaz a nem konszenzusos pornográfiával kapcsolatban a szolgáltatásban, és a vállalat azonnal intézkedik, amikor tudomást szerezünk róla" - mondta a cég szóvivője. A pornográf weboldalon található deepfake közlemény ugyanakkor kijelenti, hogy "egy alternatív szerveren dolgozik".
A Citron szerint egyesek tévesen úgy vélik, hogy ez lényegében áldozatok nélküli bűncselekmény. "A gonosz annyira távol áll az emberektől, hogy játéknak érzi magát" - mondta. - Valakinek a testét sajátjává teheti, és nem kell kérdeznie tőle. A mély hamis pornográfia jelensége a "büntetlenség kultúrájából" fakad, vagy az az elképzelés, hogy a fiatal férfiaknak joguk van a nők testével bármit megtenni.
De bár egyes férfiak felhatalmazást éreznek arra, hogy bármit megtegyenek az influencerek képeivel, közéleti személyiségek, végső soron a mélyhamis pornó témája, Citron szerint "mint egy szexuális erőszak. "
