Výzkumníci objevili v aplikaci pro zasílání zpráv „hluboce falešný ekosystém“. Telegram soustředěný kolem robotů, kteří generují falešné akty na vyžádání. Uživatelé, kteří komunikují s těmito roboty, říkají, že primárně vytvářejí akty žen, které znají, pomocí obrázků pořízených ze sociálních médií, které pak sdílejí a vyměňují mezi sebou na různých kanálech. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Vyšetřování pochází od bezpečnostní firmy Sensity, která se zaměřuje na to, co nazývá „vizuální zpravodajství o hrozbách“, zejména na šíření deepfakes. Výzkumníci společnosti Sensity zjistili, že bylo vytvořeno a sdíleno na veřejných kanálech více než 100 000 obrázků Telegram do července 2020 (což znamená, že celkový počet vygenerovaných obrázků, včetně těch, které nebyly nikdy sdíleny, a obrázků vytvořených od července, je mnohem vyšší). Většina uživatelů těchto kanálů, přibližně 70 procent, pochází z Ruska a sousedních zemí, říká Sensity. Okraj dokázal potvrdit, že mnoho kanálů studovaných společností je stále aktivních.
Roboti jsou k použití zdarma, ale generují falešné akty s vodoznakem nebo pouze částečnou nahotou. Uživatelé pak mohou zaplatit poplatek ve výši několika centů za úplné „objevení“ obrázků. „Sazba pro začátečníky“ účtuje uživatelům 100 rublů (asi 1,28 $) za vytvoření 100 falešných aktů bez vodoznaku během sedmi dnů. Sensity říká, že "omezený počet" snímků generovaných roboty ukazuje cíle, "které se zdály být menší."
Oba Okraj a Sensity kontaktováni Telegram zeptat se, proč povolují tento obsah ve své aplikaci, ale zatím neobdrželi žádné odpovědi. Sensity tvrdí, že také kontaktovala orgány činné v trestním řízení.
Software používaný ke generování těchto obrázků je známý jako DeepNude. Poprvé se objevila na webu loni v červnu, ale její tvůrce své webové stránky během několika hodin od přijetí mainstreamových médií zavřel s tím, že „pravděpodobnost, že ji lidé zneužijí, je příliš vysoká“. Software se však nadále šířil napříč backchannels a Sensity říká, že DeepNude „bylo od té doby reverzně inženýrováno a lze jej nalézt ve vylepšených formách na open source repozitářích a torrentových webech. Nyní se používá k pohonu robotů Telegram, které automaticky zpracovávají platby za účelem generování příjmů pro jejich tvůrce.
DeepNude využívá techniku umělé inteligence známou jako generativní adversariální sítě nebo GAN ke generování falešných aktů, přičemž výsledné obrázky se liší kvalitou. Většina z nich je zjevně falešná, s rozmazaným nebo pixelovaným masem, ale některé lze snadno zaměnit za skutečné obrázky.
Již před příchodem Photoshopu lidé vytvářeli falešné, nesouhlasné akty žen. V současné době existuje mnoho fór a webů věnovaných této činnosti pomocí nástrojů jiných než AI, uživatelé sdílejí akty celebrit a lidí, které znají. Ale deepfakes vedly k rychlejšímu generování realističtějších obrázků. Nyní automatizujte tento proces pomocí robotů Telegram umožňuje generování falešných aktů stejně snadné jako odesílání a přijímání obrázků.
"Hlavním rozdílem je přístupnost této technologie," řekl Giorgio Patrini, generální ředitel společnosti Sensity a spoluautor zprávy. Okraj. „Je důležité poznamenat, že další verze základní umělé inteligence tohoto robota, zpracování a syntéza obrazu, jsou k dispozici zdarma v online úložištích kódu. Ale musíte být programátor a mít určité znalosti o počítačovém vidění, aby fungovaly, kromě výkonného hardwaru. V tuto chvíli je to všechno jedno, protože se o to stará bot integrovaný do aplikace pro zasílání zpráv.
Zpráva Sensity uvádí, že je „rozumné předpokládat“, že většina lidí používajících tyto roboty „se primárně zajímá o konzumaci hluboké falešné pornografie“ (což zůstává populární kategorie na pornografických stránkách). Ale tyto obrázky a videa lze také použít k vydírání, vydírání, obtěžování atd. Bylo jich několik zdokumentováno cas ženy, na které se zaměřují nahé postavy vytvořené umělou inteligencí, a je možné, že některé z těch, kdo vytvářejí nahé postavy pomocí robotů, Telegram čiňte tak s ohledem na tyto důvody.
Řekla Patrini Okraj že výzkumníci Sensity neviděli přímý důkaz o tom, že by výtvory robota byly použity pro tyto účely, ale uvedla, že společnost věří, že se to děje. Dodal, že i když byla politická hrozba deepfakes „špatně spočítána“ („z pohledu pachatelů je jednodušší a levnější obrázky ve Photoshopu a dosáhnout podobného dopadu při šíření dezinformací s menším úsilím“), je jasné, tato technologie představuje „sériovou hrozbu pro osobní pověst a bezpečnost“.
