Cloudová platforma pro zasílání zpráv Telegram je semeništěm pornografických deepfakes, podle bezpečnostního vyšetřování provedeného Sensity. Analýza popisuje end-to-end šifrovaný messenger jako „deepfake ekosystém“, kde jsou roboti schopni proměnit každodenní fotografie lidí na „nahý“ obsah, zejména žen.
Tito roboti jsou poháněni umělou inteligencí, společností Sensity, a provádějí „svlékací“ akce na fotografii bez oblečení, často za účelem veřejného ponížení a vydírání. Společnost popisuje
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
tento proces jako druh editační funkce, kterou mohou snadno používat majitelé chytrých telefonů a tradičních počítačů. Jediné, co musí udělat, je chytit fotku ze své osobní galerie obrázků a umožnit robotům vygenerovat deepfake. Tyto fotografie mohou pocházet odkudkoli a odkudkoli na internetu.
Co našla Sensity - Zde jsou hlavní závěry Sensity:
- Společnost objevila roboty, které vytvářejí obrazy, které dosud zacílily na 104 852 žen.
- Tyto obrázky se poté šířily po celé platformě až do konce července tohoto roku.
- Jen za poslední tři měsíce se tyto hluboké podvody zvýšily o 198%.
- Nejméně 70 procent cílených vidělo své pošírované obrázky na sociálních médiích nebo jiných soukromých zdrojích.
- Některé z těchto obětí byly nezletilé.
- Demograficky to společnost zjistila Telegram obdržel reklamu z ruského webu VK, zatímco deepfake bot získal 101 080 lidí, aby se zúčastnili. Aby se situace ještě zhoršila, roboti fungují zdarma. Uživatelé nemusí platit nic, pokud nechtějí vodoznak odstranit, což trvá maximálně 1,50 $.
Jak tito roboti fungují - V předchozích zprávách Příspěvek vysvětlil, jak jsou roboti schopni generovat své vlastní obrázky z originálních zdrojů, jako jsou fotografie a videa. V případě deepfake botů z Telegram, tito boti se spoléhají na dříve zmíněné generativní adversariální sítě. Odstraňují původní obrázek oblečené ženy pro „realistické přiblížení“ anatomie jednotlivce.
Tento typ syntézy závisí na schopnosti robota efektivně odhadnout jednotlivé části těla a výšku. Samozřejmě, aby to fungovalo „dokonale“, jsou tito roboti trénováni na velkém množství vizuálních dat týkajících se ženských těl.
To je špatná zpráva pro Telegram. Síť už má pochybnou pověst díky bílým rasistům, kteří často používají messenger. Nyní, když roboti vytvářejí falešné akty s nic netušícími lidmi, včetně nezletilých, program pro zasílání zpráv pouze upevňuje svou image jako hluboce kompromitované platformy.
