A kutatók „mélyen hamisított ökoszisztémát” fedeztek fel az üzenetküldő alkalmazásban Telegram olyan robotok köré összpontosul, amelyek igény szerint hamis aktokat generálnak. Az ezekkel a robotokkal interakcióba lépő felhasználók azt mondják, hogy elsősorban a közösségi médiából vett képek segítségével készítenek aktokat ismert nőkről, amelyeket aztán megosztanak és kicserélnek egymással különböző csatornákon. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
A nyomozás a Sensity biztonsági cégtől származik, amely az általa "vizuális fenyegetésekkel kapcsolatos intelligenciára" összpontosít, különösen a mélyhamisítások terjedésére. A Sensity kutatói megállapították, hogy több mint 100 000 képet hoztak létre és osztottak meg nyilvános csatornákon Telegram 2020 júliusáig (ami azt jelenti, hogy a generált képek teljes száma, beleértve a soha meg nem osztottakat és a július óta készülteket is, sokkal magasabb). A Sensity szerint ezeknek a csatornáknak a legtöbb felhasználója, mintegy 70 százaléka Oroszországból és a szomszédos országokból érkezik. A szél megerősíteni tudta, hogy a vállalat által vizsgált számos csatorna továbbra is aktív.
A botok ingyenesen használhatók, de hamis aktokat generálnak vízjelekkel vagy csak részleges meztelenséggel. A felhasználók ezután néhány centnek megfelelő díjat fizethetnek a képek teljes „felfedezéséért”. A „kezdő díj” 100 rubelt (körülbelül 1,28 dollárt) számít fel a felhasználóknak, hogy hét nap alatt 100 hamis aktot hozzanak létre vízjel nélkül. A Sensity azt állítja, hogy a robotok által generált képek „korlátozott száma” olyan célpontokat tartalmaz, amelyek „kisebbnek tűntek”.
Mindkettő A szél és Sensity felvette a kapcsolatot Telegram megkérdezni, miért engedélyezik ezt a tartalmat az alkalmazásukban, de még nem kaptak választ. A Sensity azt állítja, hogy felvette a kapcsolatot a bűnüldöző hatóságokkal is.
A képek létrehozásához használt szoftver DeepNude néven ismert. Tavaly júniusban jelent meg először az interneten, de készítője néhány órán belül bezárta webhelyét a fősodratú médiavisszhangot követően, mondván "túl nagy a valószínűsége annak, hogy az emberek visszaélnek vele". A szoftver azonban továbbra is elterjedt a hátsó csatornákon, és a Sensity szerint a DeepNude "azóta vissza lett tervezve, és továbbfejlesztett formában megtalálható nyílt forráskódú tárolókban és torrent webhelyeken." Ma már robotok meghajtására használják Telegram, amelyek automatikusan kezelik a kifizetéseket, hogy bevételt generáljanak alkotóik számára.
A DeepNude a generatív ellenséges hálózatok (GAN) néven ismert mesterséges intelligencia technikát használja hamis aktok generálására, amelyekben a képek minősége változó. A legtöbb nyilvánvalóan hamis, elkenődött vagy pixeles húsú, de néhányat könnyen összetéveszthetünk valódi képekkel.
A Photoshop megjelenése előtt az emberek beleegyezés nélkül készítenek hamis nőket. Jelenleg számos fórum és webhely foglalkozik ezzel a tevékenységgel, nem mesterséges intelligencia eszközöket használva, és a felhasználók hírességek és ismert emberek aktjait osztják meg. De a mélyhamisítások valósághűbb képek gyorsabb generálásához vezettek. Most ezt a folyamatot robotokon keresztül automatizáljuk Telegram A hamis aktok létrehozását olyan egyszerűvé teszi, mint a képek küldését és fogadását.
"A fő különbség ennek a technológiának az elérhetősége." - mondta Giorgio Patrini, a Sensity vezérigazgatója és a jelentés társszerzője. A szél. „Fontos megjegyezni, hogy ennek a botnak az alapvető mesterséges intelligenciájának, a képfeldolgozásnak és a szintézisnek más verziói ingyenesen elérhetők az online kódtárolókban. De programozónak kell lenned, és valamennyire értened kell a számítógépes látásmódhoz, hogy működjenek, kivéve az erős hardvereket. Jelenleg mindez nem számít, mert erről az üzenetküldő alkalmazásba integrált bot gondoskodik.
A Sensity jelentés megállapítja, hogy "ésszerű feltételezni", hogy az ilyen robotokat használó emberek többsége "elsősorban a mélyhamis pornográfia fogyasztásában érdekelt" ( népszerű kategória pornográf oldalakon). De ezek a képek, videók is használhatók zsarolásra, zsarolásra, zaklatásra stb. Volt már számos dokumentált cas nőket célzott meg mesterséges intelligencia által generált aktokkal, és lehetséges, hogy néhányan azok közül, akik aktokat készítenek a robotok segítségével Telegram ezeket az okokat szem előtt tartva tegye ezt.
- mondta Patrini A szél hogy a Sensity kutatói nem láttak közvetlen bizonyítékot arra, hogy a bot alkotásait ilyen célokra használták volna, de azt mondták, hogy a cég úgy gondolja, hogy ez megtörténik. Hozzátette, hogy bár a mélyhamisítások politikai fenyegetettségét "tévesen számolták" ("az elkövetők szemszögéből könnyebb és olcsóbb a képeket photoshopolni és hasonló hatást elérni a téves információk terjesztésével, kevesebb erőfeszítéssel"), egyértelmű hogy a technológia „soros fenyegetést jelent a személyes hírnévre és biztonságra”.
