Cercetătorii au descoperit un „ecosistem deepfake” în aplicația de mesagerie Telegram centrat în jurul roboților care generează nuduri false la cerere. Utilizatorii care interacționează cu acești roboți spun că creează în primul rând nuduri ale femeilor pe care le cunosc folosind imagini preluate de pe rețelele sociale, pe care apoi le partajează și le schimbă între ei pe diferite canale. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Ancheta vine de la firma de securitate Sensity, care se concentrează pe ceea ce numește „informații privind amenințările vizuale”, în special pe răspândirea deepfake-urilor. Cercetătorii Sensity au descoperit că peste 100 de imagini au fost generate și partajate pe canale publice Telegram până în iulie 2020 (ceea ce înseamnă că numărul total de imagini generate, inclusiv cele care nu au fost distribuite niciodată și cele realizate din iulie, este mult mai mare). Majoritatea utilizatorilor acestor canale, aproximativ 70 la sută, provin din Rusia și din țările învecinate, spune Sensity. Marginea a putut confirma că multe canale studiate de companie sunt încă active.
Boții sunt liberi de utilizat, dar generează nuduri false cu filigrane sau doar nuditate parțială. Utilizatorii pot plăti apoi o taxă egală cu câțiva cenți pentru a „descoperi” complet imaginile. O „rată pentru începători” taxează utilizatorii cu 100 de ruble (aproximativ 1,28 USD) pentru a genera 100 de nuduri false fără filigran pe o perioadă de șapte zile. Sensity spune că „un număr limitat” de imagini generate de roboți arată ținte „care păreau a fi minore”.
ambii Marginea și Sensity a contactat Telegram pentru a întreba de ce permit acest conținut în aplicația lor, dar nu au primit încă niciun răspuns. Sensity spune că a contactat și autoritățile de aplicare a legii.
Software-ul folosit pentru a genera aceste imagini este cunoscut sub numele de DeepNude. A apărut pentru prima dată pe web în iunie anul trecut, dar creatorul său și-a închis site-ul în câteva ore de la primirea acoperirii mass-media, spunând că „probabilitatea ca oamenii să-l folosească greșit este prea mare”. Cu toate acestea, software-ul a continuat să se răspândească pe canalele secundare, iar Sensity spune că DeepNude „a fost de atunci proiectat invers și poate fi găsit în forme îmbunătățite pe arhivele open source și pe site-urile torrent.” . Acum este folosit pentru a alimenta roboții Telegram, care gestionează automat plățile pentru a genera venituri pentru creatorii lor.
DeepNude folosește o tehnică de inteligență artificială cunoscută sub numele de rețele adverse generative, sau GAN, pentru a genera nuduri false, cu imaginile rezultate variind în calitate. Cele mai multe sunt în mod evident false, cu carne pătată sau pixelată, dar unele pot fi ușor confundate cu imagini reale.
De înainte de apariția Photoshop, oamenii au creat nuduri false ale femeilor fără consens. În prezent, există multe forumuri și site-uri web dedicate acestei activități care folosesc instrumente non-AI, utilizatorii împărtășind nuduri ale celebrităților și ale persoanelor pe care le cunosc. Dar deepfake-urile au dus la generarea mai rapidă de imagini mai realiste. Acum, automatizarea acestui proces prin roboți Telegram face generarea de nuduri false la fel de ușor ca trimiterea și primirea de imagini.
„Principala diferență este accesibilitatea acestei tehnologii”, a spus Giorgio Patrini, CEO Sensity și coautor al raportului. Marginea. „Este important de reținut că alte versiuni ale AI de bază ale acestui bot, procesarea și sinteza imaginilor, sunt disponibile gratuit în depozitele de cod online. Dar trebuie să fii programator și să ai o oarecare înțelegere a viziunii computerizate pentru a le face să funcționeze, în afară de hardware-ul puternic. Momentan, toate acestea nu contează pentru că de ele se ocupă botul integrat într-o aplicație de mesagerie.
Raportul Sensity afirmă că este „rezonabil să presupunem” că majoritatea oamenilor care folosesc acești roboți „sunt interesați în primul rând să consume pornografie deepfake” (care rămâne o categorie populară pe site-uri pornografice). Dar aceste imagini și videoclipuri pot fi folosite și pentru extorcare, șantaj, hărțuire etc. Au fost un număr de documentat cas femeile vizate folosind nuduri generate de inteligență artificială și este posibil ca unii dintre cei care creează nuduri folosind roboți Telegram faceți acest lucru având în vedere aceste motive.
spuse Patrini Marginea că cercetătorii Sensity nu au văzut dovezi directe că creațiile botului sunt folosite în aceste scopuri, dar au spus că compania crede că se întâmplă. El a adăugat că, deși amenințarea politică a deepfake-urilor a fost „calculată greșit” („din punctul de vedere al făptuitorilor, este mai ușor și mai ieftin să faci fotografii cu Photoshop și să obții un impact similar pentru a disemina dezinformarea, cu mai puțin efort”), este clar. că tehnologia reprezintă „o amenințare în serie la adresa reputației și siguranței personale”.
