Den molnbaserade meddelandeplattformen Telegram är en grogrund för pornografiska deepfakes, enligt en säkerhetsutredning gjord av Sensity. Analysen beskriver den end-to-end-krypterade budbäraren som ett "deepfake-ekosystem" där bots kan förvandla vardagliga bilder av människor till "naket" innehåll, särskilt av kvinnor.
Dessa bots drivs av artificiell intelligens, av Sensity, och utför "strippande" åtgärder på ett foto utan kläder, ofta i syfte att offentlig förnedring och utpressning. Företaget beskriver
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
denna process som en slags redigeringsfunktion som enkelt kan användas av ägare av smartphones och traditionella datorer. Allt de behöver göra är att ta ett foto från deras personliga bildgalleri och låta botarna generera deepfake. Dessa bilder kan komma från var som helst och överallt på Internet.
Vad Sensity hittade - Här är de viktigaste slutsatserna från Sensity:
- Företaget har upptäckt robotar som skapar bilder som hittills har riktat sig till 104 852 kvinnor.
- Dessa bilder sprids sedan över plattformen fram till slutet av juli i år.
- Bara under de senaste tre månaderna har dessa djupa förfalskningar ökat med 198%.
- Minst 70 procent av de riktade har sett sina pocherade bilder på sociala medier eller andra privata källor.
- Några av dessa offer var minderåriga.
- Demografiskt fann företaget det Telegram hade fått reklam från den ryska webbplatsen VK medan deepfake boten fick 101 080 personer att delta. För att förvärra saken fungerar bots gratis. Användare behöver inte betala någonting om de inte vill att vattenstämpeln tas bort, vilket bara tar 1,50 $ som mest.
Hur fungerar dessa bots - I tidigare rapporter, Bidrag förklarade hur robotar kan generera sina egna bilder från originalkällor som foton och videor. När det gäller deepfake bots från Telegram, dessa bots förlitar sig på de tidigare nämnda generativa kontradiktoriska nätverken. De tar bort den ursprungliga bilden av den klädda kvinnan för en "realistisk approximation" av individens anatomi.
Denna typ av syntes beror på botens förmåga att effektivt gissa individens kroppsdelar och höjd. Naturligtvis, för att detta ska fungera "perfekt", tränas dessa robotar på stora mängder visuell data relaterad till kvinnors kroppar.
Detta är dåliga nyheter för Telegram. Nätverket har redan ett tvivelaktigt rykte tack vare vita supremacister som ofta använder budbäraren. Nu, med bots som gör falska nakenbilder med intet ont anande människor, inklusive minderåriga, cementerar meddelandeprogrammet bara sin image som en djupt komprometterad plattform.
