Het cloudgebaseerde berichtenplatform Telegram is een broeinest voor pornografische deepfakes, volgens een veiligheidsonderzoek uitgevoerd door Sensity. De analyse beschrijft de end-to-end versleutelde messenger als een "deepfake-ecosysteem" waar bots in staat zijn om alledaagse foto's van mensen om te zetten in "naakte" inhoud, vooral van vrouwen.
Deze bots worden aangedreven door kunstmatige intelligentie, door Sensity, en voeren ‘stripping’-acties uit op een foto zonder kleding, vaak met het oog op publieke vernedering en afpersing. Het bedrijf beschrijft
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
dit proces als een soort bewerkingsfunctie die gemakkelijk kan worden gebruikt door bezitters van smartphones en traditionele computers. Het enige wat ze hoeven te doen is een foto uit hun persoonlijke fotogalerij halen en de bots de deepfake laten genereren. Deze foto's kunnen overal en overal op internet vandaan komen.
Welke gevoeligheid heeft gevonden - Dit zijn de belangrijkste conclusies van Sensity:
- Het bedrijf heeft robots ontdekt die afbeeldingen maken die tot nu toe gericht waren op 104 vrouwen.
- Deze beelden werden vervolgens tot eind juli van dit jaar over het platform verspreid.
- Alleen al in de afgelopen drie maanden zijn die deepfakes met 198% toegenomen.
- Ten minste 70 procent van de doelwitten heeft hun gepocheerde afbeeldingen op sociale media of andere privébronnen gezien.
- Sommige van deze slachtoffers waren minderjarig.
- Demografisch vond het bedrijf dat: Telegram had reclame ontvangen van de Russische website VK, terwijl de deepfake-bot 101 mensen verzamelde om deel te nemen. Om de zaken nog erger te maken, werken bots gratis. Gebruikers hoeven niets te betalen, tenzij ze willen dat het watermerk wordt verwijderd, wat maximaal $ 080 kost.
Hoe werken deze bots - In eerdere rapporten Bijdrage legde uit hoe robots hun eigen afbeeldingen kunnen genereren uit originele bronnen zoals foto's en video's. In het geval van deepfake-bots van Telegram, vertrouwen deze bots op de eerder genoemde generatieve vijandige netwerken. Ze strippen het oorspronkelijke beeld van de geklede vrouw uit voor een 'realistische benadering' van de anatomie van het individu.
Dit type synthese hangt af van het vermogen van de bot om de lichaamsdelen en lengte van het individu effectief te raden. Om dit "perfect" te laten werken, zijn deze robots natuurlijk getraind op grote hoeveelheden visuele gegevens met betrekking tot vrouwenlichamen.
Dit is slecht nieuws voor Telegram. Het netwerk heeft al een dubieuze reputatie dankzij blanke supremacisten die vaak de messenger gebruiken. Nu bots nep-naaktfoto's maken met nietsvermoedende mensen, waaronder minderjarigen, versterkt het berichtenprogramma alleen maar zijn imago als een diep gecompromitteerd platform.
