Облачная платформа обмена сообщениями Telegram является рассадником порнографических дипфейков, согласно исследованию безопасности, проведенному Sensity. Анализ описывает мессенджер со сквозным шифрованием как «экосистему дипфейков», в которой боты способны превращать повседневные фотографии людей в «голый» контент, особенно женщин.
Эти боты работают на базе искусственного интеллекта Sensity и выполняют действия по «раздеванию» фотографии без одежды, часто в целях публичного унижения и вымогательства. Компания описывает
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
этот процесс как своего рода функция редактирования, которую могут легко использовать владельцы смартфонов и традиционных компьютеров. Все, что им нужно сделать, это взять фотографию из своей личной галереи изображений и позволить ботам создать дипфейк. Эти фотографии могут быть найдены откуда угодно и где угодно в Интернете.
Что обнаружила Sensity - Вот основные выводы Sensity:
- Компания обнаружила роботов, создающих изображения, которые на сегодняшний день предназначены для 104 852 женщин.
- Затем эти изображения распространялись по платформе до конца июля этого года.
- Только за последние три месяца количество дипфейков увеличилось на 198%.
- По крайней мере, 70 процентов из них видели свои незаконнорожденные изображения в социальных сетях или других частных источниках.
- Некоторые из этих жертв были несовершеннолетними.
- Демографически компания обнаружила, что Telegram получил рекламу от российского сайта ВКонтакте, а дипфейк-бот привлек к участию 101 080 человек. Чтобы усугубить ситуацию, боты работают бесплатно. Пользователям не нужно ничего платить, если они не хотят, чтобы водяной знак был удален, что требует максимум 1,50 доллара.
Как работают эти боты - В предыдущих отчетах Вклад объяснил, как роботы могут генерировать свои собственные изображения из первоисточников, таких как фотографии и видео. В случае с дипфейковыми ботами из Telegram, эти боты полагаются на ранее упомянутые генеративно-состязательные сети. Они убирают исходное изображение одетой женщины для «реалистичного приближения» к анатомии человека.
Этот тип синтеза зависит от способности бота эффективно угадывать части тела и рост человека. Конечно, чтобы это работало «идеально», эти роботы обучаются на большом количестве визуальных данных, связанных с женскими телами.
Это плохая новость для Telegram. Сеть уже имеет сомнительную репутацию из-за того, что мессенджером часто пользуются сторонники превосходства белой расы. Теперь, когда боты делают фальшивые обнаженные тела с ничего не подозревающими людьми, в том числе с несовершеннолетними, программа обмена сообщениями только укрепляет свой имидж глубоко скомпрометированной платформы.