Исследователи обнаружили «экосистему дипфейков» в приложении для обмена сообщениями Telegram сосредоточено вокруг роботов, которые по запросу создают фальшивую обнаженную натуру. Пользователи, которые взаимодействуют с этими ботами, говорят, что они в первую очередь создают обнаженные тела знакомых женщин, используя изображения, взятые из социальных сетей, которыми затем делятся и обмениваются друг с другом по различным каналам. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Расследование проводит охранная фирма Sensity, которая занимается тем, что она называет «визуальной разведкой угроз», в частности распространением дипфейков. Исследователи Sensity обнаружили, что более 100 000 изображений были созданы и опубликованы на общедоступных каналах. Telegram до июля 2020 года (это означает, что общее количество созданных изображений, включая те, которые никогда не публиковались, и те, которые были созданы с июля, намного выше). Большинство пользователей этих каналов, около 70 процентов, приезжают из России и стран ближнего зарубежья, говорят в Sensity. Край смог подтвердить, что многие каналы, изученные компанией, все еще активны.
Ботов можно использовать бесплатно, но они генерируют фальшивую обнаженную натуру с водяными знаками или только частичную наготу. Затем пользователи могут заплатить комиссию в несколько центов, чтобы полностью «обнаружить» изображения. «Тариф для начинающих» взимает с пользователей 100 рублей (около 1,28 доллара США) за создание 100 фейковых обнаженных изображений без водяных знаков в течение семи дней. Sensity сообщает, что «ограниченное количество» изображений, созданных ботами, показывает цели, «которые кажутся незначительными».
Оба из них Край и Sensity связались Telegram спросить, почему они разрешают этот контент в своем приложении, но пока не получили ответов. Sensity сообщает, что также связалась с правоохранительными органами.
Программное обеспечение, используемое для создания этих изображений, известно как DeepNude. Впервые он появился в сети в июне прошлого года, но его создатель закрыл свой сайт через несколько часов после того, как он получил освещение в средствах массовой информации, заявив, что «вероятность того, что люди будут злоупотреблять им, слишком высока». Однако программное обеспечение продолжало распространяться по обратным каналам, и Sensity утверждает, что DeepNude «с тех пор подвергся обратному проектированию и его можно найти в улучшенных формах в репозиториях с открытым исходным кодом и на торрент-сайтах». Теперь он используется для питания роботов. Telegram, которые автоматически обрабатывают платежи и приносят доход своим создателям.
DeepNude использует технологию искусственного интеллекта, известную как генеративно-состязательные сети (GAN), для создания фальшивых обнаженных тел, при этом получаемые изображения различаются по качеству. Большинство из них явно поддельные, с размазанной или пиксельной плотью, но некоторые легко принять за настоящие изображения.
Еще до появления Photoshop люди без согласия создавали фальшивые обнаженные женщины. В настоящее время существует множество форумов и веб-сайтов, посвященных этой деятельности с использованием инструментов, не связанных с искусственным интеллектом, где пользователи делятся обнаженными знаменитостями и людьми, которых они знают. Но дипфейки привели к более быстрому созданию более реалистичных изображений. Теперь автоматизируем этот процесс с помощью роботов Telegram позволяет создавать поддельные обнаженные тела так же просто, как отправлять и получать изображения.
«Основное отличие - доступность этой технологии, - сказал Джорджио Патрини, генеральный директор Sensity и соавтор отчета. Край. «Важно отметить, что другие версии основного ИИ этого бота, обработки и синтеза изображений, доступны бесплатно в онлайн-репозиториях кода. Но вам нужно быть программистом и иметь некоторое представление о компьютерном зрении, чтобы заставить их работать, кроме мощного оборудования. На данный момент все это не имеет значения, поскольку об этом позаботится бот, интегрированный в приложение для обмена сообщениями.
В отчете Sensity говорится, что «разумно предположить», что большинство людей, использующих этих ботов, «в первую очередь заинтересованы в просмотре дипфейк-порнографии» (которая остается популярная категория на порнографических сайтах). Но эти изображения и видео также могут быть использованы для вымогательства, шантажа, преследования и т. д. Было проведено несколько задокументированный CAS женщины нацелены на использование обнаженных тел, созданных ИИ, и возможно, что некоторые из тех, кто создает обнаженные тела с помощью роботов Telegram сделать это с учетом этих причин.
Патрини сказал Край что исследователи Sensity не видели прямых доказательств использования творений бота для этих целей, но заявили, что компания верит, что это происходит. Он добавил, что, хотя политическая угроза дипфейков была «просчитана» («с точки зрения преступников, проще и дешевле отфотошопить изображения и добиться аналогичного эффекта, распространяя дезинформацию с меньшими усилиями»), очевидно, что что технология представляет «серийную угрозу личной репутации и безопасности».
