Los investigadores han descubierto un 'ecosistema deepfake' en la aplicación de mensajería Telegram centrado en robots que generan desnudos falsos a pedido. Los usuarios que interactúan con estos bots dicen que en su mayoría crean desnudos de mujeres que conocen utilizando imágenes tomadas de las redes sociales, que luego comparten e intercambian entre sí en varios canales. Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
La investigación proviene de la firma de seguridad Sensity, que se enfoca en lo que llama "inteligencia de amenazas visuales", específicamente la propagación de falsificaciones profundas. Los investigadores de Sensity descubrieron que se generaron y compartieron más de 100 000 imágenes en canales públicos Telegram hasta julio de 2020 (lo que significa que el número total de imágenes generadas, incluidas las nunca compartidas y las realizadas desde julio, es mucho mayor). La mayoría de los usuarios de estos canales, alrededor del 70 por ciento, provienen de Rusia y países vecinos, explica Sensity. El borde pudo constatar que muchos canales estudiados por la empresa siguen activos.
Los bots son de uso gratuito, pero generan desnudos falsos con marcas de agua o solo desnudez parcial. Los usuarios pueden pagar una tarifa equivalente a centavos para "descubrir" las imágenes por completo. Una "tarifa para principiantes" cobra a los usuarios 100 rublos (alrededor de $ 1,28) por generar 100 desnudos falsos sin marca de agua durante un período de siete días. Sensity dice que "un número limitado" de las imágenes generadas por los robots muestran objetivos "que parecen ser menores".
Ambos El borde y Sensibilidad en contacto Telegram para preguntarle por qué permiten este contenido en su aplicación pero aún no han recibido una respuesta. Sensity dice que también se ha puesto en contacto con las autoridades policiales.
El software utilizado para generar estas imágenes se conoce como DeepNude. Apareció por primera vez en la web en junio pasado, pero su creador cerró su sitio web horas después de recibir la cobertura de los principales medios, diciendo que "la probabilidad de que las personas lo usen mal es demasiado alta". Sin embargo, el software continuó propagándose a través de backchannels, y Sensity dice que DeepNude "desde entonces ha sido sometido a ingeniería inversa y se puede encontrar en formas mejoradas en repositorios de código abierto y sitios web de torrents". Ahora se usa para alimentar robots. Telegram, que gestionan automáticamente los pagos para generar ingresos para sus creadores.
DeepNude utiliza una técnica de inteligencia artificial conocida como Redes Adversarias Generativas, o GAN, para generar desnudos falsos, con imágenes resultantes que varían en calidad. La mayoría son obviamente falsos, con carne manchada o pixelada, pero algunos pueden confundirse fácilmente con imágenes reales.
Desde antes de la llegada de Photoshop, la gente ha estado creando desnudos femeninos falsos sin consentimiento. Actualmente hay muchos foros y sitios web dedicados a esta actividad que utilizan herramientas que no son de IA, con usuarios que comparten desnudos de celebridades y personas que conocen. Pero los deepfakes condujeron a una generación más rápida de imágenes más realistas. Ahora, automatizando este proceso a través de robots. Telegram hace que generar desnudos falsos sea tan fácil como enviar y recibir imágenes.
“La principal diferencia es la accesibilidad de esta tecnología”, dijo Giorgio Patrini, director ejecutivo de Sensity y coautor del informe. El borde. “Es importante tener en cuenta que otras versiones del núcleo de inteligencia artificial de este bot, el procesamiento y la síntesis de imágenes, están disponibles de forma gratuita en los repositorios de códigos en línea. Pero tienes que ser programador y tener cierto conocimiento de la visión por computadora para que funcionen, además de un hardware potente. Por el momento, todo esto no importa, ya que lo gestiona el bot integrado en una aplicación de mensajería.
El informe Sensity afirma que es "razonable asumir" que la mayoría de las personas que usan estos bots "están principalmente interesadas en consumir pornografía deepfake" (que sigue siendo una categoría popular en sitios pornográficos). Pero estas imágenes y videos también pueden usarse para extorsión, chantaje, acoso, etc. Ha habido una serie de documentado cas mujeres dirigidas usando desnudos generados por IA, y es posible que algunos de los que crean desnudos usando los robots Telegram hacerlo con estas razones en mente.
Patrini dijo El borde que los investigadores de Sensity no habían visto evidencia directa de que las creaciones del bot se usaran para estos fines, pero dijeron que la compañía creía que estaba sucediendo. Agregó que si la amenaza política de los deepfakes hubiera sido "mal calculada" ("desde el punto de vista de los autores, es más fácil y económico recurrir al photoshop de imágenes y lograr un impacto similar para difundir desinformación, con menos esfuerzo"), está claro que la tecnología representa "una amenaza en serie para la reputación y la seguridad personal".
