El verano pasado, un vídeo pornográfico de un destacado creador de TikTok se volvió viral en las redes sociales. Una captura de pantalla del vídeo en TikTok fue a la cuenta de Instagram @tiktokhabitación, acompañado de un comentario del creador cuyo rostro fue publicado en el video. "Es un deepfake, pero aún así, mis padres en esta aplicación, relájense", dijo el creador. (Piedra rodante no nombra a este creador ni a ningún otro creador al que se hace referencia en esta historia, con el argumento de que los videos se publicaron sin su consentimiento).
Un deepfake es un video manipulado digitalmente que utiliza tecnología de inteligencia artificial para cambiar la cara de una persona (a menudo, pero no siempre, una celebridad) por el cuerpo de otra persona, generalmente sin su consentimiento. Gran parte de la atención de los medios a las deepfakes se ha centrado en su potencial para difundir desinformación, particularmente en relación con una campaña política o elección, como una Clip manipulado de Nancy Pelosi que se volvió viral en Facebook el año pasado. Sin embargo, la gran mayoría de los deepfakes (96%, según una investigación de 2019 de la firma de inteligencia artificial Sensity) son pornográficos y se utilizan para apuntar a mujeres.
En el pasado, la tecnología deepfake se usaba principalmente para crear imágenes desnudas o sexualmente explícitas de celebridades femeninas en particular. Parte de eso se debe a que para crear modelos deepfake necesitas miles de fotos o varios minutos de metraje de video para hacer un buen trabajo, dice Giorgio Patrini, Fundador y CEO de Sensity.
Pero la tecnología se ha vuelto más accesible y menos compleja, con resultados aterradores. La semana pasada, Sensity publicó un informe sobre un bot de IA en la aplicación de mensajería encriptada Telegram Se utiliza para crear imágenes desnudas o sexualmente explícitas de cientos de miles de mujeres sin su consentimiento. A diferencia de otros programas utilizados para crear videos deepfake, el bot solo requería el uso de una foto para representar a mujeres desnudas, lo que llevó a que el objetivo fuera cada vez más dirigido a mujeres y niñas que no eran celebridades. Lo mismo ocurre con los influencers en plataformas como Instagram y TikTok. "Es una plataforma basada en vídeo, por lo que en realidad proporciona más material [para hacer deepfakes]", dice Patrini. “Estas personas corren un riesgo mayor que si simplemente estuvieran subiendo fotos. »
Danielle Citron, profesora de derecho en la Facultad de Derecho de la Universidad de Boston y vicepresidenta de la Iniciativa de Derechos Civiles Cibernéticos, dice que el impacto psicológico de aparecer en un video pornográfico deepfake no puede ser exagerado, y algunos también han comparado la pornografía no consentida con una forma de violación digital. “Cuando ves un video de sexo deepfake de ti mismo, se siente como si fuera tu cuerpo de forma visceral. Es una apropiación de su identidad de género sin su permiso. Suena como una terrible violación de la autonomía y del cuerpo, y te deja espacio en la cabeza ”, dice. Según Patrini, aparecer en un video porno deepfake puede tener un impacto financiero significativo y perjudicial en el modelo de negocio de un creador, citando el ejemplo de un YouTuber prominente que perdió una asociación de marca después de que alguien publicó un video deepfake de ella en un sitio porno.
Para empeorar las cosas, casi un tercio de los usuarios de TikTok son menores de 14 años, de acuerdo con los datos internos de la empresa revisados por el New York Times haciendo que esta población sea aún más vulnerable a la amenaza. Como Piedra rodante Como se informó anteriormente, no es raro que los creadores menores de TikTok encuentre sus videos publicados en videos recopilatorios en sitios de tubo como Pornhub. Piedra rodante habló con la madre de una joven de 17 años que descubrió que uno de sus videos TikTok había sido publicado en Pornhub. “Ella estaba mortificada. No quería volver a la escuela”, me dijo la madre, que pidió permanecer en el anonimato. “Ella publicó este video de manera muy inocente. Ella no quería involucrarse con Pornhub. Esta no es una lección que deberías aprender a los 17 años. (Ella dice que Pornhub eliminó inmediatamente el video a pedido de ellos. En un correo electrónico a Piedra rodante, Pornhub negó que el contenido de TikTok se publicó con frecuencia en su plataforma).
En nuestra investigación para esta historia, Piedra rodante Encontré más de dos docenas de ejemplos de destacados creadores de TikTok presentado en porno deepfake. La mayoría de ellos se publican inicialmente en uno de los pocos sitios web dedicados exclusivamente a publicar deepfakes, pero tampoco son difíciles de encontrar en plataformas de redes sociales como Twitter y Reddit, aunque ambas plataformas tienen políticas que prohíben los deepfakes.
En un comunicado, un portavoz de Twitter dirigió Piedra rodante a su política que prohíbe los deepfakes o cualquier "fotografía o video íntimo de alguien que haya sido producido o distribuido sin su consentimiento". En el momento de la publicación, no eliminó un tweet que contenía un video pornográfico deepfake de dos creadores de TikTok. Reddit, que también tiene una política contra la publicación de deepfakes no consensuados, no respondió de inmediato a una solicitud de comentarios.
Tampoco son difíciles de encontrar en Pornhub y otros sitios de tubo, aunque Pornhub también prohíbe los deepfakes. "Tsimplemente prohibieron a las personas etiquetar deepfakes. La gente aún podría descargarlos y usar un nombre diferente ”, dice el ex investigador de Sensity Henry Ajder. Él reconoce que "probablemente tengas entre los pocos miles" deepfakes en Pornhub.
Uno de los sitios web más populares para deepfakes, que Piedra rodante se niega a nombrar, tenía un servidor Discord con más de 100 miembros donde los usuarios podían preguntar a sus celebridades e influencers TikTok favoritos para ser objeto de un deepfake. Aunque este sitio web solo publica videos de creadores mayores de 18 años, una de las celebridades más solicitadas en este servidor es un creador popular de TikTok que acaba de cumplir 17 años. [nombre redactado], por cierto, cumplirá 18 años en 4 días”, dijo recientemente un usuario, preguntando a un creador. (El administrador hizo el video y lo publicó en el sitio web dos semanas después de que ella cumpliera 18 años).
Cuando se le preguntó sobre el servidor, Discord dijo que violó sus políticas con respecto a la desnudez no consensuada y lo eliminó. "Discord tiene un enfoque de tolerancia cero con la pornografía no consentida en el servicio y la compañía toma medidas inmediatas cuando nos damos cuenta de ello", dijo un portavoz de la compañía. Sin embargo, un aviso en el sitio web de pornografía deepfake indica que está "trabajando en un servidor alternativo".
En cuanto a por qué la gente crea pornografía deepfake en primer lugar, Citron dice que algunos creen erróneamente que es esencialmente un crimen sin víctimas. "El mal está tan lejos de la gente que se siente como un juego", dijo. “Puedes hacer tuyo el cuerpo de alguien y no tienes que pedírselo. El fenómeno de la pornografía deepfake proviene de una "cultura de impunidad", o la idea de que los hombres jóvenes tienen derecho a hacer lo que quieran con el cuerpo de las mujeres.
Pero mientras que algunos hombres pueden sentirse empoderados para hacer lo que quieran con las imágenes de las personas influyentes, ser figuras públicas, en última instancia, objeto de pornografía deepfake, dice Citron, "como una agresión sexual". "
