Los chatbots en línea están generando imágenes de desnudos de personas reales a petición de los usuarios, lo que genera preocupación entre los expertos, quienes temen que los deepfakes explícitos creen “un escenario de pesadilla”.
A cableado Una investigación sobre la aplicación de mensajería Telegram descubrió docenas de chatbots impulsados por inteligencia artificial que supuestamente “crean fotos o videos explícitos de personas con solo un par de clics”, informó el medio. Algunos “quitan la ropa” de las imágenes proporcionadas por los usuarios, según Wired, mientras que otros dicen que pueden fabricar fotografías con clasificación X de personas participando en actividades sexuales.
El medio estimó que aproximadamente 4 millones de usuarios por mes aprovechan las capacidades de deepfake de los chatbots, de los cuales se estima que había 50. Estos robots de IA generativa prometieron entregar “cualquier cosa que quieras sobre la cara o la ropa de la foto que me das”. ”, informó Wired.
“Estamos hablando de un aumento significativo, de órdenes de magnitud, en el número de personas que claramente usan y crean activamente este tipo de contenido”, dijo el experto en deepfake Henry Ajder, uno de los primeros en descubrir el mundo subterráneo de chatbots explícitos de Telegram hace cuatro años, dijo a Wired.
“Es realmente preocupante que estas herramientas, que realmente están arruinando vidas y creando un escenario de pesadilla principalmente para niñas y mujeres, sigan siendo tan fáciles de acceder y encontrar en la web superficial, en una de las aplicaciones más grandes del mundo. mundo.”
Si bien las celebridades han sido víctimas del auge de los deepfakes pornográficos, desde Taylor Swift hasta Jenna Ortega, también ha habido informes recientes de que se utiliza a chicas adolescentes para crear fotografías de desnudos deepfake, algunas de las cuales se han utilizado en casos de “sextorsión”. A encuesta reciente Incluso reveló que el 40% de los estudiantes estadounidenses denunciaron la circulación de deepfakes en sus escuelas.
Los sitios deepfake han florecido en medio de los avances en la tecnología de inteligencia artificial, según Wired, pero han sido objeto de un intenso escrutinio por parte de los legisladores. En agosto, la oficina del fiscal de San Francisco demandó a más de una docena de sitios web de “desnudez”.
En Telegram, los bots se pueden utilizar para traducciones, juegos y alertas o, en este caso, para crear deepfakes peligrosos. Cuando Wired se puso en contacto con ellos sobre el contenido explícito del chatbot, la empresa no respondió con ningún comentario, pero los bots y los canales asociados desaparecieron repentinamente, aunque los creadores prometieron “crear otro bot” al día siguiente.
“Este tipo de imágenes falsas pueden dañar la salud y el bienestar de una persona al causar trauma psicológico y sentimientos de humillación, miedo, vergüenza y vergüenza”, dijo Emma Pickering, directora de abuso facilitado por la tecnología y empoderamiento económico de la organización con sede en el Reino Unido. la organización de abuso doméstico Refuge, dijo a Wired.
“Si bien esta forma de abuso es común, los perpetradores rara vez rinden cuentas y sabemos que este tipo de abuso se está volviendo cada vez más común en las relaciones de pareja íntima”.
Elena Michale, directora y cofundadora del grupo de defensa #NotYourPorn, dijo a Wired que es “preocupante” lo difícil que es “rastrear y monitorear” aplicaciones en Telegram que podrían estar promoviendo este tipo de imágenes explícitas.
“Imagínese si usted fuera un sobreviviente que tuviera que hacer eso por sí mismo, seguramente la carga no debería recaer en un individuo”, dijo. “Sin duda, la carga de implementar algo que sea proactivo en lugar de reactivo debería recaer en la empresa”.
La pornografía deepfake no consensuada ha sido prohibida en varios estados, pero los expertos dicen que los términos de servicio de Telegram son vagos en cuanto al contenido con clasificación X.
“Yo diría que en realidad no está claro si la creación o distribución de imágenes íntimas no consensuadas está prohibida en la plataforma”, dijo a Wired Kate Ruane, directora del proyecto de libre expresión del Centro para la Democracia y la Tecnología.
A principios de este año, el director ejecutivo de Telegram, Pavel Durov, fue arrestado y acusado de facilitar pornografía infantil, aunque prometió que “poco ha cambiado” en el funcionamiento de su aplicación y su política de privacidad desde su arresto.
En una declaración reciente, afirmó que la plataforma cooperaba habitualmente con las autoridades cuando se le solicitaba, y prometió que la empresa “no permite que los delincuentes abusen de nuestra plataforma o evadan la justicia”.
“Utilizar leyes de la era anterior a los teléfonos inteligentes para acusar a un director ejecutivo de delitos cometidos por terceros en la plataforma que administra es un enfoque equivocado”, escribió Durov en una publicación de Telegram.
“La tecnología de construcción ya es bastante difícil. Ningún innovador creará nuevas herramientas si sabe que puede ser considerado personalmente responsable del posible abuso de esas herramientas”.
Los expertos, sin embargo, dicen que Telegram debería ser considerado responsable.
“Telegram te proporciona la función de búsqueda, por lo que te permite identificar comunidades, chats y bots”, dijo Ajder.
“Proporciona la funcionalidad de alojamiento de bots, por lo que es un lugar que proporciona las herramientas vigentes. Entonces también es el lugar donde puedes compartirlo y realmente ejecutar el daño en términos del resultado final”.