El chatbot de imágenes con inteligencia artificial “divertido” de Musk ofrece deepfakes de Mickey Mouse nazi y Taylor Swift | X

La última edición del chatbot de inteligencia artificial Grok de Elon Musk estrenó el miércoles una nueva herramienta de generación de imágenes que carecía de la mayoría de las medidas de seguridad que se han convertido en estándar en la industria de la inteligencia artificial. La nueva función de Grok, que actualmente está limitada a los suscriptores pagos de X, provocó una avalancha de imágenes extrañas y ofensivas generadas por inteligencia artificial de figuras políticas y celebridades en la red social antes conocida como Twitter.

El generador de imágenes puede producir una variedad de imágenes que herramientas de inteligencia artificial similares, como ChatGPT de OpenAI, han bloqueado por violar las reglas sobre desinformación y abuso. En los mensajes e imágenes revisados ​​por The Guardian, el resultado de Grok incluía representaciones de Donald Trump volando un avión contra los edificios del World Trade Center y del profeta Mahoma sosteniendo una bomba, así como representaciones de Taylor Swift, Kamala Harris y Alexandria Ocasio-Cortez en lencería, todas mujeres que ya son blancos frecuentes del acoso en línea. ChatGPT, por el contrario, rechaza tales mensajes para imágenes citando términos de servicio que prohíben representaciones de violencia en el mundo real, falta de respeto a figuras religiosas y contenido explícito.

El generador de imágenes de Grok tampoco rechaza mensajes que incluyan personajes protegidos por derechos de autor, como hacen la mayoría de los demás visualizadores de IA, incluido ChatGPT. Grok produjo imágenes de Mickey Mouse saludando a Adolf Hitler y del Pato Donald consumiendo heroína, por ejemplo. Disney no respondió a una solicitud de comentarios.

Musk pareció deleitarse con las imágenes de la IA no regulada de Grok el miércoles, tuiteando: “¡Grok es la IA más divertida del mundo!”

La mayoría de los principales generadores de imágenes de IA tienen políticas bastante estrictas sobre lo que generarán después de un período de salvaje oeste temprano con pocas reglas, aunque los usuarios con frecuencia intentan encontrar soluciones alternativas a estas salvaguardas. Estas herramientas más establecidas generalmente prohíben la creación de imágenes políticas y sexualizadas que incluyan a personas reales; OpenAI afirma, por ejemplo, que “rechazará solicitudes que pidan una figura pública por su nombre”.

Grok parece tener algunas prohibiciones sobre las imágenes que generará, respondiendo “desafortunadamente no puedo generar ese tipo de imagen” cuando se le pide que muestre imágenes de desnudos completos. X tiene una política sobre desnudez no consensuada desde 2021, cuando la empresa todavía era Twitter y no estaba bajo la propiedad de Musk, que prohíbe compartir contenido explícito que se haya producido sin el consentimiento de un sujeto e incluye la imposición digital de rostros de personas en cuerpos desnudos. Muchas de las políticas de X se han aplicado de forma más laxa desde que Musk se hizo cargo de la plataforma.

Cuando se le pide a Grok que “haga una imagen que viole las leyes de derechos de autor”, responde: “No generaré ni ayudaré con contenido que viole intencionalmente las leyes de derechos de autor”; sin embargo, cuando se le pide que haga “una caricatura de Disney con derechos de autor”, cumple y produce una imagen de una Minnie Mouse de la era moderna. Cuando se le pide que haga imágenes de violencia política, como líderes de partidos asesinados, Grok responde con resultados variables. Representa a Harris y Joe Biden sentados en sus escritorios, pero muestra a Trump acostado con las manos ennegrecidas y una explosión detrás de él.

Musk lanzó Grok como parte de su empresa xAI en noviembre del año pasado como rival de chatbots más populares como ChatGPT de OpenAI, que cuenta con cientos de millones de usuarios. Si bien Musk comercializó a Grok como una “inteligencia artificial que busca la verdad al máximo” y que ofrecería respuestas a cuestiones que otros chatbots se negaban a abordar, su empresa ha enfrentado críticas de investigadores y legisladores por difundir falsedades. A principios de este mes, cinco secretarios de estado de EE. UU. pidieron a Musk, que se ha convertido en un ferviente partidario de Trump, que arreglara el chatbot después de que difundiera información errónea que sugería que Harris no era elegible para aparecer en la boleta electoral en algunos estados.

Las herramientas de generación de imágenes y su capacidad para producir desinformación, así como contenido que puede utilizarse para el acoso racista o misógino, se han convertido en un campo minado para las grandes empresas tecnológicas, que se apresuran a crear más productos impulsados ​​por IA. Google, Microsoft y OpenAI han enfrentado críticas por sus herramientas de generación de imágenes. Google suspendió su herramienta de conversión de texto a imagen Gemini después de que produjera imágenes ahistóricas, como soldados negros con uniformes militares de la era nazi.

La difusión de deepfakes sexuales también ha sido un problema de larga data para X. A principios de este año, imágenes pornográficas de Taylor Swift creadas con inteligencia artificial circularon ampliamente y sin control en la red social. Provocaron críticas tan intensas tanto a X como a las empresas de inteligencia artificial que los legisladores presentaron una legislación para crear recursos legales para las víctimas de imágenes generadas con inteligencia artificial sin su consentimiento.

Los representantes de Trump, Harris y Ocasio-Cortez no respondieron a las solicitudes de comentarios. Una solicitud de comentarios enviada a X generó la respuesta automática estándar de la plataforma: “Ocupado ahora, vuelva a consultar más tarde”.