El chatbot de inteligencia artificial Grok de Elon Musk se vuelve viral con deepfakes alucinantes
El chatbot Grok AI de Elon Musk está inundando la web con imágenes “deepfake” de todos, desde Donald Trump hasta el propio Musk, y los resultados varían desde totalmente disparatados hasta francamente perturbadores.
Desde su lanzamiento la semana pasada, los usuarios de Grok han estado generando imágenes falsas de Trump, robando una tienda de conveniencia o volando un avión hacia las Torres Gemelas. Otros han representado a Harris embarazada del bebé de Trump, a Musk como un adicto al sofá con sobrepeso y al expresidente George W. Bush esnifando cocaína desde su escritorio en la Oficina Oval.
Algunas deepfakes espeluznantes parecían obra de niños: un Ronald McDonald empapado en sangre blandiendo una ametralladora afuera de un Burger King o el personaje clásico de Disney, Goofy, cometiendo un asesinato sangriento con una sierra para metales.
Los críticos han criticado a Musk y X por permitir el lanzamiento del chatbot con tan pocas restricciones, citando riesgos que van desde desinformación hasta violación de derechos de autor y daños a niños.
Alejandra, instructora de la Clínica de Derecho Cibernético de la Facultad de Derecho de Harvard Caraballo llamó al nuevo software como “una de las implementaciones de IA más imprudentes e irresponsables que he visto jamás”.
Hasta ahora, Musk sólo ha respondido con júbilo.
“¡Grok es la IA más divertida del mundo!” Musk al corriente en X la semana pasada después de que un usuario dijera con entusiasmo que el nuevo software de inteligencia artificial no tenía “censura”.
Cuando se le preguntó la semana pasada por qué X había lanzado la herramienta al público sin restricciones, Musk respondió encogiéndose de hombros.
“Tenemos nuestro propio sistema de generación de imágenes en desarrollo, pero faltan algunos meses, por lo que esto parecía un buen paso intermedio para que la gente se divirtiera un poco”. Musk escribió en X la semana pasada.
Parece que Grok tiene algunas restricciones. Los usuarios han informado que el chatbot rechazó solicitudes de imágenes de desnudos o de ciertos delitos violentos.
Por ejemplo, se negó a cumplir con El sitio de tecnología The Verge para “generar una imagen de una mujer desnuda”. Sin embargo, respondió a una solicitud de una foto de la “sexy Taylor Swift” generando una imagen de la estrella del pop con un sujetador de encaje negro.
Otros, como el fundador de Bellingcat, Eliot Higgins, publicaron ejemplos de lo fácil que era eludir las pocas restricciones vigentes, creando imágenes de Mickey Mouse, Trump y Musk vistiendo uniformes militares nazis Adornado con esvásticas.
El Post se puso en contacto con X para solicitarle comentarios.
Es probable que Musk, un autoproclamado absolutista de la libertad de expresión, esté buscando una manera de que su chatbot Grok se destaque del resto, según Ari Lightman, profesor de medios digitales en la Universidad Carnegie Mellon.
“Siempre está desafiando los límites y quiere ser el centro de atención. Si uno se limita a respetar los límites asociados con un modelo de lenguaje amplio y dice: “Vale, aquí están todas las barreras”, no se va a diferenciar”, afirmó Lightman.
“Desde una perspectiva superficial, si dices 'oye, está completamente abierto, solo está disponible para X usuarios', ese es un mecanismo asociado con decir que estamos diferenciados”, agregó.
X no es la primera empresa que genera revuelo tras lanzar una herramienta de imágenes impulsada por inteligencia artificial.
En marzo, Google se vio obligado a desactivar el generador de imágenes de su chatbot Gemini después de que comenzara a mostrar fotos históricamente inexactas, como vikingos negros y soldados alemanes “diversos” de la era nazi. La herramienta aún no se ha reparado por completo.
Los gigantes de la IA también se han enfrentado a una ola de acciones legales por parte de músicos, autores, creadores de contenido y otros por usar contenido protegido por derechos de autor sin el crédito o permiso adecuados para “entrenar” a sus chatbots.
En enero, X se vio obligado a prohibir temporalmente las búsquedas de Swift después de que imágenes de desnudos de la estrella del pop generadas por IA y creadas por un generador de imágenes diferente se volvieran virales.
El creador de imágenes impulsado por inteligencia artificial de Grok solo está disponible para los suscriptores pagos del plan premium de X, que cuesta $7 por mes, y crea imágenes basadas en las indicaciones de texto del usuario.
X se asoció con una pequeña empresa alemana llamada Black Forest Labs, que desarrolló el software de generación de imágenes “FLUX.1” que impulsa la herramienta. En una publicación de blogX dijo que estaba “experimentando” con el modelo FLUX.1 “para expandir las capacidades de Grok en X.
La naturaleza gráfica de las imágenes generadas por IA podría complicar aún más la inestable relación de Musk con los anunciantes corporativos. X ha experimentado una importante caída en los dólares destinados a publicidad desde que Musk compró la empresa, y algunos han expresado su preocupación por la falta de moderación de contenido en la aplicación.
Musk tiene una demanda antimonopolio federal activa contra la Federación Mundial de Anunciantes y un puñado de grandes empresas por supuestamente orquestar un boicot publicitario ilegal dirigido a X.
El lanzamiento también podría provocar un mayor escrutinio de Musk y X en Europa, donde los reguladores tienen una investigación activa sobre la supuesta falla de la aplicación para controlar contenido peligroso.
El comisario europeo, Thierry Breton, causó revuelo a principios de este mes después de amenazar a Musk con medidas regulatorias justo antes de la entrevista del multimillonario con Trump en X Spaces.
