Cómo los bots y la inteligencia artificial de TikTok han impulsado un resurgimiento de la violencia de extrema derecha en el Reino Unido | Extrema derecha

yoMenos de tres horas después del ataque con arma blanca del lunes que provocó la muerte de tres niños, una cuenta llamada Europe Invasion compartió en X una imagen generada por inteligencia artificial. Mostraba a hombres barbudos con vestimenta musulmana tradicional fuera del Parlamento, uno de ellos blandiendo un cuchillo, detrás de un niño llorando con una camiseta con la bandera británica.

El tuit, que desde entonces ha sido visto 900.000 veces, tenía como título: “¡Debemos proteger a nuestros niños!” y fue compartido por una de las cuentas más potentes de desinformación sobre los apuñalamientos de Southport.

La tecnología de inteligencia artificial se ha utilizado de otras maneras, incluido un grupo antiinmigración de Facebook que ilustró un llamado a asistir a una manifestación en Middlesbrough generando una imagen de una gran multitud en el cenotafio de la ciudad.

Plataformas como Suno (que emplea inteligencia artificial para generar música con voces e instrumentos) se han utilizado para crear canciones en línea que combinan referencias a Southport con contenido xenófobo. Entre los títulos se encuentra “Southport Saga”, en la que una voz femenina con inteligencia artificial canta letras como “cazadlos de alguna manera”.

Los expertos han advertido que nuevas herramientas y formas de organización han permitido a la extrema derecha fracturada de Gran Bretaña aprovechar el ataque de Southport para unificarse y rejuvenecer su presencia en las calles.

En un aumento de actividad no visto en años, se están promoviendo más de 10 protestas en plataformas de redes sociales como X, TikTok y Facebook a raíz de los violentos disturbios en todo el país.

Amenazas de muerte contra el primer ministro del Reino Unido, incitación a atacar la propiedad del gobierno y antisemitismo extremo también estuvieron entre los comentarios en el canal de Telegram de un grupo de extrema derecha esta semana.

En medio de temores de que la violencia se extienda, un importante grupo de expertos en lucha contra el extremismo advirtió que existía el riesgo de que la extrema derecha pudiera lograr una movilización no vista desde que la Liga de Defensa Inglesa (EDL) irrumpió en las calles en la década de 2010.

Una nueva dimensión ha llegado con la llegada de herramientas de inteligencia artificial de fácil acceso que los extremistas han estado utilizando para crear materiales que van desde imágenes provocativas hasta canciones y música.

Andrew Rogoyski, director del Instituto de Inteligencia Artificial Centrada en las Personas de la Universidad de Surrey, dijo que los avances (con herramientas de generación de imágenes ahora ampliamente disponibles en línea) significan que “cualquiera puede crear cualquier cosa”.

Añadió: “La capacidad de cualquier persona para crear imágenes potentes utilizando IA generativa es motivo de enorme preocupación. La responsabilidad recae entonces en los proveedores de dichos modelos de IA para reforzar las barreras de seguridad integradas en el modelo y dificultar la creación de dichas imágenes”.

Joe Mulhall, director de investigación del grupo de campaña Hope Not Hate, dijo que el uso de material generado por IA era incipiente pero reflejaba la creciente superposición y colaboración en línea entre una variedad de individuos y grupos.

Si bien organizaciones de extrema derecha como Britain First y Patriotic Alternative siguen estando a la vanguardia de la movilización y la agitación, igualmente importantes son una serie de individuos no afiliados a ningún grupo en particular.

“Están formados por miles de personas que ofrecen microdonaciones de tiempo y, a veces, dinero para colaborar en pos de objetivos políticos comunes, completamente fuera de las estructuras organizativas tradicionales”, dijo Mulhall. “Estos movimientos carecen de líderes formales, sino que tienen figuras representativas, a menudo extraídas de una selección cada vez mayor de ‘influencers’ de extrema derecha en las redes sociales”.

En términos de la promoción de las protestas, el hashtag #enoughisenough ha sido utilizado por algunos influencers de derecha según Joe Ondrak, analista senior de Logically, una empresa del Reino Unido que monitorea la desinformación.

“Lo clave es cómo se ha utilizado esa frase y ese hashtag en el activismo antiinmigrante anterior”, dijo.

Los analistas también destacaron el uso de bots. Tech Against Terrorism, una iniciativa lanzada por una rama de la ONU, citó una cuenta de TikTok que comenzó a publicar contenido solo después del ataque de Southport el lunes.

“Todas las publicaciones estaban relacionadas con Southport, y la mayoría convocaban a protestas cerca del lugar del ataque el 30 de julio. A pesar de no tener contenido previo, las publicaciones relacionadas con Southport acumularon más de 57.000 visitas solo en TikTok en cuestión de horas”, dijo un portavoz. “Esto sugiere que las redes de bots estaban promocionando activamente este material”.

Un grupo de personas y grupos en torno a Tommy Robinson, el activista de extrema derecha que huyó al extranjero a principios de esta semana antes de una audiencia judicial, desempeñan un papel central. Entre otros, figuran Laurence Fox, el actor convertido en activista de derecha que ha estado difundiendo información errónea en los últimos días, y sitios web de teorías conspirativas como Unity News Network (UNN).

En el canal que UNN opera en Telegram –una plataforma de mensajería en gran medida no moderada– los comentaristas se regocijaron por la violencia vista afuera de Downing Street el miércoles. “Espero que la quemen hasta los cimientos”, dijo uno. Otro pidió el ahorcamiento de Keir Starmer, el primer ministro, diciendo: “Starmer necesita el tratamiento de Mussalini (sic)”.

Entre quienes fueron vistos en el terreno durante los disturbios en Southport había activistas de Patriotic Alternative, considerado uno de los grupos de extrema derecha de más rápido crecimiento en los últimos tiempos. Otros grupos, incluidos aquellos que se han dividido por sus posiciones sobre conflictos como la guerra en Ucrania o Israel, también han tratado de participar.

El Dr. Tim Squirrell, director de comunicaciones del Instituto para el Diálogo Estratégico, un grupo de expertos en lucha contra el extremismo, dijo que la extrema derecha había estado buscando movilizarse en las calles durante el año pasado, incluso en el Día del Armisticio y en las proyecciones de películas de Robinson.

“Es un ambiente febril y sólo se ve exacerbado por la salud del entorno de información en línea, que es el peor que ha sido en los últimos años”, dijo.

“Robinson sigue siendo uno de los organizadores más eficaces de la extrema derecha del Reino Unido. Sin embargo, también hemos visto el aumento de cuentas, grandes y pequeñas, que seleccionan noticias que apelan a sensibilidades antiinmigrantes y antimusulmanas, y no les preocupa difundir información no verificada.

“Existe el riesgo de que este momento pueda ser aprovechado para intentar crear una movilización callejera más parecida a la de la década de 2010”.