El jefe de espionaje de Australia advierte que la IA acelerará la radicalización en línea | agencias de inteligencia australianas

El jefe de la máxima agencia de inteligencia de Australia advirtió que personas como el terrorista de Christchurch se están radicalizando en las redes sociales y que es probable que la inteligencia artificial empeore las cosas.

El director general de la Organización Australiana de Inteligencia de Seguridad (Asio), Mike Burgess, dijo en una cumbre sobre medios sociales en Adelaida el viernes que los medios sociales son “a la vez una mina de oro y un pozo negro” que crea comunidades y las divide, e Internet es “el la incubadora de extremismo más potente del mundo”.

Dijo que la gente estaba adoptando ideologías antiautoritarias, teorías de conspiración y diversos agravios, y aunque las redes sociales no eran el único impulsor, dijo que Asio las consideraba un “impulsor importante”.

“Las redes sociales permiten compartir ideologías extremistas, conspiraciones, desinformación y desinformación a una escala y velocidad sin precedentes”, dijo.

Dijo que la radicalización ahora puede llevar días y semanas en lugar de meses y años como antes, siendo el autor más probable de un ataque terrorista un actor solitario.

“La masacre de Christchurch es sólo un ejemplo. El perpetrador utilizó Internet para investigar y refinar su ideología, y las redes sociales para transmitir en vivo su ataque”, dijo.

Dijo que en un caso, un presunto perpetrador reconoció que la disponibilidad de contenido extremista en línea lo había llevado “al límite”.

El jefe de Asio destacó Telegram, que recientemente acordó cooperar con las autoridades después del arresto y acusación de su fundador, Pavel Durov, en Francia por supuestamente no actuar contra los delincuentes que utilizan la aplicación.

“Comparten contenido de Internet en las redes sociales y utilizan las redes sociales como puerta de entrada a partes oscuras de Internet, lugares como una sala de chat de Telegram conocida como Terrorgram”, dijo.

“Los extremistas violentos nacionalistas y racistas –incluidos los australianos– están utilizando Terrorgram para comunicarse con extremistas extranjeros y entre sí, discutiendo cómo provocar una guerra racial en este país”.

Burgess también repitió argumentos anteriores sobre el cifrado de extremo a extremo, lo que hace mucho más difícil para las fuerzas del orden investigar delitos en las plataformas de redes sociales.

“Reconozco que la privacidad es importante, pero no es absoluta. Como dije antes, la tecnología no debería estar por encima del Estado de derecho”.

Burgess dijo que los algoritmos en combinación con el aislamiento social y la mala salud mental pueden llevar a algunos a meterse en madrigueras en línea hacia contenido extremista como material “incel” o contenido terrorista.

“Como nación, debemos reflexionar sobre por qué algunos jóvenes adolescentes cuelgan banderas nazis y retratos del asesino de Christchurch en las paredes de sus dormitorios, por qué otros comparten vídeos de decapitaciones en el patio de la escuela y, lo que es más preocupante, por qué hay jóvenes australianos dispuestos a matan en nombre de sus creencias”, dijo.

“Cuando Asio y las autoridades se ocupan de este problema, normalmente ya es demasiado tarde”.

Burgess dijo que si Internet ya estaba demostrando ser “la mayor incubadora de extremismo del mundo” y las redes sociales el “mayor acelerador del mundo”, entonces la inteligencia artificial “aumentaría la incubación y aceleraría la aceleración”.

“Asio evalúa que la inteligencia artificial permitirá un cambio radical en el entorno de amenazas”, dijo.

“Es probable que la IA haga que la radicalización sea más fácil y rápida. Ya somos conscientes de que los extremistas están experimentando con la IA y es probable que intenten utilizarla para mejorar sus campañas de reclutamiento, incluso a través de las redes sociales”.

Dijo que la IA también aumentaría el volumen del espionaje.

A pesar de pintar un panorama sombrío, Burgess dijo que Asio “ciertamente no es la respuesta y tampoco queremos serlo”.

“Cualquier propuesta para regular las redes sociales debe equilibrarse con la libertad de expresión, la libre elección y el libre mercado”.

La cumbre de dos días sobre redes sociales, celebrada en Sydney y Adelaida, se centró en el impacto de las redes sociales en los jóvenes, antes de los planes del gobierno federal de restringir el acceso a las redes sociales por parte de los adolescentes más jóvenes. El gobierno anunció el viernes que dependería de las propias plataformas hacer cumplir los límites de edad, una vez decididos.