Más de 9.000 páginas fraudulentas de Facebook eliminadas después de que los australianos perdieran 43,4 millones de dólares por deepfakes de celebridades | Meta

Los australianos pudieron ver menos imágenes deepfake de celebridades esposadas o promocionando una inversión fraudulenta en criptomonedas en Facebook, después de que Meta lanzó una nueva ventanilla única para que los bancos compartan información sobre estafas que ha bloqueado 8.000 páginas y 9.000 estafas de celebridades en su primeros seis meses de funcionamiento.

De enero a agosto de 2024, los australianos informaron a Scamwatch de 43,4 millones de dólares en pérdidas por estafas en las redes sociales, de los cuales cerca de 30 millones de dólares estaban relacionados con estafas de inversiones falsas.

Meta, la empresa matriz de Facebook e Instagram, se ha enfrentado a la presión de políticos y reguladores en los últimos años para hacer frente a la plaga de estafas con imágenes deepfake de figuras públicas como David Koch, Gina Rinehart, Anthony Albanese, Larry Emdur, Guy Sebastian. y otros que se utilizan para promover estafas de inversión.

La empresa está siendo demandada por el magnate minero Andrew Forrest por el presunto fracaso de la empresa a la hora de abordar las estafas utilizando su imagen.

Meta anunció el miércoles que se había asociado con la Bolsa Australiana de Delitos Financieros (AFCX) para lanzar el Intercambio Recíproco de Inteligencia de Fraude (Fire) que proporciona un canal de denuncia dedicado a estafas entre Meta y los proveedores financieros de las víctimas de las estafas. Permite a los bancos informar directamente a Meta sobre estafas conocidas y también le permite a Meta informar a todos los bancos involucrados sobre las estafas que ha descubierto en su plataforma.

Siete bancos (ANZ, Bendigo Bank, CBA, HSBC, Macquarie, NAB, Westpac) participan en el programa Fire. Esto es independiente del Servicio de intercambio de información Intel Loop de AFCX involucrando a esos bancos, junto con Optus, Pivotel, Telstra y TPG, y el Centro Nacional Antiestafa.

Desde el lanzamiento de una prueba piloto en abril, ha habido 102 informes, lo que resultó en que Meta eliminara más de 9.000 páginas fraudulentas y 8.000 estafas de inversiones de celebridades generadas por IA en Facebook e Instagram.

Si bien los resultados iniciales son prometedores, la cantidad de informes de Fire palidece en comparación con la cantidad de pérdidas reportadas a Scamwatch, con 1,600 pérdidas reportadas por estafas en las redes sociales solo en agosto.

Meta ha dicho a nivel mundial que en el último trimestre eliminó 1.200 millones de cuentas falsas, el 99,7% de las cuales fueron eliminadas antes de ser denunciadas por un usuario.

Rhonda Lau, jefa de participación de partes interesadas de AFCX, dijo a los periodistas el martes que el objetivo del programa era hacer de Australia un objetivo menos atractivo para los estafadores.

David Agranovich, director de interrupción de amenazas globales en Meta, dijo a los periodistas el martes que el sistema permitiría a Meta ver más actividad fraudulenta que ocurre fuera de sus propias plataformas para poder unir los puntos con lo que está sucediendo en Facebook e Instagram.

“Este canal permite a las instituciones financieras proporcionar conocimientos e inteligencia que nosotros, como plataforma, podemos y a menudo no vemos de la actividad fraudulenta que podría estar ocurriendo en los servicios de esas instituciones financieras”, dijo.

Meta proporciona listas de dominios que ha bloqueado a los otros socios y pronto brindará a la plataforma Fire acceso a su sistema de intercambio de amenazas, que Meta utiliza para detectar señales asociadas con operaciones de influencia encubierta, abuso infantil y otras actividades criminales en sus plataformas.

“Los estafadores no van a detener sus actividades. Una vez que los hayamos bloqueado, buscarán nuevas formas de regresar, nuevas formas de sortear nuestra defensiva, razón por la cual el intercambio continuo de información como este es tan crítico”, dijo.

Agranovich admitió que los australianos se sentirían frustrados por la dificultad de denunciar estafas a Meta y eso era algo que la empresa pretendía mejorar.

“Lo que encontramos es que hay una gran cantidad de cosas que deben ser eliminadas de manera automatizada, ya sea por nuestra detección de escala o por nuestros investigadores que buscan cosas que pasaron esa detección, pero todavía hay cosas que están logrando superarla”, dijo. dicho. “Y el intercambio de señales de socios como AFCX y de bancos o de usuarios que ven cosas en la plataforma puede ayudarnos a descubrir por qué y dónde están fallando esos sistemas de detección automatizados”.

Tanto Commonwealth Bank como ANZ acogieron con agrado la colaboración en los comentarios proporcionados por Meta.

El mes pasado, el tesorero adjunto de Australia, Stephen Jones, proyecto de ley publicado para un marco de prevención de estafas que daría lugar a códigos aplicados a bancos, empresas de telecomunicaciones y empresas de redes sociales para tomar medidas contra las estafas y tener procesos adecuados de resolución de disputas para las víctimas de estafas. La consulta sobre el proyecto de ley finaliza el 4 de octubre.