Desatamos los algoritmos de Facebook e Instagram en cuentas en blanco. Nos sirvieron sexismo y misoginia | Meta

yo¿Cómo afectan los algoritmos de Facebook e Instagram a lo que ves en tu muro de noticias? Para averiguarlo, Guardian Australia los lanzó a un teléfono inteligente completamente en blanco vinculado a una dirección de correo electrónico virgen.

Tres meses después, sin que nadie les hubiera aportado nada, fueron inundados de contenidos sexistas y misóginos.

Los perfiles de John Doe se crearon en abril como perfiles genéricos de hombres de 24 años. Facebook pudo recopilar otra información, como el tipo de teléfono y su ubicación en Melbourne, pero optamos por no realizar el seguimiento de anuncios, por lo que no pudo saber qué estábamos haciendo fuera de la aplicación.

Facebook no tenía mucho en qué apoyarse, ya que no había ningún tipo de “me gusta”, comentarios o cuentas añadidas como amigos. Mientras tanto, Instagram exige a los usuarios que sigan al menos cinco cuentas para empezar, por lo que elegimos las cuentas recomendadas más populares, entre ellas la del primer ministro y Bec Judd.

Meta dice que sus algoritmos clasifican el contenido según los intereses de las personas, pero queríamos averiguar a dónde nos llevaría en ausencia de esos datos. Revisamos el feed cada dos semanas para comprobar qué se ofrecía.

¿Qué vimos?

Al principio, Facebook ofrecía chistes de The Office y otros memes relacionados con comedias de situación junto con publicaciones de 7 News, Daily Mail y Ladbible. Un día después, comenzó a mostrar memes de Star Wars y contenido de gimnasio o de estilo “dudebro”.

Para el tercer día, comenzaron a aparecer memes de tipo “católico tradicional” y el feed viró hacia contenido más sexista.

Tres meses después, los memes de The Office, Star Wars y ahora The Boys siguen apareciendo en el feed, ahora intercalados con imágenes altamente sexistas y misóginas que han aparecido en el feed sin ninguna intervención del usuario.

En Instagram, aunque la página de exploración se ha llenado de mujeres escasamente vestidas, el feed es en gran medida inocuo y recomienda principalmente contenido relacionado con Melbourne y personas influyentes en el mundo de la gastronomía.

Se contactó a Meta para pedirle comentarios, pero se negó a responder oficialmente.

En su presentación a la investigación de redes sociales del parlamento federal, Meta dice que utiliza “una variedad de algoritmos diferentes” para ayudar a clasificar el contenido que se muestra en los feeds de Facebook e Instagram, y algunos nos ayudan a “comprender qué contenido es más significativo para las personas para que podamos ordenarlo en consecuencia en sus feeds”.

La compañía dijo que lo que la gente ve está “fuertemente influenciado por sus propias elecciones y acciones” y que “el feed de cada persona es altamente personalizado y específico para ellos”.

“Nuestro sistema de clasificación personaliza el contenido para más de mil millones de personas y tiene como objetivo mostrarles a cada uno de ellos el contenido que esperamos que sea más valioso y significativo, cada vez que accedan a Facebook o Instagram”.

La compañía dice que evalúa las publicaciones en busca de señales como quién las publicó, qué tan populares son, el tipo de dispositivo utilizado y luego utiliza algoritmos de clasificación para predecir la probabilidad de que la publicación sea relevante y significativa para una persona.

“El objetivo es garantizar que las personas vean lo que les resulte más significativo, no mantenerlas pegadas a sus teléfonos inteligentes durante horas y horas”.

Meta dijo que también utiliza la clasificación para evaluar si es probable que una publicación sea problemática, pero no viola los estándares de la comunidad. Eso incluye clickbait, noticias poco originales y publicaciones verificadas como falsas.

Está “integrado en el modelo”

Los hallazgos de Guardian Australia coinciden con Experimentos similares realizados en 2022 y 2024 en Australia e Irlanda en YouTube y TikTok, en los que varias cuentas creadas por hombres jóvenes y adolescentes fueron canalizadas a contenido de “Manosphere”.

La Dra. Stephanie Wescott, profesora de humanidades y ciencias sociales en la Universidad de Monash, Realizó una investigación sobre la influencia de los influencers de Manosfera Al igual que Andrew Tate sobre los niños en edad escolar, le dijo a Guardian Australia que los resultados de nuestra investigación para Facebook no fueron sorprendentes.

“Basándonos en la investigación que estoy realizando y también en lo que sabemos (de otras investigaciones), esto es lo que sabemos que el algoritmo proporcionará y ofrecerá a los hombres jóvenes, basándose en lo que suponemos que captará su interés”, dijo.

“Es un poco degradante para los hombres que el algoritmo haga esta suposición sobre sus intereses… (que) les van a gustar este tipo de memes misóginos”.

Nicholas Carah, profesor asociado de medios digitales en la Universidad de Queensland, dijo que el experimento mostró hasta qué punto está “integrado en el modelo” ofrecer ese tipo de contenido a hombres jóvenes en Facebook.

“Tenemos que pensar seriamente en el entorno informativo en el que están inmersos los jóvenes y el problema con las plataformas es que han hecho que ese entorno informativo sea completamente oscuro y efímero para cualquiera, excepto para esos jóvenes”, dijo.

“Tiene que haber algún tipo de imperativo público aquí donde las plataformas ayuden a la sociedad civil, periodistas, investigadores, reguladores, quien sea, a observar cómo son estos flujos de información para que podamos tener algún tipo de comprensión pública, escrutinio público y debate público sobre ellos”.

Wescott dijo que las plataformas necesitan responder preguntas sobre cómo funcionan los algoritmos porque actualmente no son responsables.

“Son irreprochables y no parecen dispuestos a introducir ningún tipo de modificación o restricción en su algoritmo”.

'Río de basura total'

Carah afirma que la calidad de lo que se ofrece en Facebook a cada usuario en Australia ha disminuido en los últimos años, coincidiendo con la decisión de Meta de restar prioridad a las noticias mientras se prepara para luchar contra el pago a las empresas de medios según el código de negociación de medios de comunicación de Australia.

“Los australianos están ahora inmersos en este río de basura total en Facebook. Tengo curiosidad: ¿esto significa que todos seguiremos navegando por esta basura? ¿O Facebook está realmente socavando su propio producto con esto?”

Wescott dice que es importante educar a las personas para que evalúen críticamente lo que se les ofrece en las redes sociales y no lo acepten como un reflejo de la realidad. Ella elogia la iniciativa del gobierno federal. Campaña Detenerlo al inicioque incluye un “Algoritmo de falta de respeto” interactivo que representa lo que un joven puede encontrar en las redes sociales.

El gobierno federal también ha financiado un ensayo de tres años con un coste de 3,5 millones de dólares para contrarrestar los efectos nocivos de los mensajes de las redes sociales dirigidos a hombres jóvenes y niños.

La ministra de Comunicaciones, Michelle Rowland, dice que las plataformas digitales necesitan hacer más para garantizar que se respeten los estándares de la comunidad tanto en línea como fuera de línea.

“Estamos viendo contenido misógino que se transmite a los jóvenes a través de algoritmos y sistemas de recomendación en las redes sociales. Esto simplemente no es suficiente”, afirma.

“Nuestra expectativa es clara: las plataformas en línea deben tomar medidas razonables para garantizar que los australianos puedan usar sus servicios de manera segura y minimizar de manera proactiva el material y la actividad ilegales y dañinos en sus servicios”.

La ministra de Servicios Sociales, Amanda Rishworth, dice que combatir las actitudes y comportamientos misóginos en el mundo en línea y fuera de línea ayudará a lograr el plan nacional para poner fin a la violencia contra las mujeres y los niños en una generación.

“Alrededor del 25% de los adolescentes australianos admiran a personalidades de las redes sociales que perpetúan estereotipos de género dañinos y toleran la violencia contra las mujeres; esto es impactante”, afirma.

“Y, en particular, si este contenido se ofrece en los canales sociales de hombres jóvenes sin interacción alguna, las empresas de redes sociales deben hacer más”.