James Muldoon, Mark Graham y Callum Cant: “La IA se nutre del trabajo de los seres humanos” | Inteligencia artificial (IA)

YoAmes Muldoon es profesor de administración en la Universidad de Essex, Mark Graham es profesor en el Instituto de Internet de Oxford y Callum Cant es profesor titular en la escuela de negocios de la Universidad de Essex. Trabajan juntos en Trabajo justoun proyecto que evalúa las condiciones de trabajo en los espacios de trabajo digitales, y son coautores de Alimentar la máquina: el trabajo humano oculto que impulsa la IA.

¿Por qué escribiste el libro?
James Muldoon: La idea del libro surgió del trabajo de campo que realizamos en Kenia y Uganda sobre la industria de la anotación de datos. Hablamos con varios anotadores de datos y las condiciones de trabajo eran simplemente horrendas. Y pensamos que esta es una historia que todo el mundo debe escuchar. Personas que trabajan por menos de dos dólares la hora con contratos inseguros, un trabajo que se subcontrata predominantemente al sur global debido a lo difícil y peligroso que puede ser.

¿Por qué África Oriental?
Mark Graham: Empecé a investigar en África oriental en 2009, en concreto sobre el primero de los muchos cables submarinos de fibra óptica que conectarían África oriental con el resto del mundo. La investigación se centraba en lo que esta nueva conectividad suponía para la vida de los trabajadores de África oriental.

¿Cómo accedió usted a estos lugares de trabajo?
Mark Graham: En Fairwork, la idea básica es que establecemos principios de trabajo decente y luego evaluamos a las empresas en función de ellos. Les damos una puntuación del 1 al 10. Y así fue como las empresas de Nairobi y Uganda se abrieron a nosotros, porque íbamos a darles una puntuación y querían una mejor. Fuimos a ellas con un cero sobre 10 y les dijimos: “Miren, hay trabajo por hacer para mejorar”.

¿Y las empresas responden? ¿Discuten sus bajas puntuaciones?
Mark Graham: Hay toda una gama de respuestas. Algunos argumentan que las cosas que les pedimos que hagan simplemente no son posibles. Dicen cosas como: “No es nuestra responsabilidad hacer estas cosas”. La belleza de las puntuaciones es que podemos señalar a otras empresas que las están haciendo. Podemos decir: “Mira, esta empresa hace eso. ¿Qué te pasa? ¿Por qué no puedes tener esta condición para tus trabajadores?”

¿Puedes hablarnos de los ecos del colonialismo que encontraste en este trabajo de datos?
Mark Graham: El antiguo ferrocarril del este de África conectaba Uganda con el puerto de Mombasa. Lo financiaba el gobierno británico y se utilizaba básicamente para extraer recursos del este de África. Lo interesante de la conectividad por fibra óptica en el este de África es que sigue un recorrido muy similar al del antiguo ferrocarril y también es una tecnología de extracción.

¿Podrías explicarnos tu concepto de “máquina de extracción”?
Callum Cant: Cuando vemos un producto de IA, tenemos la tendencia a pensar que fue creado de manera relativamente espontánea y no pensamos en el trabajo humano, los requisitos de recursos y todo lo demás que ocurre detrás de él.

Para nosotros, la máquina de extracción es una metáfora que nos permite pensar mucho más en el trabajo, los recursos, la energía y el tiempo de quién se han invertido en ese proceso. El libro es un intento de pasar de la apariencia superficial de una elegante página web o de las imágenes de redes neuronales a la realidad material de cuando esto llega a tu lugar de trabajo: ¿cómo es la IA y cómo interactúa con las personas?

James Muldoon: Creo que a mucha gente le sorprendería saber que el 80% del trabajo que hay detrás de los productos de IA es en realidad anotación de datos, no ingeniería de aprendizaje automático. Y si tomamos el ejemplo de un vehículo autónomo, una hora de datos de vídeo requiere 800 horas humanas de anotación de datos. Por lo tanto, es una forma de trabajo increíblemente intensiva.

¿En qué se diferencia este concepto de la idea de capitalismo de vigilancia de Shoshana Zuboff?
James Muldoon: El capitalismo de vigilancia es la mejor descripción de empresas como Google y Facebook, que ganan dinero principalmente a través de la publicidad dirigida. Es una descripción adecuada de un proceso que va de los datos a la publicidad, pero en realidad no refleja el papel infraestructural más amplio que desempeñan ahora las grandes empresas tecnológicas. La máquina de extracción es una idea que desarrollamos para hablar de manera más amplia sobre cómo las grandes empresas tecnológicas se alimentan del trabajo físico e intelectual de los seres humanos, ya sean trabajadores de Amazon, creativos, anotadores de datos o moderadores de contenido. En realidad, es un concepto mucho más visceral, político y global para mostrar las formas en que estas empresas explotan y extraen todo nuestro trabajo.

Muchas de las preocupaciones sobre la IA se han centrado en los riesgos existenciales o en cómo la tecnología puede reforzar las desigualdades y los sesgos que existen en los datos con los que se entrena. Pero ¿usted sostiene que la mera introducción de la IA en la economía crea toda una serie de otras desigualdades?
Callum Cant: Podemos ver esto muy claramente en un lugar de trabajo como Amazon. El sistema de inteligencia artificial de Amazon, su tecnología de organización de la cadena de suministro, ha automatizado el proceso de pensamiento, y lo que los humanos tienen que hacer en un almacén de Amazon es este proceso de trabajo brutal, repetitivo y de alta tensión. Terminamos con una tecnología que pretende automatizar el trabajo servil y crear libertad y tiempo, pero de hecho lo que tenemos es que las personas se ven obligadas a hacer un trabajo más rutinario, aburrido y menos especializado debido a la inclusión de sistemas de gestión algorítmica en su lugar de trabajo.

En un capítulo del libro, escribes sobre Chloe, una actriz irlandesa, que descubrió que alguien estaba usando una copia de su voz generada por inteligencia artificial. Esto guarda cierta similitud con la reciente disputa entre Scarlett Johansson y OpenAI. Ella tiene una plataforma y los recursos financieros para desafiar esta situación, la mayoría de la gente no los tiene.
Callum Cant: Muchas de las soluciones no son individuales, sino que dependen del poder colectivo. Porque, al igual que cualquier otra persona, no tenemos la capacidad de decirle a OpenAI qué hacer. No les importa si algunos autores creen que están ejecutando un régimen de extracción que toma información. Estas empresas están financiadas con miles y miles de millones de libras de capital y en realidad no necesitan preocuparse por lo que pensemos de ellas.

Pero colectivamente, identificamos una serie de formas en las que podríamos contraatacar y empezar a intentar transformar la forma en que se está implementando esta tecnología. Porque creo que todos reconocemos que aquí hay un potencial emancipador, pero para alcanzarlo se requerirá una enorme cantidad de trabajo colectivo y conflicto en muchos lugares, porque hay gente que se está enriqueciendo enormemente gracias a esto y hay decisiones que toman un puñado muy, muy pequeño de personas en Silicon Valley que están empeorando nuestras vidas. Y hasta que no los obliguemos a cambiar la forma en que lo hacen, no creo que vayamos a obtener una mejor forma de tecnología de esto.

¿Qué le dirías a los lectores? ¿Qué medidas podrían tomar?
Callum Cant: La gente está en situaciones tan diferentes que es difícil dar un consejo universal. Si alguien trabaja en un almacén de Amazon, entonces organice a sus compañeros de trabajo y utilice su influencia contra su jefe. Si alguien trabaja como actor de doblaje, entonces necesita organizarse con otros actores de doblaje. Pero cada uno tendrá que reaccionar a esto en sus propias condiciones y es imposible dar un diagnóstico.

Todos somos clientes de las grandes tecnológicas. ¿Deberíamos, por ejemplo, boicotear a Amazon?
Callum Cant: Creo que organizarse en el trabajo es más poderoso, pero organizarse como consumidores también tiene un papel que desempeñar. Si hay diferencias claras y oportunidades para utilizar el consumo de forma apalancada, entonces por todos los medios, especialmente si los trabajadores involucrados lo piden. Si los trabajadores de Amazon llaman a un boicot, por ejemplo, el Viernes Negro, entonces alentamos a la gente a que lo escuche. Por supuesto. Pero tiene que haber un conjunto de principios que guíen cualquier acción que emprenda la gente en cualquier lugar, y el más importante de ellos es que la acción colectiva es el principal camino a seguir.