Las imágenes de las inundaciones en España no fueron creadas por IA. El problema es que la gente piensa que lo fueron | John Naughton

METROMe llamó la atención una fotografía sorprendente en la edición más reciente del boletín Substack de Charles Arthur. Calentamiento social. Muestra una calle estrecha después de la “bomba de lluvia” que devastó la región de Valencia en España. En un solo día cayó la cantidad de lluvia de un año y en algunas localidades cayeron más de 490 litros por metro cuadrado en ocho horas. El agua es muy pesada, por lo que si hay una pendiente fluirá cuesta abajo con el tipo de fuerza que puede levantar un SUV pesado y lanzarlo como si fuera un juguete. Y si fluye por una calle urbana estrecha, arrojará coches aparcados como King Kong de mal humor.

La fotografía del artículo de Arthur mostraba lo que había sucedido en una calle concreta. Tomada con un teleobjetivo desde el piso superior de un edificio, mostró una escena caótica y casi surrealista: unos 70 vehículos de todos los tamaños desordenados y dispersos en ángulos locos a lo largo de la calle.

Fue una imagen asombrosa que realmente me detuvo en seco. No en vano, también se volvió viral en las redes sociales. Y luego vino la reacción: “Imagen de IA, noticias falsas”. La fotografía era tan vívida, tan increíblemente nítida e irreal, que a los espectadores les pareció algo que podrían haber fingido usando Midjourney o Dall-E o una serie de otras herramientas de inteligencia artificial generativa.

Pero no era falso, como demostró Arthur en un bonito trabajo de detective. rastreando una barra en la imagen usar Facebook, encontrar la calle en Apple Maps e incluso “caminar” por ella usando Street View. “No está claro por qué esta gente pensó que esa foto en particular no era real”, escribe. “Tal vez sea algo relacionado con el brillo de los coches y la peculiar redondez de las formas, y tal vez la falta de daños evidentes”. ¿O es que la proliferación de falsificaciones generadas por IA ya está haciendo que la gente esté cada vez más predispuesta a no creer en cosas reales?

Mi corazonada es que es lo último, porque las redes sociales están siendo invadidas por lo que se ha dado en conocer como “desecho de IA”: imágenes y texto creados utilizando herramientas de IA generativa. (La tienda Kindle de Amazon es tener problemas similares con “libros” generados por IA, pero esa es una historia diferente.)

Uno habría pensado que a las empresas de redes sociales les molestaría este tsunami de basura en sus plataformas. Piensa de nuevo. De acuerdo a Jason Koebler del sitio web de noticias tecnológicas 404 Mediaen una reciente conferencia telefónica sobre ganancias trimestrales que versó abrumadoramente sobre IA, el director ejecutivo de Meta, Mark Zuckerberg, dijo que era probable que llegaran nuevos feeds generados por IA a Facebook y otras plataformas Meta. Zuckerberg dijo que estaba entusiasmado con la “oportunidad de que la IA ayude a las personas a crear contenido que simplemente mejore las experiencias de alimentación de las personas”.

Entusiasmándose con su tema, Zuck continuó: “Creo que vamos a agregar una categoría de contenido completamente nueva, que es contenido generado o resumido por IA o un tipo de contenido existente reunido por IA de alguna manera. Y creo que eso será muy emocionante para Facebook e Instagram y tal vez para Threads u otro tipo de experiencias de alimentación con el tiempo”.

Lo cual, en cierto modo, tiene mucho sentido: las ganancias de Meta dependen de mantener a los usuarios de sus plataformas “interesados” (es decir, dedicarles el mayor tiempo posible) y si la IA ayuda a lograr ese objetivo, ¿cuál es el problema?

Por el lado de la oferta, resulta que el material generado por IA también es rentable para quienes lo crean. Koebler ha pasado un año explorando este lado oscuro de las redes sociales. En India, se encontró con Gyan Abhishek, un analista que estudia la viralidad online. Abhishek le mostró una imagen sorprendente que se estaba utilizando para generar ingresos: la imagen de un anciano esquelético encorvado mientras era devorado por cientos de insectos.

“El público indio está muy emocionado” Abhishek explicó. “Después de ver fotos como esta, les dan 'me gusta', 'comentan' y las comparten. Así que tú también deberías crear una página como esta, subir fotos y ganar dinero con el bono de rendimiento”. También afirma que los creadores de imágenes virales pueden ganar 100 dólares por 1.000 “me gusta”, lo que suena como dinero para improvisar, al menos para este columnista.

Entonces, lo que tenemos aquí es un agradable circuito de retroalimentación positiva en el que los creadores de IA se benefician alimentando los algoritmos de participación de las plataformas de redes sociales, que a su vez se benefician del creciente “compromiso” que atraen las imágenes virales. El problema con los ciclos de retroalimentación positiva, sin embargo, es que dan lugar a un crecimiento desbocado y a la pregunta de qué sucede con las redes sociales cuando, como resultado, se convierten en una mierda terminal. Hacia donde se dirigen Meta y compañía.

lo que he estado leyendo

¿Qué tan frágil es la autocracia?
Una evaluación aleccionadora de la victoria de Trump y de Estados Unidos… Cómo se ve el futuro desde aquí – por el profesor Dave Karpf de la Universidad George Washington.

Haga clic aquí para más
Un ensayo revelador de Jason Kottke sobre el arte de escribir para la web y el poder que tienen los hipervínculos para intensificar una discusión.

El efecto almizcle
Maquiavelo del mercado – un ensayo oportuno sobre el enorme poder de los emprendedores escrito por Alex Gourevitch.