Reseña de Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA de Yuval Noah Harari – Rage Against the Machine | Libros de ciencia y naturaleza

Yo¿Qué te viene a la mente cuando piensas en el inminente apocalipsis de la IA? Si te gustan los clichés de las películas de ciencia ficción, es posible que te imagines robots asesinos (con o sin marcado acento austriaco) que se alzan para acabar con sus arrogantes creadores. O tal vez, a lo La matrizoptarás por máquinas aterradoras que succionarán energía de nuestros cuerpos mientras nos distraen con una realidad simulada.

Para Yuval Noah Harari, que ha dedicado mucho tiempo a preocuparse por la IA durante la última década, la amenaza es menos fantástica y más insidiosa. “Para manipular a los humanos, no es necesario conectar físicamente cerebros a ordenadores”, escribe en su nuevo y apasionante libro. Nexo“Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje para manipular y remodelar la sociedad. Ahora, las computadoras están aprendiendo a hacerlo. Y no necesitarán enviar robots asesinos para dispararnos. Podrían manipular a los seres humanos para que aprieten el gatillo”.

El lenguaje –y la capacidad humana de tejer con él vastas historias que abarcan todo el planeta– es fundamental para que el historiador israelí, que ahora va por su cuarto libro de divulgación científica, comprenda nuestra especie y sus vulnerabilidades. En su megaéxito de 2014 Sapiens (En su libro The New York Times (publicado originalmente en hebreo en 2011), afirmaba que los humanos se volvieron dominantes porque aprendieron a cooperar en grandes cantidades, gracias a una nueva aptitud para contar historias. Esa aptitud, que permitió a nuestros antepasados ​​creer en cosas completamente imaginarias, se encuentra en la raíz de nuestras religiones, economías y naciones, todas las cuales se disolverían si de alguna manera se desactivaran nuestras facultades narrativas.

Sapiens Se han vendido 25 millones de copias hasta la fecha, un testimonio de la destreza narrativa del propio Harari, aunque ha tenido su cuota de detractores. Los académicos cuestionaron su precisión y la idea de atiborrar 70.000 años de historia humana en 450 páginas. Las comedias de situación se burlaron de los superfans de Harari que agitan el libro como si fuera una Biblia moderna. Sapiens radica en su vertiginoso alcance pero, como 2020 neoyorquino perfil Como señaló Harari, el enfoque alejado puede tener el efecto de minimizar la importancia de los asuntos actuales.

Nexo Podría verse como una reprimenda a esa crítica. Aunque realiza su propio viaje vertiginoso a través de los milenios, saltando de un lado a otro en el tiempo y entre continentes, está muy preocupada por lo que está sucediendo hoy.

Si las historias fueran fundamentales para el esquema de SapiensEn este caso, se trata de redes de información, que Harari considera las estructuras básicas que sustentan nuestras sociedades. “El poder siempre surge de la cooperación entre un gran número de seres humanos”, escribe, y el “pegamento” que mantiene unidas estas redes de cooperación es la información, que “muchos filósofos y biólogos” consideran “el elemento básico de la realidad”.

Pero la información no dice de manera fiable la verdad sobre el mundo. Más a menudo, subraya Harari, da lugar a ficciones, fantasías y delirios de masas, que conducen a acontecimientos tan catastróficos como el nazismo y el estalinismo. un hombre sabio¿Por qué, a pesar de todos sus éxitos evolutivos, el ser humano es tan perennemente autodestructivo? “La culpa”, según Harari, “no está en nuestra naturaleza, sino en nuestras redes de información”.

Al analizar cómo la información nos ha llevado por mal camino en el pasado, Harari no tiene escasez de ejemplos a los que recurrir. Uno de los más sangrientos y memorables es Martillo de brujasescrito por el fraile dominico Heinrich Kramer en Austria en la década de 1480. Una guía para desenmascarar y asesinar a las brujas de formas delirantemente horribles, el libro no habría viajado muy lejos si la imprenta no se hubiera inventado unas décadas antes, lo que permitió que las ideas desquiciadas de Kramer se difundieran por toda Europa y alimentaran un frenesí de caza de brujas.

El argumento básico de Harari es que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero siempre tienen un coste. Cuando inventamos nuevas y brillantes tecnologías que transmiten palabras e ideas más lejos y más rápido que nunca, gran parte de la información que se desprende es basura o directamente peligrosa. No ayuda el hecho de que, cuando se trata de mantener el orden social, las ficciones tienden a ser agentes aglutinantes más fiables que las verdades.

Lo que da miedo de la revolución de la IA no es solo que nos veamos abrumados por la desinformación procedente de los chatbots, o que los poderes fácticos la utilicen para analizar datos sobre nuestra vida privada. A diferencia de tecnologías anteriores, como los libros y las radios, escribe Harari: “La IA es la primera herramienta capaz de tomar decisiones y generar ideas por sí misma”. Vimos una advertencia temprana de esto en Myanmar en 2016-17, cuando los algoritmos de Facebook, encargados de maximizar la participación de los usuarios, respondieron Promover propaganda odiosa contra los rohingya que alimentó el asesinato en masa y la limpieza étnica.

Harari expone argumentos sólidos sobre por qué deberíamos considerar a estos algoritmos como agentes autónomos y cómo, si no tenemos cuidado, los humanos podrían convertirse en herramientas para que la IA los manipule con una fuerza cada vez más terrible. A menos que tomemos medidas inmediatas, esta floreciente “inteligencia alienígena”, como él prefiere llamarla, podría desencadenar catástrofes que ni siquiera podemos imaginar, incluida la destrucción de la civilización humana.

Esta visión pesimista de la IA no es nada nuevo: los “agoreros” como Eliezer Yudkowsky llevan años advirtiendo de su potencial apocalíptico e incluso la industria de la IA ha empezado a manifestar sus preocupaciones. Lo que Harari pretende añadir al debate es una visión a largo plazo. Al aplicar su perspectiva a las revoluciones de la información anteriores y mostrar cómo han reaccionado a ellas las distintas formas de gobierno, cree que podemos prepararnos para los terremotos que se avecinan.

Nexo El libro tiene algunos puntos ciegos curiosos; es extraño que, en una crítica de una tecnología impulsada en gran medida por corporaciones con ánimo de lucro, apenas se mencione al capitalismo. Pero, independientemente de si se está de acuerdo o no con el marco histórico que Harari presenta de la IA, es difícil no quedar impresionado por la meticulosa forma en que la construye, salpicando lo que podría ser un análisis bastante árido con ejemplos vívidos, como la historia de Cher Ami, una paloma mensajera de la Primera Guerra Mundial, que se utiliza aquí para desentrañar la fundamentalmente escurridiza de la información. Como en libros anteriores, se apoya en gran medida en listas (“los dos desafíos principales”, “los cinco principios básicos”) y binarias (verdad versus orden, democracia versus dictadura), pero esto sirve para organizar su pensamiento en lugar de embotar la escritura.

Las soluciones que propone para restringir el poder de la IA van desde las sensatas (prohibir a los bots hacerse pasar por humanos) hasta las risibles (alentar a los artistas y burócratas a “cooperar” para ayudar al resto de nosotros a entender la red informática), pero Nexo funciona principalmente como un diagnóstico y un llamado a la acción, y en esos términos es ampliamente exitoso. Si se vende tan bien como Sapiens Si lo hacemos, estaremos un poco mejor equipados como especie para lidiar con el ascenso de las máquinas.