Los californianos quieren controles sobre la IA. ¿Por qué Gavin Newsom vetó un proyecto de ley sobre seguridad de la IA? | Guarnición encantadora

doEl gobernador de California, Gavin Newsom, anuló recientemente la SB1047, el primer proyecto de ley de seguridad de inteligencia artificial de su tipo. discutiendo que su enfoque sólo en los modelos de IA más grandes deja de lado los más pequeños que también pueden ser riesgosos. En lugar de ello, afirma, deberíamos aprobar regulaciones exhaustivas sobre esta tecnología.

Si esto no le parece del todo correcto, no está solo.

A pesar de las afirmaciones de destacados opositores al proyecto de ley eso “Literalmente nadie quiere esto”, la SB1047 fue popular, realmente popular. Fue aprobada por la legislatura de California con una promedio de dos tercios de cada cámara votando a favor. Seis encuestas estatales que presentaron argumentos a favor y en contra del proyecto de ley espectáculo fuerte mayorías en apoyocual rosa encima tiempo. Una encuesta nacional de septiembre encontró El 80% de los estadounidenses pensó que Newsom debería firmar el proyecto de ley. También fue respaldado por el dos más citado Investigadores de IA vivos, junto con más de 110 Personal actual y anterior de las cinco principales empresas de IA.

El núcleo de SB1047 habría establecido responsabilidad para los creadores de modelos de IA en caso de que causen una catástrofe y el desarrollador no tomó las medidas de seguridad adecuadas.

Estas disposiciones recibió apoyo de al menos el 80% de los votantes de California en una encuesta de agosto.

Entonces, ¿cómo le damos sentido a esta división?

Todas las encuestas antes mencionadas fueron encargadas o realizadas por grupos simpatizantes de la SB1047, lo que llevó a los opositores a despedirlos como parcial.

Pero incluso cuando un centro de encuestas que simpatizaba con el proyecto de ley colaboró ​​con un oponente para probar argumentos “estafadores” en septiembre, 62% de los californianos estaban a favor.

Además, estos resultados no me sorprenden en absoluto. Estoy escribiendo un libro sobre la economía y la política de la IA y he analizado años de las encuestas a nivel nacional sobre el tema. Los hallazgos son bastante consistentes: la gente se preocupa por los riesgos de la IA, favorece las regulaciones y no confía en que las empresas se controlen a sí mismas. Increíblemente, estos recomendaciones tender Esto es válido tanto para los republicanos como para los demócratas.

Entonces, ¿por qué Newsom se opondría al proyecto de ley popular?

Bueno, la factura fue resistió ferozmente por la mayor parte de la industria de la IA, incluida Google, Meta y Abierto AI. Estados Unidos ha dejado que la industria autorregularsey estas empresas desesperadamente no quiero que cambiar – lo que los sonidos que sus líderes hacen en sentido contrario.

Los inversores en IA, como el fondo de riesgo Andreessen Horowitz, también conocido como a16z, montado una campaña de desprestigio contra el proyecto de ley, diciendo cualquier cosa pensaron que acabaría con la factura y contratar cabilderos con estrechos vínculos con Newsom.

IA “madrina” y el profesor de Stanford Fei-Fei Li repitió como un loro el discurso de Andreessen Horowitz. engañoso puntos de conversación sobre el proyecto de ley en las paginas de la Fortuna, sin revelar nunca que ella corre una startup de IA de mil millones de dólares respaldada por la empresa.

Luego, ocho congresistas demócratas de California pidieron a Newsom un veto en un carta abiertaque fue publicado por primera vez por un socio de Andreessen Horowitz.

Los tres nombres principales en la carta del Congreso –Zoe Lofgren, Anna Eshoo y Ro Khanna– tienen tomado colectivamente más de 4 millones de dólares en contribuciones políticas de la industria, lo que representa casi medio de los 20 principales contribuyentes de su vida. Google fue, con diferencia, su mayor donante, con casi 1 millón de dólares en total.

La sentencia de muerte probablemente provino de la ex presidenta de la Cámara de Representantes, Nancy Pelosi, quien publicó su propia declaración contra el proyecto de ley, citando la carta del Congreso y el artículo de opinión de Li Fortune.

En 2021, los periodistas descubierto que lofgren hija es abogado de Google, lo que llevó a un organismo de control a preguntar Pelosi negociará su recusación de funciones de supervisión antimonopolio.

¿Quién salió en defensa de Lofgren? Eshoo y Khanna.

Tres años después, Lofgren permanece en estos rolesque tienen ayudó su bloquear esfuerzos para frenar a las grandes tecnologías – contra el voluntad incluso de sus electores de Silicon Valley.

Pelosi’s 2023 divulgación financiera muestra que su marido poseía entre 16 y 80 millones de dólares en acciones y opciones de Amazon, Google, Microsoft y Nvidia.

Cuando le pregunté si estas inversiones plantean un conflicto de intereses, el portavoz de Pelosi respondió: “La presidenta Pelosi no posee acciones y no tiene conocimiento previo ni participación posterior en ninguna transacción”.

El autor principal de la SB1047, el senador estatal de California Scott Wiener, es ampliamente esperado postularse para el escaño de Pelosi en el Congreso tras su jubilación. ¿Su probable oponente? Christine Pelosi, hija del expresidente, alimentando especulación que Pelosi puede estar intentando despejar el campo.

En Silicon Valley, la IA es lo más popular y se percibe como un boleto hacia la fortuna y el poder. En el Congreso, la IA es algo que se debe regular… más adelante, para no alterar una de las industrias más ricas del país.

Pero la realidad sobre el terreno es que la IA es más a fuente de miedo y resentimiento. Los legisladores estatales de California, que tienen los pies en la tierra más que los demócratas nacionales de alto nivel, parecen estar reflexionando genuinamente (o incluso moderando – la voluntad de sus electores.

Sunny Gandhi del grupo de defensa de la tecnología juvenil Codificar la justiciaque copatrocinó el proyecto de ley, me dijo: “Cuando le dices a la persona promedio que los gigantes tecnológicos están creando las herramientas más poderosas en la historia de la humanidad pero se resisten a medidas simples para prevenir daños catastróficos, su reacción no es solo incredulidad: es indignación. Esto no es sólo un desacuerdo político; es un abismo moral entre Silicon Valley y Main Street”.

Newsom acaba de decirnos cuál de estos valora más.

• Guarnición encantadora (@GarrisonLovely) es un periodista que ha colaborado con The Nación, jacobinoEl New York Timesfuturo de la BBC, el BordeTIME, Vox y otros lugares. Él escribe “El boletín obsoleto”y es autor de un libro de próxima publicación sobre la economía y la geopolítica de la carrera por construir superinteligencia de máquinas.