Pelosi critica el proyecto de ley de California para regular los modelos de inteligencia artificial: “Está mal informado”
La representante Nancy Pelosi se ha manifestado en contra de un proyecto de ley de alto perfil del estado de California que regularía la tecnología de inteligencia artificial de rápido crecimiento de las grandes empresas tecnológicas, describiendo el proyecto de ley como “bien intencionado pero mal informado”.
La SB 1047 de California establecería estándares de seguridad para modelos de IA cuyo entrenamiento cueste más de 100 millones de dólares y exigiría pruebas de seguridad previas al lanzamiento de los llamados modelos de IA “de frontera”, entre otros requisitos. La industria tecnológica, incluidos Meta, Google y la empresa de capital de riesgo Andreesen Horowitz, se opone a la medida.
Pelosi (demócrata de California), quien ha sido criticada por poseer una lucrativa cartera de acciones que incluye al proveedor de chips de inteligencia artificial Nvidia, la firma de software Databricks y otras importantes empresas tecnológicas mientras aún estaba en el cargo, argumentó que el proyecto de ley podría sofocar la innovación.
“Si bien queremos que California sea líder en inteligencia artificial de una manera que proteja a los consumidores, los datos, la propiedad intelectual y más, la SB 1047 es más dañina que útil en ese objetivo”, dijo Pelosi en una extensa declaración.
Pelosi señaló que varios legisladores demócratas de California, incluidos los representantes Zoe Lofgren, Anna Eshoo y Ro Khanna y el gobernador Gavin Newsom, han expresado preocupaciones sobre la legislación o se han opuesto directamente a ella.
También citó la opinión de la académica de inteligencia artificial de la Universidad de Stanford, Fei-Fei Li, quien advirtió que el proyecto de ley “tendría importantes consecuencias no deseadas que sofocarían la innovación y dañarían el ecosistema de inteligencia artificial de Estados Unidos”, según la declaración de Pelosi.
El proyecto de ley fue presentado por el senador estatal de California Scott Weiner, quien se espera que compita contra la hija de Pelosi, Christine, para ocupar su escaño en la Cámara de Representantes de Estados Unidos cuando la ex presidenta deje el cargo.
Weiner dijo que estaba “respetuosa y firmemente” en desacuerdo con Pelosi.
“La innovación y la seguridad no son mutuamente excluyentes, y rechazo la falsa afirmación de que para innovar debemos dejar la seguridad únicamente en manos de las empresas tecnológicas y los capitalistas de riesgo”, afirmó Weiner.
La legislación es una batalla clave en el debate nacional sobre cómo el gobierno debería regular los poderosos modelos de IA creados por empresas como Google y OpenAI de Sam Altman.
Los críticos advierten que los sistemas avanzados de IA podrían representar un riesgo importante para la sociedad (desde la propagación de información errónea hasta incluso la destrucción de la humanidad) si no se implementan las medidas de protección adecuadas.
El proyecto de ley SB 1047 se someterá a votación en la asamblea estatal de California a finales de agosto.
Los detractores del proyecto de ley afirman que la legislación sólo perjudicará a Estados Unidos en su intento de liderar la carrera de la IA avanzada.
En junio, el jefe de Meta AI, Yann LeCun Se discutió el enfoque del proyecto de ley para la regulación de la IA. “Pondrá fin a la innovación.”
En un esfuerzo por calmar las preocupaciones de la industria, los legisladores de California realizaron cambios al proyecto de ley a principios de este mes, como abandonar los planes de crear una agencia gubernamental llamada Frontier Model Division (FMD) para supervisar la revisión de seguridad.
Los legisladores también eliminaron una cláusula que habría permitido al fiscal general del estado de California demandar directamente a las empresas de inteligencia artificial si se determinaba que eran negligentes en sus prácticas de seguridad.
Anthropic, el gigante de la inteligencia artificial respaldado por Google y Amazon, había presionado para que se produjera ese cambio. Después de que se anunciaran los cambios, Anthropic le dijo a TechCrunch que todavía estaba revisando el proyecto de ley enmendado y que no todas sus propuestas habían sido adoptadas.
Aún así, la versión modificada del proyecto de ley no ha satisfecho a todos los detractores.
“Las ediciones son solo una fachada”, dice el socio de Andreesen Horowitz Martín Casado escribió en X“No abordan los verdaderos problemas ni las críticas al proyecto de ley”.