El proyecto de ley de seguridad de la IA es aprobado por la legislatura de California

Un controvertido proyecto de ley que requeriría que los desarrolladores de modelos avanzados de IA implementen medidas de seguridad está un paso más cerca de convertirse en ley. El proyecto de ley, SB 1047, requeriría que los desarrolladores de futuros modelos avanzados de IA creen vallas para evitar que la tecnología sea utilizada indebidamente en ataques cibernéticos. En el caso de infraestructuras críticas, como las centrales eléctricas, los promotores deben presentar sus planes de seguridad al fiscal general. Esto podría hacerlos responsables si los modelos de IA que controlan directamente causan daños o amenazan la seguridad pública. El proyecto de ley, presentado por el senador Scott Wiener (demócrata por San Francisco), fue aprobado por la Cámara estatal el miércoles. Con 41 votos a favor y 9 votos en contra el jueves. La medida fue aprobada por el Senado estatal mediante voto afirmativo. Ahora se dirige a la oficina del gobernador Gavin Newsom, aunque no está claro si Newsom firmará o vetará el proyecto de ley. “La innovación y la seguridad pueden ir de la mano. Y California está liderando el camino”, dijo Wiener en un comunicado. El portavoz de Newsom dijo que el gobernador evaluará el proyecto de ley cuando llegue a su escritorio. El proyecto de ley de Wiener ha sido debatido acaloradamente en la comunidad tecnológica del Área de la Bahía, respaldado por el Centro para la Seguridad de la IA, el director ejecutivo de Tesla, Elon Musk, el consejo editorial del LA Times y la startup de IA con sede en San Francisco, Anthropic. Pero los líderes demócratas del Congreso y destacados actores de la IA, incluidos Meta y OpenAI, no están de acuerdo. Esto ha generado preocupaciones sobre si la ley reprimirá la innovación en California. Líderes demócratas del Congreso Incluyendo a la ex presidenta de la Cámara de Representantes, Nancy Pelosi, Ro Khanna (D-Fremont) y la representante Zoe Lofgren (D-San José), también se opusieron al proyecto de ley y pidieron a Newsom que lo vetara. Argumentaron que la legislación podría perjudicar a la creciente industria de la IA de California. Es el hogar de OpenAI, creador de ChatGPT, y cita los esfuerzos que ha realizado el Congreso en relación con la IA. “Existe un riesgo real de que las empresas. Decidirá integrarse con otras jurisdicciones. publicar o no el modelo en California”, escribieron Khanna, Lofgren y otros seis representantes demócratas del Congreso en una carta a Newsom. «Si bien queremos que California sea líder en inteligencia artificial de una manera que proteja a los consumidores, los datos, la propiedad intelectual y más, la SB 1047 hace más daño que bien en esa búsqueda», dijeron Pelosi en un comunicado. Quienes apoyan este proyecto de ley no están de acuerdo. Argumentan que promoverá la innovación y al mismo tiempo protegerá al público. “Hay que poner barandillas”, dijo el asambleísta Devon Mathis (R-Visalia) antes de la votación de la Asamblea el miércoles por la tarde. «Tenemos que asegurarnos de que sean actores responsables», dicen los defensores de la SB 1047, que exige que los desarrolladores asuman la responsabilidad de la seguridad de los modelos avanzados de IA que están bajo su control. Esto puede ayudar a prevenir eventos catastróficos de IA en el futuro. «Me preocupa que las empresas de tecnología no aborden por sí solas los riesgos clave asociados con la IA porque están atrapadas en una carrera por la participación de mercado y la maximización de ganancias», dijo Yoshua Bengio, profesor de la Universidad de Montreal y fundador y director científico de la Universidad de Montreal. Mila – dijo el Instituto de Inteligencia Artificial de Quebec en una rueda de prensa esta semana. «No podemos dejar que califiquen sus propios deberes y esperar lo mejor». Los partidarios también dicen que la IA debería regularse de manera similar a otras industrias que pueden plantear riesgos de seguridad. “Esta es una decisión difícil y molestará a algunas personas. “Considerando todo esto, Creo que California debería aprobar el proyecto de ley de seguridad de la IA SB 1047”, escribió Musk en X el lunes. «Durante más de 20 años, he apoyado la regulación de la IA mientras regulamos productos/tecnología que pueden representar un riesgo para el público», dijo a principios de este mes. El proyecto de ley fue aprobado por un comité clave del Senado estatal después de que Wiener hiciera cambios clave. Esto incluye eliminar las sanciones por perjurio y cambiar los estándares legales para los desarrolladores con respecto a la seguridad de sus modelos avanzados de inteligencia artificial. Dario Amodei, director ejecutivo de Anthropic, con sede en San Francisco, dijo que cree que eso. «Los beneficios probablemente superen los costos» del proyecto de ley de agosto. Carta No. 21 a Newsom La carta no respalda el proyecto de ley. Pero compartió la opinión de la empresa sobre los pros y los contras. “Queremos dejar claro que la SB 1047 aborda preocupaciones reales y serias sobre riesgos graves en los sistemas de IA”, escribió Amodei. “Los sistemas de IA están evolucionando rápidamente en sus capacidades. Esto ofrece grandes esperanzas para la economía de California y riesgos significativos”. Pero algunas empresas tecnológicas, incluida OpenAI, dijeron que se oponían al proyecto de ley incluso después de los cambios. «El impacto significativo y de gran alcance de la IA en la competitividad y la seguridad nacional de Estados Unidos requiere que se formulen e implementen regulaciones modelo fronterizas a nivel federal», escribió Jason Kwon, jefe del personal de estrategia de OpenAI en una carta del 21 de agosto a Wiener, » Un conjunto de políticas de IA impulsadas a nivel federal En cambio, se combinan las leyes estatales. Promoverá la innovación y posicionará a Estados Unidos. Liderando el camino en el desarrollo de estándares globales”. Wiener dijo que agradecería una legislación federal sólida sobre seguridad de la IA que prevalezca sobre su proyecto de ley. “Si la experiencia pasada sirve de indicación, tal activación [federal] La ley será una batalla cuesta arriba”, dijo Wiener en un comunicado. «Mientras tanto California debería seguir liderando con políticas como la SB 1047 que promueve la innovación y al mismo tiempo protege al público”. La SB 1047 es uno de los aproximadamente 50 proyectos de ley relacionados con la IA en la Legislatura. Se analiza el impacto de la tecnología en el público en diversas áreas, incluido el trabajo, y se forjan conocimientos. y seguridad