El gobernador Gavin Newsom veta el proyecto de ley de seguridad de la IA al que se opone Silicon Valley

SAN FRANCISCO – El gobernador Gavin Newsom vetó el domingo un proyecto de ley de seguridad de inteligencia artificial, SB 1047, que impondría requisitos a los desarrolladores de modelos avanzados de IA para crear protocolos destinados a prevenir desastres. El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), requeriría que los desarrolladores presenten sus planes de seguridad al fiscal general del estado. Esto podría responsabilizarlos si los modelos de IA que controlan directamente causan daños o una amenaza inminente a la seguridad pública. Además, la ley exigiría a las empresas de tecnología cerrar los modelos de IA que controlan directamente si: Algo anda mal. En su mensaje de veto, Newsom dijo que la ley podría hacer que el público «Se siente falsamente seguro al regular esta tecnología de rápido movimiento» porque apunta sólo a modelos de IA grandes y costosos. y los sistemas especializados no son más pequeños “Aunque tiene buenas intenciones, la SB 1047 no considera si los sistemas de IA se implementan en entornos de alto riesgo. Implica tomar decisiones importantes o utilizar información sensible», dice el mensaje de veto de Newsom. «Este proyecto de ley aplica estándares estrictos a las funciones más básicas. Mientras los sistemas grandes utilicen No creo que esta sea la mejor manera de proteger al público de las amenazas reales que plantea la tecnología”. El gobernador también anunció el domingo que su administración ha reclutado líderes en el campo para ayudar al estado a construir sus defensas, enfatiza Pragmatics for AI. Análisis de capacidades y riesgos Newsom promete seguir trabajando con los legisladores sobre el tema en la próxima sesión. El proyecto de ley ha sido objeto de acalorados debates en Silicon Valley. Contó con el apoyo del Centro para la Seguridad de la IA, el director ejecutivo de SpaceX, Elon Musk, los editores del LA Times y destacados investigadores de IA. La empresa matriz de Facebook, Meta, el creador de ChatGPT, OpenAI, y varios miembros del Congreso, incluida la representante Nancy, se opusieron. Pelosi (D-San Francisco), los defensores dicen que es importante establecer barreras para la tecnología de inteligencia artificial en rápida evolución. Para evitar daños graves en el futuro Los opositores dicen que tales medidas pueden sofocar la innovación. Sin embargo, es posible que el proyecto de ley supere el veto del gobernador con dos tercios de los votos de ambas cámaras. Pero es un obstáculo importante que hay que superar y no es inusual que Wiener califique el veto de Newsom como una «oportunidad perdida» para que California sea líder en tecnología innovadora. “Este veto es un elemento disuasorio para cualquiera que crea en la regulación de las grandes empresas que están tomando decisiones críticas que afectan la seguridad y el bienestar del público y el futuro del planeta”, dijo Wiener en un comunicado publicado en las redes sociales. A principios de este mes, en una charla informal en Dreamforce, una conferencia de tecnología en San Francisco, que la SB 1047 ha inflado el discurso público. y agregó que También habló sobre los desafíos de regular la IA. Los opositores de la SB 1047 reunieron recursos para hablar con más de 125 actores, productores, directores, artistas discográficos y otros líderes de la industria del entretenimiento, entre ellos: demócratas famosos. ha firmado una carta pidiendo a Newsom que firme el proyecto de ley. Los firmantes de la carta incluyen a los actores Pedro Pascal y Alec Baldwin, así como a la productora ejecutiva de “Bridgerton”, Shonda Rhimes. “Queremos seguir creyendo que ustedes son los líderes que defenderán el bienestar de todos. No sólo para unos pocos gigantes de Silicon Valley”, decía la carta. Mientras tanto, la Cámara del Progreso, que se opone al proyecto de ley, emitió un comunicado sobre una canción de rock generada por IA cuya letra incluye: “Rompe las cadenas que nos frenan” “Es uno de esos proyectos de ley que rara vez llega a tu escritorio. Depende de quién sea la última persona en llamar para convencerlos”, dijo Newsom en una entrevista con The Times a principios de este mes. «Dividió a mucha gente».