El proyecto de ley de inteligencia artificial de Scott Wiener avanza con cambios importantes.

Polémico proyecto de ley que busca proteger a los californianos de desastres provocados por la inteligencia artificial Provocando un gran revuelo en la industria tecnológica, esta semana la legislación fue aprobada por un comité clave. Pero hay una enmienda para hacer que Silicon Valley sea más aceptable. La SB 1047 del senador estatal Scott Wiener (demócrata por San Francisco) se presentará al Senado estatal a finales de este mes. Si es aprobada por la Cámara de Representantes, Gavin Newsom tendrá que decidir si firma o veta esta legislación innovadora. Los partidarios del proyecto de ley dicen que crearía una valla para evitar que los modelos de IA que avanzan rápidamente desencadenen eventos catastróficos, como el cierre de la red eléctrica sin previo aviso. Les preocupa que la tecnología esté evolucionando más rápido de lo que sus creadores humanos pueden controlarla. Los legisladores pretenden incentivar a los desarrolladores a manejar la tecnología de manera responsable y autoriza a los fiscales generales de los estados a imponer sanciones en casos de amenazas o peligro inminente. La ley también brinda a los desarrolladores la capacidad de cerrar los modelos de IA que controlan directamente si algo sale mal. Pero algunas empresas tecnológicas, como Meta Platforms, propiedad de Facebook, y políticos Incluido el influyente representante estadounidense Ro Khanna (D-Fremont), dijo que el proyecto de ley sofocaría la innovación. Algunos críticos dicen que se centra en situaciones fracasadas y remotas. en lugar de preocupaciones más inmediatas como la privacidad y la desinformación. Si bien existen otros proyectos de ley que abordan estos asuntos, el SB 1047 es uno de los aproximadamente 50 proyectos de ley relacionados con la IA que se han presentado. en la legislatura estatal Esto se debe a que existe una creciente preocupación por el impacto de la tecnología en el empleo. Desinformación y seguridad publica Mientras tanto, los políticos trabajan para crear nuevas leyes que establezcan protecciones en la industria de rápido crecimiento. Algunas empresas y talentos están demandando a empresas de inteligencia artificial con la esperanza de que los tribunales puedan establecer reglas básicas, dijo Wiener, que representa a San Francisco. , que alberga las nuevas empresas de inteligencia artificial OpenAI y Anthropic, se encuentra actualmente en discusión. el jueves Hizo cambios significativos en su proyecto de ley. que algunos creen que debilita la ley Al mismo tiempo, aumenta las probabilidades de que el parlamento apruebe leyes. La enmienda eliminó las sanciones por perjurio del proyecto de ley. y cambiar los estándares legales para los desarrolladores con respecto a la seguridad de sus modelos avanzados de IA. Además, planea crear una nueva agencia gubernamental. Esta se llamaría División Modelo Fronteriza y ya no está en funcionamiento. bajo el texto original El proyecto de ley requeriría que los desarrolladores presenten sus medidas de seguridad a la subdivisión recién creada. en la nueva versión El desarrollador presentará esas medidas de seguridad al Fiscal General. «Creo que algunos cambios podrían hacer que sea más probable que se apruebe», dijo Christian Gross, profesor de ciencias políticas y políticas públicas de la USC. Algunos actores tecnológicos apoyan el proyecto de ley. incluido el Centro para la Seguridad de la IA y Jeffrey Hinton, considerado el «padrino de la IA». Otros, sin embargo, temen que pueda dañar una industria en auge de California. Los ocho miembros de la Cámara de Representantes de California incluyen a Khanna, Zoe Lofgren (demócrata por San José) y Anna. G. Eshoo (D-Menlo Park), Scott Peters (D-San Diego), Tony Cárdenas (D-Pacoima), Ami Bera (D-Elk Grove), Nanette Diaz Barragán (D-San Pedro) y Lou Correa (D-San Pedro) -Santa Ana) – escribió una carta a Newsom el jueves instándolo a vetar el proyecto de ley si se aprueba en el Congreso -[Wiener] Hay mucha presión en San Francisco entre los expertos en esta área. que le fue dicho a él y a otros en California que la IA puede ser peligrosa si no la controlamos. y los que tienen un salario De ahí proviene su investigación de vanguardia sobre la IA”, dijo Gross. “Este podría ser un verdadero punto de inflamación para él. desventajas tanto profesionales como profesionales «. Algunos gigantes tecnológicos dicen que están abiertos a la regulación. Pero no están de acuerdo con el enfoque de Wiener: “Somos coherentes con la forma en que (Wiener) describe el proyecto de ley y los objetivos que tiene. Pero seguimos preocupados por el impacto del proyecto de ley en la innovación en IA, especialmente en California. y especialmente hacia la innovación de código abierto”, dijo Kevin McKinley, gerente de políticas gubernamentales de Meta, en una reunión con miembros del consejo editorial del LA Times la semana pasada. Meta es una de las empresas con un modelo de IA de código abierto llamado Llama que ayuda a los desarrolladores a construir sobre la base. de sus propios productos Meta lanzó Llama 3 en abril y ya ha tenido 20 millones de descargas, dijo el gigante tecnológico Meta está trabajando para discutir la nueva solución. La semana pasada, McKinley dijo que la SB 1047 era «un proyecto de ley muy difícil de arreglar y enmendar». Un portavoz de Newsom dijo que su oficina generalmente no comenta sobre la legislación pendiente, dijo Claude, un asistente de AI que puede apoyar la facturación si. solicitado. En una carta del 23 de julio a la asambleísta Buffy Wicks (D-Oakland), el líder de políticas estatales y locales de Anthropic, Hank Dempsey, propuso cambios. Incluyendo cambiar el proyecto de ley para centrarse en responsabilizar a las empresas por causar desastres en lugar de hacer cumplir la ley antes del peligro, Wiener dijo que las enmiendas tomaron en cuenta las preocupaciones de Anthropic. «Pudimos desarrollar tanto la innovación como la seguridad», dijo Wiener en un comunicado. «Los dos no son mutuamente excluyentes.» No está claro si la enmienda cambiará la posición de Anthropic sobre el proyecto de ley. El jueves, Anthropic dijo en un comunicado que lo revisaría. «Nuevo lenguaje de facturación a medida que esté disponible», dijo Russell Wald, subdirector del Instituto Stanford para la IA centrada en el ser humano, cuyo objetivo es promover la investigación y las políticas de IA. Oponerse al proyecto de ley «La última revisión parece tener más que ver con la óptica que con el contenido», dijo Wald en un comunicado. “Parece haber pocos argumentos para apaciguar a unas pocas empresas líderes en IA. Pero hace poco para abordar las preocupaciones reales del mundo académico y de la comunidad de código abierto”. Logra un buen equilibrio para una perspectiva que intenta sopesar las preocupaciones sobre la IA y al mismo tiempo respalda el estado del sector tecnológico. «Lo que intentamos hacer es encontrar un entorno regulatorio que permita que existan esas barreras sin impedir la innovación y el crecimiento económico que viene con la IA», dijo Wicks después de la reunión de la junta del jueves, Anabel Sosa, redactores del Times contribuyeron a este informe.