¿California aprobará un proyecto de ley para regular la IA para proteger a los consumidores o la tecnología intestinal?

8 de agosto de 2024 a las 3:00 a. m. (hora del Pacífico) California es un líder mundial en inteligencia artificial. Esto significa que se espera que ayudemos a descubrir cómo organizarlo. El estado está considerando varios proyectos de ley para esos fines. Ningún proyecto de ley ha atraído más atención que el Proyecto de Ley 1047 del Senado. El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), requeriría que las empresas que produzcan los modelos de IA más grandes los prueben y modifiquen para evitar causar daños graves. ¿Es este un paso necesario para hacer que la IA sea responsable o es una extralimitación? Simon Last, cofundador de una empresa impulsada por IA, y Paul Lekas, jefe de políticas públicas de la Asociación de la Industria de Software e Información, brindan sus perspectivas. Este proyecto de ley ayudará a mantener la tecnología segura sin sacrificar la innovación Por Simon Last Como cofundador de una empresa impulsada por IA, he sido testigo de avances increíbles en inteligencia artificial. Todos los días diseño productos impulsados ​​por IA, y está claro que. sistema Estos sólo serán más eficaces en los próximos años. Veremos grandes avances en creatividad y productividad. Sin embargo, junto con los avances en la ciencia y la medicina, los sistemas de IA se vuelven más complejos. También debemos considerar los riesgos. Sin precauciones razonables, la IA podría causar daños graves a una escala sin precedentes, como ataques cibernéticos a infraestructuras críticas. desarrollo de armas químicas, nucleares o biológicas, delitos automatizados y mucho más. La SB 1047 de California logra un equilibrio entre proteger la seguridad pública de tales peligros y apoyar la innovación. Se centra en requisitos de seguridad de sentido común para las pocas empresas que han desarrollado los sistemas de IA más potentes. Esto incluye protecciones para los denunciantes de empleados que informan sobre problemas de seguridad en empresas de inteligencia artificial y, lo que es más importante, El proyecto de ley está diseñado para apoyar el increíble ecosistema de startups de California. La SB 1047 afectará a las empresas que construyen sistemas de inteligencia artificial de próxima generación cuya capacitación cuesta más de $100 millones según las pautas, las mejores prácticas de la industria. El proyecto de ley requeriría pruebas de seguridad y mitigación de riesgos protegidos antes del despliegue de estos sistemas. Esto incluye la capacidad de cerrar en caso de emergencia. En caso de que AI cause muchas víctimas o al menos 500 millones de dólares en daños, los fiscales generales estatales pueden demandar a las empresas. que puede ser considerado responsable Estas normas de seguridad se aplicarán a «Modelos básicos» de IA a partir de los cuales las startups construyen productos especializados Con este enfoque Podemos reducir de manera más efectiva el riesgo en toda la industria. sin crear una carga para los pequeños desarrolladores Como fundador de una startup Confío en que este proyecto de ley no obstaculizará nuestra capacidad de construir y crecer. Algunos críticos sostienen que las regulaciones deberían centrarse únicamente en los usos nocivos de la IA y no en la tecnología subyacente. Pero esta visión se malinterpreta. Porque ya es ilegal, como los ciberataques. o utilizar armas biológicas, la SB 1047 proporciona lo que falta: cómo prevenir el daño antes de que suceda. Las pruebas de seguridad del producto son estándar para muchas industrias. Incluyendo a los fabricantes de automóviles, aviones y medicamentos recetados, los creadores de los sistemas de inteligencia artificial más grandes deberían cumplir con los mismos estándares. Otros afirman que el proyecto de ley expulsará a las empresas del estado. La oferta de talento y capital en California no tiene paralelo y la SB 1047 no cambiará los factores que atraen a las empresas. Participe en acción aquí. El proyecto de ley también se aplica a los desarrolladores de modelos básicos que hacen negocios en California, independientemente de dónde tengan su sede. Líderes tecnológicos, incluidos Mark Zuckerberg de Meta y Sam Altman de OpenAI, acudieron al Congreso para discutir las regulaciones de IA, advirtiendo sobre el impacto potencial de la tecnología. e incluso puede solicitar Reglamentos. Pero las expectativas de acción por parte del Congreso son bajas. Esto se debe a que 32 de las 50 principales empresas de IA tienen su sede en California. Nuestro estado tiene la enorme responsabilidad de ayudar a que nuestra industria prospere. La SB 1047 proporciona un marco para que las empresas jóvenes crezcan junto con los grandes actores. Al mismo tiempo, se prioriza la seguridad pública. Tomando decisiones políticas inteligentes ahora. Un estado libre y el gobernador Gavin Newsom podrían fortalecer la posición de California como líder mundial en el avance responsable de la IA. Simon Last es cofundador de Notion, con sede en San Francisco. Estos estándares casi imposibles harán que California pierda su ventaja en AIB Por Paul Lekas ​​California ha sido la cuna de la innovación estadounidense a lo largo de los años. Muchas empresas de datos y tecnología Esto incluye las empresas que representa mi asociación. ha aportado a los californianos mediante la creación de nuevos productos para los consumidores. mejorar los servicios públicos e impulsar la economía Desafortunadamente, la legislación que se abre paso en la Legislatura de California amenaza con socavar incluso a los innovadores más brillantes y apuntar a modelos de IA avanzados o dudosos. Este proyecto de ley va más allá de su enfoque declarado para abordar preocupaciones reales sobre la seguridad de estos modelos. Al mismo tiempo, California tiene garantizada Aproveche los beneficios de esta tecnología En cambio, apunta a daños evitables, como el uso de IA en la atención médica predictiva basada en datos históricos sesgados. o responsabilizar a quienes usan la IA con fines nefastos, la SB 1047 en última instancia prohibiría a los desarrolladores lanzar modelos de IA que puedan adaptarse a las necesidades de California. Los consumidores y las empresas SB 1047 harían esto al obligar a quienes están a la vanguardia de la nueva tecnología de inteligencia artificial a predecir y mitigar todas las formas posibles en que sus modelos podrían ser mal utilizados. y para evitar el mal uso Esto es imposible. Especialmente porque no existen estándares técnicos aceptados internacionalmente para medir y mitigar el riesgo del modelo fronterizo si la SB 1047 se convierte en ley. Los consumidores de California perderán el acceso a las herramientas de inteligencia artificial que consideren útiles. Eso es como detener la producción de medicamentos recetados porque alguien los tomó ilegalmente o sufrió una sobredosis. Para ser claros, también perderán el acceso a herramientas de IA diseñadas para proteger a los californianos de actividades maliciosas habilitadas por otras IA. Las preocupaciones sobre la SB 1047 no reflejan la creencia de que la IA debería difundirse sin una supervisión significativa. Existe un amplio consenso en ambas partes de que necesitamos tener barreras de seguridad en torno a la IA para reducir el riesgo de uso indebido y bloquear aquellos que ponen en peligro la salud y la seguridad públicas, los derechos civiles y otras áreas. Otros estados están liderando el camino en la promulgación de leyes para desincentivar la IA. uso de IA en enfermedades, por ejemplo, Indiana, Minnesota, Texas, Washington y California. Se ha aprobado legislación para prohibir la creación de deepfakes que muestren imágenes íntimas de personas identificables. y limitar el uso de IA en la publicidad electoral. Seguridad nacional y otras preocupaciones Si bien se mantiene la ventaja tecnológica de Estados Unidos, la mejor manera de manejar la gobernanza es de manera coordinada a nivel federal. Esto se debe a que se realiza a través del Instituto de Seguridad de IA que se lanzó en el Instituto Nacional de Estándares y Tecnología. sin estar sujeto a responsabilidad civil o penal Este enfoque reconoce los considerables recursos que requieren los modelos de seguridad fronteriza. Eso es algo que ningún estado, ni siquiera California, puede lograr. Así que, aunque los líderes electos deben actuar para proteger a los consumidores, la SB 1047 va demasiado lejos. Obligará a las empresas emergentes y establecidas a sopesar estándares casi imposibles para alinearse con los valores de hacer negocios en otros lugares. California puede estar perdiendo su ventaja en innovación en IA, y los desarrolladores de IA fuera de Estados Unidos no están sujetos a los mismos principios de transparencia y responsabilidad. Fortalecerá su posición. En lugar de poner en riesgo la privacidad y la seguridad de los consumidores estadounidenses, Paul Lekas ​​​​es el jefe global de políticas públicas y asuntos gubernamentales del software. y profesor asistente de la industria de la información en Washington.