California está intensificando su lucha contra los deepfakes antes de las elecciones.

Unos días después de que el vicepresidente Kamala Harris lanza candidatura presidencial Vídeo creado con la ayuda de inteligencia artificial. Se volvió viral: “Yo… su candidato presidencial demócrata. Porque Joe Biden finalmente reveló su vejez en el debate”, dijo una voz que sonaba como Harris en una pista de audio falsa utilizada para editar sus anuncios de campaña. «Me eligieron porque soy el empleador más diverso», dijo el multimillonario Elon Musk, quien apoyó al expresidente Trump. – Harris, el ex presidente republicano Trump, compartió el video en X y luego dijo, dos días después, que era una parodia. Esta publicación inicial recibió 136 millones de visitas, un seguimiento que dijo que el video de parodia tuvo 26 millones de visitas para los demócratas. Incluyendo al gobernador de California, Gavin Newsom, este incidente no es motivo de risa. Esto ha llevado a pedidos de regulaciones adicionales para combatir los videos generados por IA con mensajes políticos. y un nuevo debate sobre el papel apropiado del gobierno al tratar de regular las tecnologías emergentes. el viernes California da aprobación final a un proyecto de ley que prohibiría la distribución de anuncios de campaña engañosos o fraudulentos. «Comunicaciones electorales» dentro de los 120 días posteriores a la elección El Proyecto de Ley 2839 de la Cámara tiene como objetivo distorsionar el contenido que podría dañar la reputación de un candidato o sus posibilidades de ser elegido. junto con la confianza en los resultados electorales Se pretende abordar vídeos como el que Musk compartió de Harris, aunque se excluirán las parodias y el sarcasmo. Un ecosistema como nunca antes Y millones de votantes no sabrán en qué imágenes, audio o video pueden confiar”, dijo la asambleísta Gail Pellerin (D-Santa Cruz). “Tenemos que hacer algo”. Esto entrará en vigor inmediatamente, a tiempo para las elecciones de noviembre. La legislación actualiza una ley de California que prohíbe a las personas distribuir material audiovisual o de audio sensible destinado a Desacreditar candidatos o reclutar votantes dentro de los 60 días posteriores a la elección. Los defensores estatales dicen que es necesario reforzar la ley durante los ciclos electorales. donde las personas inundan las redes sociales con videos y fotografías alterados digitalmente conocidos como deepfakes. El uso de deepfakes para difundir información errónea generó preocupación entre las partes interesadas y los reguladores durante el ciclo electoral la última vez. Estos temores han aumentado tras el lanzamiento de nuevas herramientas impulsadas por inteligencia artificial, como chatbots que pueden generar rápidamente imágenes y videos, desde llamadas automáticas falsas hasta respaldos falsos de celebridades. El contenido generado por IA está probando la plataforma tecnológica y participando según la Comisión Electoral de Candidatos AB 2839. O los funcionarios electorales pueden obtener una orden judicial para eliminar los deepfakes. También pueden demandar por daños y perjuicios a la persona que distribuyó o redistribuyó el contenido fraudulento. La ley también se aplica a los medios engañosos publicados 60 días después de una elección, incluido el contenido que muestra imágenes de máquinas de votación, papeletas y lugares de votación. u otros activos relacionados con la elección falsamente Maneras que probablemente socaven la confianza en los resultados de las elecciones. No se aplica a la sátira o parodia que esté etiquetada como tal. o puede ser utilizado por una estación de radiodifusión si informa a los espectadores que su apariencia no representa con precisión un discurso o evento. Los grupos de la industria tecnológica se oponen al AB 2839 junto con otros proyectos de ley que apuntan a las plataformas en línea por no moderar adecuadamente el contenido electoral sensible o etiquetar el contenido generado por IA. Sofoca la libertad de expresión protegida constitucionalmente”, dijo Carl Szabo, vicepresidente y asesor general de NetChoice. Los miembros del grupo incluyen a Google, que no permite anuncios políticos y ha dicho que puede eliminar incluso el contenido creado por Labeled AI. Si muestras una foto de una figura pública, como una persona famosa “Cuando se utiliza para respaldos políticos o comerciales”, Truth Social, la plataforma creada por Trump, no menciona medios manipulados en sus reglas sobre lo que no está permitido en la plataforma. Los reguladores federales y estatales ya están tomando medidas enérgicas contra el contenido generado por IA. La Comisión Federal de Comunicaciones propuso en mayo una multa de 6.000.000 de dólares contra el consultor político demócrata Steve Kramer. Eso está detrás de las llamadas automáticas que utilizaron IA para hacerse pasar por los votos del presidente Biden. Las primarias demócratas de New Hampshire en enero, dijo Kramer, quien dijo a NBC News, planea hacer un llamado para llamar la atención sobre los peligros de la IA en la política. Aún enfrentando cargos penales por supresión criminal de votantes y suplantación criminal de un candidato, Szabo dijo que las leyes actuales son suficientes para abordar las preocupaciones sobre el fraude electoral que NetChoice ha demandado a los estados. Detener algunas de las leyes destinadas a proteger a los niños en las redes sociales. Acusándolos de violar las protecciones de la libertad de expresión bajo la Primera Enmienda, “la simple creación de nuevas leyes no ayuda en nada a detener el mal comportamiento. Realmente hay que hacer cumplir la ley”, dijo Szabo. Más de dos docenas de estados han promulgado, aprobado o están trabajando en leyes para frenar la falsificación, según la organización sin fines de lucro de defensa del consumidor Public Citizen. En 2019, California instituyó una ley que tiene como objetivo. para luchar contra los medios distorsionados Después de que un video de la presidenta de la Cámara de Representantes, Nancy Pelosi, aparentemente borracha, se volviera viral en las redes sociales. Hacer cumplir esas leyes es un desafío. “Necesitamos debilitar la ley”, dijo el asambleísta Mark Berman (D-Menlo Park), autor del proyecto de ley. “Esta tecnología ha llamado mucho la atención sobre los riesgos potenciales de esta tecnología. Pero me preocupa que al final no sirva de mucho”. En lugar de emprender acciones legales, afirmó la profesora Danielle Citron de la Facultad de Derecho de la Universidad de Virginia. Los candidatos políticos pueden optar por desacreditar el deepfake o incluso ignorarlo para limitar su propagación. Ahí es cuando pasan por el sistema judicial. Es posible que el contenido ya se haya vuelto viral”. Estas leyes son importantes por el mensaje que envían. Nos enseñan algo”, dijo, y agregó que informan a quienes comparten deepfakes que hay un costo. Este año trabajé con la Iniciativa de California para la Tecnología y la Democracia, un proyecto de la organización sin fines de lucro California Common Cause. para abordar muchos proyectos de ley falsificación política Algunas plataformas en línea apuntan a plataformas en línea que están protegidas por la ley federal de responsabilidad por el contenido publicado por los usuarios. Berman presentó un proyecto de ley que requeriría que las plataformas en línea con al menos 1 millón de usuarios de California eliminen o etiqueten el contenido fraudulento relacionado con las elecciones dentro de los 120 días posteriores. la elección. Las plataformas deberán tomar medidas dentro de las 72 horas posteriores a que un usuario informe una publicación según la AB 2655, que fue aprobada por la Legislatura el miércoles. La plataforma también debe contar con procedimientos para identificar, eliminar y etiquetar contenido falso. Además no lo es. Aplica a medios de parodia, sátira o noticias que cumplan con ciertos requisitos. Otro proyecto de ley del que es coautora la asambleísta Buffy Wicks (D-Oakland) requeriría que las plataformas en línea etiqueten el contenido generado por IA. Aunque NetChoice y TechNet, otro grupo industrial, se oponen al proyecto de ley, OpenAI, Create ChatGPT también apoya el AB 3211, informa Reuters. sin embargo, ninguno de estos proyectos de ley entrará en vigor hasta después de las elecciones. Esto refuerza el desafío de aprobar nuevas leyes a medida que avanza la tecnología. Muy rápidamente”. Parte de mi esperanza al presentar este proyecto de ley es el interés que genera. Y es de esperar que presione a las plataformas de redes sociales para que se comporten ahora”, dijo Berman.