Meta comenzará a etiquetar contenido generado por IA en mayo

Los metagigantes Facebook e Instagram comenzarán a etiquetar los medios generados por IA a partir de mayo. Mientras buscaba tranquilizar a los usuarios y gobiernos sobre los riesgos de los Deepfakes, el líder de las redes sociales agregó que ya no eliminaría imágenes y audio alterados que no violen sus reglas. En cambio, se basa en el etiquetado y el contexto. para no vulnerar la libertad de expresión El cambio se produce en respuesta a las críticas del consejo de supervisión del gigante tecnológico. que revisa de forma independiente las decisiones de moderación de contenido de Meta, el comité pidió en febrero a Meta que revisara urgentemente la forma en que maneja los medios. Esto se debe a los enormes avances en inteligencia artificial y la facilidad con la que los medios pueden manipularse para convertirlos en Deepfakes altamente creíbles. La advertencia del comité se produce en medio de preocupaciones sobre el uso indebido generalizado de aplicaciones impulsadas por inteligencia artificial. distorsionar la información en varias plataformas En un año electoral importante No sólo en Estados Unidos sino en todo el mundo, la nueva etiqueta «Hecho con IA» de Meta identificará el contenido creado o editado con IA, incluidos vídeo, audio e imágenes. Alto riesgo de engañar al público «Acordamos que brindar transparencia y contexto adicionales era una mejor manera de abordar este contenido», dijo Monika Bickert, vicepresidenta de política de contenido de Meta, en una publicación de blog. “Las etiquetas cubrirán una gama más amplia de contenidos. Esto se suma al contenido modificado que el comité de supervisión recomienda etiquetar”, añadió. Estas nuevas técnicas de etiquetado están vinculadas a un acuerdo alcanzado en febrero entre los principales gigantes tecnológicos y los actores de la IA para cooperar en la lucha contra el contenido manipulado destinado a engañar a los votantes elegibles. Election Meta, Google y OpenAI han acordado un estándar común de marca de agua que etiquetará de forma invisible. Imágenes creadas por aplicaciones de IA. La identificación de contenidos mediante IA “es mejor que nada en absoluto. Pero hay algunas vulnerabilidades”, dijo a la AFP Nicolas Gaudemet, director de inteligencia artificial de Onepoint, y puso como ejemplo algunos programas de código abierto. Este tipo de marca de agua no siempre es utilizada por los grandes jugadores de IA. Meta dice que el lanzamiento se realizará en dos fases, con el etiquetado de contenido generado por IA a partir de mayo de 2024, mientras que la eliminación de medios modificados según la política anterior finalizará en julio. . según los nuevos estándares El contenido, aunque sea modificado con IA, permanecerá en la plataforma. A menos que viole otras reglas, como la prohibición del discurso de odio o la interferencia de los votantes. Los ejemplos recientes de convincentes deepfakes de IA no hacen más que aumentar las preocupaciones sobre la accesibilidad de la tecnología. La lista de solicitudes del comité es parte de una revisión de la decisión de Meta de publicar en línea un video alterado del presidente estadounidense Joe Biden el año pasado. El video muestra a Biden votando junto a su sobrina adulta. Pero fue distorsionado para que pareciera que él tocó sus senos de manera inapropiada. En otro incidente no relacionado con Meta, una llamada automática de Biden empujó a decenas de miles de votantes a instar a la gente a no votar en las primarias de New Hampshire. En Pakistán, el partido del ex primer ministro I. Ma’ran Khan utiliza IA para recrea discursos de líderes encarcelados © 2024 AFP

Source link