La campaña presidencial estadounidense de 2024 ha presentado impresionantes deepfakes: imitaciones de candidatos presidenciales basadas en inteligencia artificial que intentan engañar a los votantes o menospreciar al candidato objetivo. Con el retuit de Elon Musk, uno de esos deepfakes ha sido visto más de 143 millones de veces. La tendencia de campañas sin escrúpulos o adversarios extranjeros que utilizan inteligencia artificial para influir en los votantes ha alarmado al público. Investigadores y funcionarios de todo el país dicen que la inteligencia artificial es generada y… Los medios en línea gestionados se están extendiendo rápidamente. Por ejemplo, investigadores de la Universidad de Clemson encontraron campañas de influencia en plataformas de redes sociales. La red ha publicado más de 130.000 comentarios desde marzo. Para aumentar la protección contra imágenes alteradas, Yahoo News es uno de los sitios de noticias en línea más populares. Atrae a más de 190 millones de visitantes mensuales, según Sameweb.com – anunció el miércoles que Está integrando la tecnología de detección de imágenes falsas de la empresa de ciberseguridad McAfee. La tecnología revisará las imágenes enviadas por los mensajeros de noticias de Yahoo y marcará las imágenes que pueden haber sido creadas o manipuladas por IA, ayudando al equipo de estándares editoriales de Yahoo a decidir si publicarlas o no. Matt Sánchez, presidente y gerente general de Yahoo Home Ecosystem, dijo que la compañía está tratando de adelantarse a los estafadores: “Aunque las imágenes deepfake no son un problema actualmente en Yahoo News, esta herramienta de McAfee nos ayuda a tomar medidas proactivas. Siempre estamos trabajando para garantizar una experiencia de calidad”, dijo Sánchez en un correo electrónico. “Esta asociación mejora nuestros esfuerzos existentes. Nos brinda mayor precisión, velocidad y escala”, dijo Sánchez. La industria de las noticias está pensando en la amenaza de los Deepfakes «no porque sea un problema generalizado hoy, sino porque es un problema generalizado». Sino por la posibilidad de mal uso. está en el horizonte” gracias a herramientas de inteligencia artificial fáciles de usar, sin embargo, los deepfakes se han generalizado hasta el punto de que el 40% de los estudiantes de secundaria encuestados en agosto dijeron que habían oído hablar de algún tipo de imagen deepfake compartida en la escuela. su Una base de datos en línea de falsificaciones políticas compilada por tres académicos de la Universidad Purdue tiene casi 700 entradas, más de 275 sólo este año. Steve Grobman, director de tecnología y vicepresidente ejecutivo de McAfee, dijo que nació la asociación con Yahoo News. producto para ayudar a los consumidores a detectar deepfakes en sus computadoras. La empresa reconoce que la tecnología desarrollada para identificar imágenes que puedan haber sido generadas por IA podría resultar útil para los sitios de noticias. En particular, sitios como Yahoo que combinan el trabajo de los periodistas con contenido de otras fuentes añaden un «rico conjunto de capacidades». Yahoo ya tiene que verificar la integridad del contenido que obtiene, dijo Grobman. Herramientas de detección de deepfake impulsadas por inteligencia artificial. Comprueba las imágenes en busca de varios tipos de artefactos. que las herramientas impulsadas por IA dejan millones de puntos de datos dentro de una imagen digital “Una de las cosas realmente buenas de la IA es que no es necesario decirle al modelo qué buscar. El modelo descubre qué buscar”, afirmó Grobman. “La calidad de las falsificaciones está creciendo rápidamente. Y parte de nuestra colaboración es simplemente intentar avanzar”, dijo. Eso significa examinar el estado del arte en imágenes y usar nuevas muestras para mejorar la tecnología de detección de McAfee, dijo Nicos Vekiarides, director ejecutivo de la firma antifraude Attestiv. es una carrera armamentista entre empresas como la suya y las que crean generadores de imágenes impulsados por IA. “Están mejorando. Las anomalías son cada vez más pequeñas”, dijo Vekiarides. Y aunque hay un apoyo cada vez mayor entre los principales actores de la industria para poner marcas de agua en el contenido generado por IA, los malos actores no seguirán esas reglas, dijo en su opinión. Han triunfado los anuncios políticos profundamente falsos y otros contenidos falsos difundidos a una amplia audiencia. No tiene mucho efecto porque “Fueron desacreditados rápidamente”, dijo. Lo que tendía a ser más peligroso eran las falsificaciones que los influencers transmitían a sus seguidores o pasaban de persona a persona, profesor adjunto de Ciencias de la Computación en la Universidad de Illinois en Urbana-Champaign. Y los expertos en detección de deepfake advierten que ninguna herramienta de detección de IA actual es lo suficientemente buena para atrapar a atacantes altamente motivados y con buenos recursos, como los atacantes estatales. Respaldado por creadores de deepfakes Debido a que hay tantas formas de manipular imágenes, los atacantes «pueden ajustar más botones que estrellas en el universo para intentar eludir los mecanismos de detección», dijo, pero muchos deepfakes no provienen de atacantes altamente sofisticados. Por eso Kang dice que confía en la tecnología actual para detectar medios generados por IA, aunque no puede identificarlo todo. Agregar herramientas impulsadas por IA a su sitio le permite aprender y mejorar con el tiempo. Al igual que los filtros de spam, dice Kang, no son una solución milagrosa; Debe usarse junto con otra protección. Sin embargo, con respecto al contenido modificado, Kang dijo: “Creo que existe buena tecnología. que podemos usar Y solo mejorará con el tiempo”. Vekiarides dijo que el público se ha preparado para la ola de deepfakes adoptando el uso generalizado de herramientas de manipulación de imágenes, como programas de edición de fotografías que ayudan a corregir fallas en las fotografías de portada de revistas. Dar el salto de un fondo falso en una llamada de Zoom a una imagen falsa de la persona con la que te estás reuniendo en línea no es gran cosa, dijo. «Hemos dejado salir al gato de la bolsa», dijo Vekiarides. dijo, «y es difícil traerlo. Vuelve a entrar».
+ There are no comments
Add yours