La suplantación de identidad de la IA se está convirtiendo rápidamente en uno de los mayores problemas que enfrentamos en línea. Las imágenes, los videos y el audio fraudulentos están proliferando como resultado del aumento y el uso indebido de las herramientas creativas de inteligencia artificial. La IA aumenta casi todos los días. Basándose en todos, desde Taylor Swift hasta Donald Trump, hace que sea más difícil distinguir lo que es real de lo que no lo es. Los programas de creación de videos e imágenes como DALL-E, Midjourney y Sora de OpenAI facilitan a las personas sin habilidades técnicas la creación de deepfakes fácilmente. Simplemente escriba una solicitud. Entonces el sistema lo filtrará. Estas imágenes falsas pueden parecer inofensivas. Pero pueden usarse para llevar a cabo fraude y robo de identidad o propaganda y manipulación electoral. Los DEEPFAKES con IA están socavando la democracia. Aquí hay 4 formas de contraatacar. A continuación se explica cómo evitar ser engañado por los deepfake: Identificar DeepFAKE En los primeros días de Deepfake, la tecnología estaba lejos de ser perfecta y a menudo dejaba un rastro de manipulación. Los verificadores de datos han señalado imágenes que contienen errores obvios, como una mano con seis dedos. o gafas con lentes de diferentes formas, pero cuando se mejora la IA Se volvió más difícil. Los consejos ampliamente compartidos, como buscar patrones de parpadeo antinaturales entre las personas en vídeos deepfake, ya no son válidos, afirma Henry Ajder, fundador de la consultora Latent Space Advisory y destacado experto en el campo. Del presidente ucraniano Volodymyr Zelensky pidiendo a sus soldados que depongan las armas (derecha) frente a una imagen real de él (izquierda) ofrece una mirada entre bastidores a una declaración del jefe de política de seguridad de META en Washington, D.C., con tecnología de IA. Los deepfakes son cada vez más difíciles de distinguir de las imágenes reales a medida que avanza la tecnología (Olivier Douliery/AFP vía Getty Images) Todavía hay algunas cosas que buscar, dijo. Muchas fotografías deepfake impulsadas por IA de Only Portraits tienen un brillo electrónico. . Hay un «hermoso efecto suavizante» que deja la piel «con un aspecto increíblemente pulido», dice Ajder. Sin embargo, advierte que a veces la estimulación creativa puede eliminar este y otros signos de manipulación de la IA. Sí, compruebe la consistencia de las sombras y la luz. A menudo, el sujeto está bien enfocado y parece realista, pero los elementos del fondo pueden no ser tan realistas o hermosos. Mire las caras. El intercambio de caras es uno de los métodos de deepfake más comunes. Los expertos recomiendan mirar de cerca los bordes del rostro. El color de piel del rostro coincide con el resto del rostro. ¿De la cabeza o del cuerpo? ¿Los bordes de la cara son nítidos o borrosos? Si sospechas que el vídeo de alguien hablando ha sido editado, mira sus bocas. Si los movimientos de los labios coinciden perfectamente con el sonido, sugiere Ajder, mirar los dientes es claro o borroso e inconsistente con cómo aparecen en la vida real. Norton, una empresa de ciberseguridad, dice que el algoritmo puede no ser así. Es lo suficientemente complejo como para crear dientes individuales, por lo que el La falta de contornos para los dientes individuales podría ser una pista. Piense en el panorama más amplio. A veces el contexto importa. Considere si lo que ve es posible o no. El sitio web de periodismo de Poynter sugiere que si ves a una figura pública haciendo algo que parece «exagerado, poco realista o fuera de lugar», probablemente se trate de una profunda falsificación. Por ejemplo, el Papa en realidad vestía una lujosa chaqueta acolchada, como en Praga. fotografía notoriamente falsa? Si lo hace, ¿no habrá imágenes o vídeos adicionales publicados por fuentes legítimas? Otra forma de utilizar la IA para encontrar falsificaciones es utilizar la IA para combatirla. Microsoft ha desarrollado una herramienta de autenticación que puede analizar imágenes o vídeos para calificar la confianza. Ya sea que haya sido manipulado o no, FakeCatcher del fabricante de chips Intel utiliza un algoritmo para analizar los píxeles de una imagen y determinar si la imagen es real o falsa. Existen herramientas en línea que prometen detectar falsificaciones si carga archivos o pega enlaces a contenido cuestionable, pero algunas, como Microsoft Authenticator, solo están disponibles para socios selectos. no publico Esto se debe a que los investigadores no quieren decírselo a los malos actores y darles una ventaja en la falsa carrera armamentista. El acceso abierto a las herramientas de detección también puede hacer que las personas se sientan así. Pero debemos ser conscientes de estas limitaciones, afirmó Ajder. Todo lo anterior La inteligencia artificial ha avanzado rápidamente y se están entrenando modelos de IA con datos de Internet para producir más. Contenido de mayor calidad y menos errores. Eso significa que no hay garantía de que este consejo siga siendo válido incluso dentro de un año. Los expertos dicen que poner la carga sobre la gente común para que se conviertan en Sherlocks digitales puede ser peligroso. Porque podría engañarlos. con mucha confianza Porque cada vez es más difícil. Incluso el ojo entrenado puede detectar un deepfake.
Source link
+ There are no comments
Add yours