Cómo los investigadores piratearon la memoria de ChatGPT para revelar una falla de seguridad crítica

La empresa detrás de ChatGPT disuelve su comité de seguridad de IA. Kurt ‘CyberGuy’ Knutsson habla sobre el fin de OpenAI de su agencia de seguridad. La actriz Scarlett Johansson afirma que la empresa copió su voz y que la creciente popularidad de la función de grabación de voz del teléfono ChatGPT es una herramienta increíble. los desarrolladores siguen agregando nuevas funciones. continuamente La compañía lanzó recientemente una nueva función de memoria en ChatGPT que le permite recordar cosas sobre usted. Por ejemplo, puede recordar su edad, género, creencias filosóficas y más. Estos recuerdos están destinados a permanecer en privacidad. Pero los investigadores demostraron recientemente cómo. para administrar la función de memoria de inteligencia artificial de ChatGPT, lo que genera dudas sobre la privacidad y la seguridad. Regalaré una tarjeta de regalo de $500 por la pantalla introductoria de ChatGPT durante las vacaciones (Kurt «CyberGuy» Knutsson) ¿Qué es la función de memoria de ChatGPT? La función de memoria de ChatGPT está diseñada para hacer que los chatbots sean más personales para usted. Recuerda información que podría ser útil para futuras conversaciones y adapta las respuestas en función de esa información. Incluso si abres otro chat. Por ejemplo, si dices que eres vegetariano. La próxima vez que pidas una receta, Sólo se especificarán opciones vegetarianas. ¿Qué es la inteligencia artificial (IA)? También puedes entrenarlo para que recuerde detalles específicos sobre ti, como decir «Recuerda que me gustan las películas clásicas» en interacciones futuras. El sistema adaptará las recomendaciones en consecuencia. Puedes controlar la memoria de ChatGPT. Puedes restablecerla. Borrar recuerdos específicos o todos los recuerdos O desactive esta función por completo en su configuración. Notificación en ChatGPT (Kurt «CyberGuy» Knutsson) Una falla de WINDOWS permite a los piratas informáticos infiltrarse en su PC a través de La vulnerabilidad de seguridad Wi-Fi en ChatGPTA reportada por el investigador de Arstechnica Security, Johann Rehberger, descubrió que es posible engañar a la IA para que reconozca información falsa mediante un método llamado inyección indirecta, lo que significa que se puede engañar a la IA para que acepte comandos de fuentes no confiables, como correos electrónicos. o publicaciones de blogs, por ejemplo, Rehberger demostró que podía engañar a ChatGPT haciéndoles creer que algunos usuarios tenían 102 años, vivían en un lugar ficticio llamado The Matrix y pensaban que el mundo era plano después de que la IA aceptara esta información. Se reenviará a todos los chats futuros con ese usuario. Estos falsos recuerdos se pueden implantar utilizando herramientas como Google Drive o Microsoft OneDrive para almacenar archivos. Subir foto o incluso navegar por sitios como Bing, todos los cuales podrían verse comprometidos por piratas informáticos. Rehberger presentó un informe de seguimiento que incluye una prueba de concepto, que muestra cómo pudo explotar la falla en la aplicación ChatGPT para macOS. engañando a una IA para que abra un enlace web que contiene una imagen maliciosa. Puede hacer que envíe todo lo que escribe el usuario y todas las respuestas de la IA a un servidor que controla. Esto significa que si un atacante pudiera manipular la IA de esta manera, podría monitorear toda la conversación entre un usuario y ChatGPT. La prueba de concepto de Rehberger demostró que la vulnerabilidad podría usarse para filtrar toda la información del usuario para siempre. El ataque no fue posible a través de la interfaz web ChatGPT gracias a la API OpenAI lanzada el año pasado. Sin embargo, aún fue posible a través de la aplicación ChatGPT para macOS cuando Rehberger informó de forma privada el descubrimiento a OpenAI en mayo. La empresa se ha tomado este problema en serio y lo ha mitigado asegurándose de que el modelo no siga ningún enlace. creado dentro de la propia respuesta Lo mismo se aplica a la memoria y propiedades similares. Cómo eliminar sus datos privados de Internet Discusión ChatGPT de Johann Rehberger (Johann Rehberger) Los ciberestafadores usan IA para manipular los resultados de búsqueda de GOOGLE La respuesta de OpenAI después de que Rehberger compartió su prueba de concepto, los ingenieros de OpenAI implementaron y lanzaron un parche para solucionar esta vulnerabilidad. Lanzaron una nueva versión de la aplicación ChatGPT para macOS (versión 1.2024.247) que cifra conversaciones y corrige fallas de seguridad. Por lo tanto, aunque OpenAI ha tomado medidas para abordar de inmediato la falla de seguridad, Pero también tiene vulnerabilidades potenciales relacionadas con la gestión de la memoria y Se requiere precaución constante al utilizar herramientas de inteligencia artificial con funciones de memoria. El incidente subraya la naturaleza cambiante de los desafíos de seguridad en los sistemas de inteligencia artificial, dijo la compañía. “Es importante señalar que la inyección rápida en modelos de lenguaje grandes es un área de investigación en curso. A medida que surge nueva tecnología, la abordamos en la capa del modelo. A través de la jerarquía de comandos o la protección de la capa de aplicación como se mencionó. «¿Cómo desactivo la memoria de ChatGPT? Si no te gusta la forma en que ChatGPT guarda información sobre ti o existe la posibilidad de que tus datos se utilicen indebidamente, Puedes abrirlo. Desactive esta función en Configuración. Abra la aplicación o el sitio web ChatGPT en su computadora o teléfono inteligente. Haga clic en el icono de perfil en la esquina superior derecha de la pantalla. Vaya a Configuración y seleccione Configuración personal. Desactivar opciones de memoria Eso es todo. Deshabilite la capacidad de ChatGPT para recopilar datos durante las conversaciones. Le da control total de lo que recuerda u olvida. Obtenga FOX Business mientras viaja haciendo clic aquí. Un hombre que usa ChatGPT en su computadora portátil (Kurt «CyberGuy» Knutsson) No permita que los SNOOPS cercanos escuchen sus mensajes de voz con este consejo rápido Mejores prácticas de ciberseguridad: protección de sus datos en la era de la AIA Las tecnologías de IA como ChatGPT se están generalizando cada vez más. Es fundamental seguir las mejores prácticas de ciberseguridad para proteger su información personal. A continuación se ofrecen algunos consejos para mejorar su ciberseguridad:1. Verifique su configuración de privacidad con regularidad: manténgase informado sobre los datos que se recopilan. Revise y ajuste periódicamente su configuración de privacidad en plataformas de inteligencia artificial como ChatGPT y otras para asegurarse de compartir solo información con la que se sienta cómodo.2. Tenga cuidado al compartir información sensible: menos es más cuando se trata de información personal. Evite revelar detalles confidenciales como su nombre completo, dirección o información financiera en conversaciones con IA. 3. Utilice una contraseña única y segura: cree una contraseña que tenga al menos 12 caracteres y utilice una combinación de letras, números y símbolos. juntos Y evite reutilizar contraseñas en diferentes cuentas. Considere la posibilidad de utilizar un administrador de contraseñas para crear y almacenar contraseñas complejas.4. Habilite la autenticación de dos factores (2FA): agregue una capa adicional de seguridad a su ChatGPT y otras cuentas de IA al requerir una segunda forma de verificación, como un código de mensaje, que puede reducir drásticamente el riesgo de acceso no autorizado5. Mantenga su software y aplicaciones actualizados: anticipe las vulnerabilidades. Las actualizaciones periódicas suelen contener parches de seguridad que protegen contra amenazas recién descubiertas. Por lo tanto, habilite las actualizaciones automáticas siempre que sea posible.6. Tiene un potente software antivirus: en una era en la que la IA está en todas partes, Proteger sus datos de las ciberamenazas es más importante que nunca. Agregar un software antivirus potente a su dispositivo agrega una capa importante de protección. La mejor manera de protegerse de enlaces maliciosos que instalan malware que puede acceder a sus datos personales es instalar un software antivirus potente en todos sus dispositivos. Esta protección también puede alertarle sobre correos electrónicos de phishing y estafas de ransomware. Para mantener seguros su información personal y sus activos digitales Mi elección para la mejor protección antivirus de 2024 para dispositivos Windows, Mac, Android e iOS 7. Revise su cuenta con regularidad: detecte los problemas con anticipación. Revise sus extractos bancarios y cuentas en línea con frecuencia para detectar actividad inusual. Esto puede ayudarle a identificar rápidamente posibles infracciones. El punto clave de Kurt, a medida que las herramientas de inteligencia artificial como ChatGPT se vuelven más inteligentes y personales. Por eso es muy interesante considerar cómo pueden personalizar la conversación para nosotros. Pero, como nos recuerdan los hallazgos de Johann Rehberger, existen algunos riesgos muy reales. Esto es especialmente cierto cuando se trata de privacidad y seguridad, aunque OpenAI puede mitigar estos problemas cuando surgen. Pero también muestra que debemos vigilar de cerca cómo funcionan estas características. Se trata de encontrar el punto óptimo entre la innovación y mantener nuestros datos seguros. HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS ¿Qué piensa sobre la IA para recordar datos personales? ¿Te resultó útil? ¿O le plantea algún problema de privacidad? Háganos saber escribiéndonos a Cyberguy.com/Contacto ¿Quieres más consejos técnicos y alertas de seguridad? Suscríbase a mi boletín informativo gratuito CyberGuy Report visitando Cyberguy.com/Newsletter Hazle una pregunta a Kurt o cuéntanos qué historias te gustaría cubrir. Sigue a Kurt en sus canales sociales: Respuestas a las preguntas más frecuentes sobre CyberGuy: Novedad de Kurt: Copyright 2024 CyberGuy.com Todos los derechos reservados. Kurt “CyberGuy” Knutsson es un periodista de tecnología galardonado. Personas amantes de la tecnología, los gadgets y los gadgets. ¿Quién mejora la vida con su trabajo para Fox News y FOX Business desde la mañana en “FOX & Friends”? ¿Tiene alguna pregunta sobre tecnología? Obtenga el boletín CyberGuy gratuito de Kurt. Comparta su opinión. ideas de historias o comentarios en CyberGuy.com