La alerta de noticias falsas de Apple AI destaca el problema de la desinformación de la tecnología

Jaap Arrians | Foto de Nur | La función de inteligencia artificial del iPhone está creando alertas de noticias falsas Esto ha generado preocupación sobre la capacidad de la tecnología para difundir información errónea. La semana pasada, una función lanzada recientemente por Apple que resumía las notificaciones de los usuarios utilizando IA rechazó las notificaciones resumidas incorrectamente de la aplicación BBC News. La historia del locutor sobre las semifinales del Campeonato Mundial de Dardos PDC Se afirma que el jugador de dardos británico Luke Littler ganó el campeonato. Esto sucedió un día antes de la ronda final del torneo, que ganó Littler, y luego pocas horas después del evento. Una alerta separada generada por Apple Intelligence, el sistema de inteligencia artificial del gigante tecnológico, también afirmó falsamente que que la leyenda del tenis Rafael Nadal se había declarado gay. La BBC se esforzó mucho y Apple tardó un mes en solucionar el problema. La televisión estatal británica se quejó ante Apple en diciembre después de que su función de inteligencia artificial generara titulares falsos que decían que Luigi Mangione, el hombre arrestado. Después del asesinato de la compañía de seguros de salud Brian Thompson, director ejecutivo de UnitedHealthcare, con sede en Nueva York, se pegó un tiro, lo que nunca sucedió. Apple no estuvo disponible de inmediato para hacer comentarios cuando CNBC se puso en contacto con Apple y le dijo a la BBC que estaba trabajando en una actualización. Para solucionar el problema, agregue una aclaración para mostrar cuándo Apple Intelligence es responsable del texto que se muestra en una alerta. Actualmente, las alertas de noticias generadas parecen provenir directamente de la fuente. “Las funciones de Apple Intelligence aún están en versión beta. y estamos realizando mejoras continuamente con la ayuda de los comentarios de los usuarios”, dijo la compañía en un comunicado compartido con la BBC y agregó que alienta a los usuarios a informar sus inquietudes si lo ven. ‘Resumen de notificaciones inesperadas’ La BBC no es la única organización de noticias afectada por el resumen incorrecto de alertas de noticias de Apple Intelligence. en noviembre La función envió una alerta resumida impulsada por inteligencia artificial que afirmaba que el primer ministro israelí, Benjamin Netanyahu, había sido arrestado. El error fue señalado en la aplicación de redes sociales Bluesky por Ken Schwencke, editor senior del sitio web de periodismo de investigación. ProPublica.CNBC se ha puesto en contacto con la BBC y el New York Times para comentar sobre la solución propuesta por Apple al problema de desinformación de la función de IA. Apple afirma que resume las alertas generadas por IA como una forma eficaz. Agrupe y redacte vistas previas de notificaciones de la aplicación Noticias como una única notificación en la pantalla de bloqueo del usuario. Es una característica que, según Apple, está diseñada para ayudar a los usuarios a escanear notificaciones en busca de detalles importantes. y reduce la avalancha de actualizaciones a las que muchos usuarios de teléfonos inteligentes están acostumbrados. Sin embargo, esto da como resultado lo que los expertos en inteligencia artificial llaman «fantasmas»: respuestas generadas por inteligencia artificial que contienen información falsa o engañosa». Sospecho que Apple no es el único que enfrenta desafíos con Contenido generado por IA. Hemos visto muchos ejemplos de servicios de IA que dicen la verdad con seguridad, las llamadas ‘alucinaciones'». Ben Wood, analista jefe de la firma de investigación de mercado centrada en la tecnología CCS Insights, dijo a CNBC que el caso de Apple se debe a la IA. está intentando agregar alertas y condensarlas para mostrar solo información resumida básica. Combinando diferentes palabras juntos de una manera que describe incorrectamente la naturaleza de los eventos Pero se presenta como un hecho seguro”. Apple complica aún más las cosas. Intente comprimir el contenido en un breve resumen. lo que finalmente envió un mensaje equivocado”, agregó Wood. “Sin duda, Apple trabajará para resolver este problema lo antes posible. Y estoy seguro de que los competidores estarán observando de cerca para ver cómo responde”. La IA generativa funciona tratando de encontrar la mejor respuesta posible a una pregunta o mensaje insertado por el usuario. Basándose en la enorme cantidad de datos entrenados en un gran modelo de lenguaje oculto, es posible que a veces la IA no sepa la respuesta, pero como siempre está programada, Muestra la respuesta del usuario a las notificaciones. Esto puede resultar en casos en los que la IA miente efectivamente. No está claro cuándo Apple solucionará el error en la función de resumen de notificaciones. El fabricante del iPhone dice que se espera que llegue en las próximas semanas.