¿Marcará la IA la “economía intencional”?

En 1971, Herbert Simon (Nobel 78) publicó un artículo sobre La «Economía de la Atención» observó que “Demasiada información conduce a una falta de atención”, ofrece ideas sobre cómo las organizaciones económicas (y los ciudadanos) necesitan mecanismos para recibir y procesar grandes cantidades de información. luego envíe solo las partes relevantes de esa información (Simon ganó el Premio Nobel (Basándose en su investigación pionera sobre los procesos de toma de decisiones dentro de las organizaciones económicas), Yaqub Chaudhary y Jonnie Penn sugieren que la inteligencia artificial puede cambiar los parámetros del equilibrio entre información y atención. Y puede llevar a lo contrario. lo llaman “La economía de la intención”, describen esta oportunidad en “Cuidado con la economía de la intención: recopilación y mercantilización de la intención a través de modelos de lenguaje grandes”, publicado el 30 de diciembre de 2024 en un número especial de la Harvard University Data Science Review d. Con documentos sobre el tema. “Luchando contra la revolución general de la IA” Desde el resumen: la rápida difusión de los modelos de lenguaje a gran escala (LLM) crea la posibilidad de un nuevo mercado para datos psicológicos y de comportamiento que indiquen la intención, este breve artículo presenta algunas características básicas de este emergente. mercado Exploramos los intentos recientes de los ejecutivos tecnológicos de posicionar la captura, la apropiación indebida y la mercantilización de las intenciones humanas. Esto proporciona ganancias paralelas y una posible expansión de la economía de la atención que actualmente domina. Distorsiona las normas de los consumidores, los ciudadanos y los medios de comunicación que rodean a los usuarios. Ha existido un interés limitado desde la década de 1990. A esto lo llamamos economía de intenciones. Lo caracterizamos de dos maneras: en primer lugar, como una competencia en etapa inicial entre actores tecnológicos establecidos que tienen la infraestructura y la capacidad de datos necesarias para competir por una ventaja de ser el primero en actuar en un nuevo espacio; en segundo lugar, porque aporta una tecnología explícita y persuasiva; información tácita a niveles hasta ahora inaccesibles. Indica intención, es decir, aquellas señales que resultan de una combinación de (a) manipulación personal excesiva a través de psicología, absorción e infiltración emocional basada en LLM, y (b) categorización de envío altamente detallada. Actividades online que ocurren a través del lenguaje natural. Esta nueva dimensión de la persuasión automatizada aprovecha las capacidades únicas del LLM y la IA creativa de manera más amplia. Esto no sólo interfiere con lo que quiere el usuario. pero también, según Williams, “lo que quieren” (Williams, 2018, p. 122). Lo demostramos a través de una lectura atenta de la literatura técnica y crítica reciente. (incluidos artículos inéditos de ArXiv) que dichas herramientas se han explorado para capturar, resumir, comprender, predecir y, en última instancia, adaptar, modificar y mapear cosas humanas y objetivas, tanto mundanas (por ejemplo, elegir un hotel) como objetivos más sutiles ( (por ejemplo, la elección de un candidato político). Admito que sólo estaba parcialmente convencido de ello. La «economía intencional» es fundamentalmente nueva y diferente de la El libro clásico de Vance Packard, «Economía de la atención», The Hidden Persuaders, trata sobre cómo nuestras necesidades y deseos pueden ser y son manipulados por empresarios, medios de comunicación y políticos. Fue escrito en 1957. Como escribieron Chaudary y Penn: “En el momento de su publicación, la intención económica era más ambición que realidad”. Pero he aquí un ejemplo de lo que tenían en mente:

[A] Los ejemplos concretos ayudan a demostrar cómo la Economía de la Intención, un mercado digital para señales de «intención» editadas, será diferente de nuestra Economía de la Atención actual. Hoy en día, los anunciantes pueden comprar acceso a la atención de los usuarios (por ejemplo, a través de anuncios reales). oferta de tiempo [RTB] redes como Google AdSense) o en el futuro (como comprar el espacio publicitario del próximo mes en una valla publicitaria o en el metro). LLM diversifica estos modelos de mercado al permitir a los anunciantes pujar por el acceso en tiempo real (como «¿Estás pensando en mirar?»). ¿Spider-Man esta noche?’) y compararlo con posibles futuros (por ejemplo, ‘Dijiste que te sientes sobrecargado de trabajo. ¿Puedo reservar entradas para el cine? ¿Hemos hablado de esto?’) Si estás leyendo estos fragmentos en línea, Imagine que cada instancia se genera dinámicamente para coincidir con los rastros de comportamiento individuales. Historia psicológica y su identificador de contexto En una economía intencional, LLM puede aprovechar el momento, la política, la terminología, la edad, el género, las preferencias psicológicas, etc. de los usuarios, junto con las ofertas negociadas. Para maximizar las posibilidades de lograr un objetivo determinado (como vender entradas de cine), Zuboff (2019) afirma que este tipo de ‘asistente’ personal de IA equivale a Se trata de «avatares de mercado» que controlan las conversaciones entre plataformas, anunciantes, empresas y otros terceros. En resumen, imagine mensajes persuasivos que sean más personales en muchos sentidos. Estos mensajes podrían basarse en datos mucho más amplios sobre usted: dónde se encuentra. vivir y trabajar. Estilo de viaje estado familiar compras pasadas Búsquedas anteriores en Internet y similares Su información personal se compara con la información personal de otros para encontrar personas estadísticamente similares. Mensaje que recibiste Depende de cómo se le clasifique en función de sus datos personales. Estará redactado en el lenguaje que probablemente le atraiga, nuevamente, en función de cómo haya respondido personalmente en el pasado. y cómo otros tienen estadísticas estadísticas Justo como respondiste. Estos mensajes también pueden Es «dinámicamente adaptable», lo que significa que en lugar de recibir el mismo mensaje una y otra vez, Recibirá un conjunto de mensajes en constante cambio. Chaudary y Penn se dieron cuenta de que algunos de ellos parecían publicidad más dirigida. Pero sostienen que hay «El potencial de intervención y modificación del producto es un orden de magnitud mayor en la intención del usuario que lo visto en la economía de la atención». Quizás lo más importante es que las herramientas de inteligencia artificial ya están comenzando a proporcionar este tipo de interacción de ida y vuelta. A veces está en el conjunto de anuncios que ves. A veces en forma de chatbot. Y a veces toma la forma de dar consejo médico o terapia. Porque estas interacciones se multiplican. Es importante recordar que la IA es a la vez una herramienta y una herramienta que usted puede utilizar. También es una herramienta para que otros se comuniquen con usted. En cualquier caso, la IA no es su amiga que se preocupa por sus mejores intereses. El post ¿Traerá la IA la “economía intencional”? Apareció por primera vez en Conversable Economist.