¿Feliz cumpleaños, Amazonas? ¿Por qué no celebraría el 30 aniversario de mi empresa?

Acababa de comenzar mi Maestría en Inteligencia Artificial cuando un compañero de clase me preguntó si alguna vez había oído hablar de Amazon, una nueva librería en línea donde puedes pedir cualquier libro del mundo y recibirlo en la puerta de tu casa. Sintiendo la emoción desbordante de la feria del libro de la escuela secundaria Entonces entré al mundo de Amazon.com y pedí un libro hermoso. Se siente revolucionario y vanguardista. Pero sigue siendo cálido y personal. A finales de 1995, Amazon envió tazas de café gratis a todos sus clientes leales, incluido yo. Probablemente sea difícil imaginar que esta pequeña empresa, agotada en el garaje de Jeff Bezos en Bellevue, Washington, celebre su 30 aniversario y tenga un patrimonio neto de 1,97 billones de dólares en la actualidad. Todavía uso Amazon para realizar pedidos de equipos y artículos de primera necesidad. Ver películas y programas y leo libros en Kindle, aunque sé que los queridos libreros se han convertido en gigantes ávidos de información y que destruyen la privacidad personal. En estos días, Amazon vende básicamente de todo y sabe básicamente de todo, desde nuestro papel higiénico favorito hasta nuestros hijos. ‘ preguntas para Alexa sobre lo que está pasando en nuestro vecindario, ¡y también sobre cómo dejar entrar a la policía! Amazon sabe dónde vivimos. ¿Cómo suena nuestra voz? ¿Quién es nuestra persona de contacto? ¿Cuál es nuestro historial crediticio? a la temperatura que queremos que tenga nuestra casa E incluso si tenemos alergias u otros problemas de salud o no, a partir de esta información la empresa resume todo el perfil: puede saber si somos homosexuales o gays. Casado o divorciado ¿Republicano o demócrata? ¿Tener sexo o no? Religioso o Secular Sabe cuán educados somos y cuánto dinero ganamos. Y utilizarán esta información para vendernos mejor. Como investigador de privacidad Apoyo fuertes protecciones para la privacidad del consumidor. Después de más de una década de revisar rigurosamente las políticas de privacidad, Puedo decir con seguridad que Amazon es peor en materia de privacidad que casi cualquier otra empresa. No es sólo que Amazon tenga políticas de privacidad terribles, sino que también Facebook y Google coescribieron la terrible economía de la publicidad dirigida que vivimos. Se basa en extraer la mayor cantidad de información posible de los usuarios. Para que quien tenga acceso a esa información pueda influenciarte para que compres más. Teniendo en cuenta la importancia de La libertad en la historia del origen de Estados Unidos Es irónico que a este país se le atribuya una corporación que ha manipulado nuestro libre albedrío para convertirlo en una ciencia. «¿Acabas de comprar estos granos de café italiano?», Nos pregunta Amazon. «Esto es lo que debes comprar a continuación». La privacidad y la libertad están inextricablemente entrelazadas. Ambos dependen de que se nos permita decidir quiénes somos, qué queremos y cuándo lo queremos, sin que nadie nos mire ni interfiera. La privacidad es buena para nuestra salud mental y buena para la sociedad. Ni las empresas ni los gobiernos, que tienen acceso a los datos que recopilan, deberían tener acceso a un conocimiento ilimitado sobre quiénes somos y qué hacemos en todo momento. Amazon desempeña un papel clave para hacerlo posible. La guerra contra la privacidad ha dado recientemente un nuevo giro en Inglaterra. Algunas estaciones de tren utilizan el sistema de inteligencia artificial de Amazon llamado Rekognition para escanear los rostros de los pasajeros y determinar su edad, sexo y estado emocional. Ya sea feliz, triste o enojado, identifique comportamientos antisociales como correr, gritar o andar en patineta. y fumar ¿Y adivina qué, se suicidaron? Es como si la idea de Orwell se hiciera realidad. Pero en lugar del Gran Hermano, es el Gran Bezos. La peor parte es que simplemente aceptamos esta intrusión a cambio de precios bajos y envío gratuito en dos días. necesidades básicas Pero podemos tomar medidas para controlar los peores resultados. Los consumidores no deberían cargar con la carga de mejorar a Amazon. Los formuladores de políticas y los reguladores deberían hacerlo. Un buen punto de partida para ellos es la Ley Estadounidense de Derechos de Privacidad, legislación actualmente ante el Congreso. No es perfecto. Pero al menos abordaría la notoria falta de leyes federales de privacidad. Las leyes estatales de privacidad crean un mosaico que difiere mucho en términos de protección de los consumidores. Necesitamos empezar a pensar en la privacidad de los datos como un derecho humano. La idea de que las empresas Tener derechos sobre todos los datos que se pueden recopilar e inferir sobre nosotros es absolutamente terrible. Hace treinta años nadie habría aceptado esto. Este mundo no debería funcionar. Y lo que es realmente aterrador es que estamos entrando en la era de la inteligencia artificial, programas creativos de IA como los chatbots de los que seguimos escuchando. Está diseñado para rootear la mayor cantidad de información personal posible. Se espera que lo haga más eficiente, y Amazon está actualizando su asistente Alexa para incorporar tecnología de inteligencia artificial generativa. Nada de lo que pueda hacer para alentar las compras en Amazon me ayudará a sentirme mejor en un futuro sin ella. Vigilancia masiva y un seguimiento generalizado de nuestros sentimientos y tendencias. Lo que comenzó con un hermoso libro y una taza gratis ha llevado a un mundo donde todo lo que compro dondequiera que vaya Y tal vez en un futuro próximo Cada emoción que siento se puede rastrear y convertir en inferencias para venderme más cosas. o promueva ideologías dañinas o promueva cualquier otro objetivo que la empresa o el gobierno considere beneficioso. Si eso suena distópico, lo es. Eso es porque lo es. Jen Caltrider es la directora de la iniciativa *Privacidad no incluida de Mozilla.