Etiqueta: corporación

Acababa de empezar mi máster en inteligencia artificial cuando un compañero de clase me preguntó si había oído hablar de Amazon, una nueva librería online en la que se podía pedir prácticamente cualquier libro del mundo y que te lo enviaran a casa. Sintiendo que volvía a invadirme toda la emoción de una feria del libro de secundaria, entré en el mundo de Amazon.com y pedí un libro precioso. Me pareció revolucionario y futurista, pero a la vez acogedor y personal. A finales de ese año, 1995, Amazon envió a sus clientes fieles, entre los que me encontraba yo, una taza de café gratis para las fiestas. Habría sido difícil imaginar entonces que la pequeña empresa, famosa por su gestión en el garaje de Jeff Bezos en Bellevue, Washington, celebraría hoy su 30º aniversario y un alucinante patrimonio neto de 1,97 billones de dólares. Sigo utilizando Amazon para pedir aparatos y artículos de primera necesidad, ver películas y programas y leer libros en un Kindle. Hago todo esto a pesar de que sé que la librería, que antes era muy querida, se ha convertido en un gigante ávido de datos que está destruyendo la privacidad personal. Hoy, Amazon vende básicamente todo y sabe básicamente todo, desde nuestro papel higiénico favorito hasta las preguntas de nuestros hijos para Alexa y lo que está pasando en nuestros vecindarios, ¡y también ha dejado que la policía se entere de eso! Amazon sabe dónde vivimos, cómo suenan nuestras voces, quiénes son nuestros contactos, cómo es nuestro historial crediticio, a qué temperatura nos gusta mantener nuestras casas e incluso si tenemos alergias u otros problemas de salud. Basándose en esta información, la empresa infiere un perfil completo: potencialmente sabe si somos homosexuales o heterosexuales, casados ​​o divorciados, republicanos o demócratas, sexualmente activos o no, religiosos o seculares. Sabe nuestro nivel de educación y cuánto dinero ganamos. Y utiliza estos datos para vendernos mejor. Como investigadora de privacidad, abogo por una fuerte protección de la privacidad del consumidor. Después de pasar la mayor parte de una década analizando las políticas de privacidad con lupa, puedo decir con seguridad que Amazon ha sido peor en materia de privacidad que casi cualquier otra empresa. No es solo que Amazon tenga políticas de privacidad horribles; también es que, junto con Facebook y Google, fue coautora de nuestra terrible economía de publicidad dirigida, basada en extraer la mayor cantidad posible de datos de los usuarios para que cualquiera con acceso a ellos pueda manipularlos para que compren más cosas. Teniendo en cuenta la importancia de la libertad para la historia del origen de Estados Unidos, es irónico que el país esté tan en deuda con una empresa que ha convertido la manipulación de nuestro libre albedrío en una ciencia. «¿Acabas de comprar estos granos de café italiano?», nos pregunta Amazon. «Esto es lo que deberías comprar a continuación». La privacidad y el libre albedrío están inextricablemente entrelazados: ambos se basan en que se nos permita decidir quiénes somos, qué queremos y cuándo lo queremos sin que nadie nos observe ni interfiera. La privacidad es buena para nuestra salud mental y buena para la sociedad. Ni las corporaciones ni los gobiernos —que tienen una manera de adquirir los datos que recopilan las empresas— deberían tener acceso a un conocimiento ilimitado sobre quiénes somos y qué hacemos todo el tiempo. Amazon ha desempeñado un papel fundamental para que eso sea posible. Su guerra contra la privacidad adoptó recientemente un giro particularmente distópico en Gran Bretaña, donde algunas estaciones de tren utilizaban un sistema de inteligencia artificial de Amazon llamado Rekognition para escanear los rostros de los pasajeros y determinar su edad, género y estado emocional, si estaban felices, tristes o enojados; identificar conductas supuestamente antisociales como correr, gritar, andar en patineta y fumar; y adivinar si eran suicidas. Es como si la policía del pensamiento de Orwell cobrara vida, pero en lugar de Gran Hermano, es Gran Bezos. Lo peor es que simplemente aceptamos esta intrusión a cambio de cosas baratas y envío gratis en dos días. Desafortunadamente, Amazon se ha convertido casi en una necesidad básica. Pero podemos tomar medidas para frenar sus peores consecuencias. Los consumidores no deberían soportar la carga de mejorar Amazon; los responsables políticos y los reguladores deberían hacerlo. Un buen punto de partida es la Ley de Derechos de Privacidad de Estados Unidos, una legislación que se encuentra en el Congreso. No es perfecta, pero al menos abordaría nuestra flagrante falta de una ley federal de privacidad. Las leyes de privacidad de los estados forman un mosaico que varía ampliamente en cuanto a su eficacia para proteger a los consumidores. Tenemos que empezar a pensar en la privacidad de los datos como un derecho humano. La idea de que las empresas tienen derecho a todos los datos que puedan recopilar e inferir sobre nosotros es una absoluta locura. Hace treinta años, nadie habría estado de acuerdo con ella. Así no es como debería funcionar el mundo, y es especialmente aterrador que estemos en esta situación al entrar en la era de la inteligencia artificial. Los programas de IA generativa, como los chatbots de los que oímos hablar constantemente, están diseñados para extraer la mayor cantidad posible de información personal, supuestamente para hacerlos más eficaces. Y Amazon está actualizando su asistente Alexa para incorporar tecnología de IA generativa. Nada de lo que pueda comprar impulsivamente en Amazon me ayudará a sentirme mejor ante un futuro sin privacidad, con vigilancia masiva y un control generalizado de nuestros sentimientos y tendencias. Lo que comenzó como un hermoso libro y una taza gratis ha dado lugar a un mundo en el que todo lo que compro, dondequiera que voy y, tal vez en un futuro no muy lejano, cada emoción que siento puede ser rastreada y convertida en inferencias para venderme más cosas o promover ideologías peligrosas o promover cualquier otro propósito que las corporaciones o los gobiernos consideren útil. Si suena distópico, es porque lo es. Jen Caltrider es la directora del proyecto *Privacy Not Included de Mozilla.