Privacidad en línea y sobrepesca Microsoft descubrió recientemente a piratas informáticos respaldados por el estado que utilizaban sus herramientas de inteligencia artificial generativa para ayudar con sus ataques. En la comunidad de seguridad, las preguntas inmediatas no fueron sobre cómo los hackers estaban usando las herramientas (que era completamente predecible), sino sobre cómo lo descubrió Microsoft. La conclusión natural fue que Microsoft estaba espiando a sus usuarios de IA, buscando piratas informáticos dañinos en el trabajo. Algunos rechazaron caracterizar las acciones de Microsoft como «espionaje». Por supuesto, los proveedores de servicios en la nube monitorean lo que hacen los usuarios. Y como esperamos que Microsoft haga algo como esto, no es justo llamarlo espionaje. Vemos este argumento como un ejemplo de nuestras cambiantes expectativas colectivas de privacidad. Para entender lo que está sucediendo, podemos aprender de una fuente poco probable: los peces. A mediados del siglo XX, los científicos comenzaron a notar que la cantidad de peces en el océano (tan grande que subyace a la frase «Hay muchos peces en el mar») había comenzado a disminuir rápidamente debido a la sobrepesca. Ya habían visto una disminución similar en las poblaciones de ballenas, cuando la industria ballenera posterior a la Segunda Guerra Mundial casi extinguió a muchas especies. En la caza de ballenas y más tarde en la pesca comercial, las nuevas tecnologías hicieron más fácil encontrar y capturar criaturas marinas en cantidades cada vez mayores. Los ecologistas, específicamente los que trabajan en la gestión pesquera, comenzaron a estudiar cómo y cuándo ciertas poblaciones de peces habían disminuido gravemente. Un científico, Daniel Pauly, se dio cuenta de que los investigadores que estudiaban las poblaciones de peces estaban cometiendo un error importante al intentar determinar el tamaño de captura aceptable. No es que los científicos no reconocieran la disminución de las poblaciones de peces. Lo que pasa es que no se dieron cuenta de lo importante que era el descenso. Pauly señaló que cada generación de científicos tenía una línea de base diferente con la que comparaban las estadísticas actuales, y que la línea de base de cada generación era más baja que la de la anterior. Lo que nos parece normal en la comunidad de seguridad es lo que era común al comienzo de nuestras carreras. Pauly llamó a esto “síndrome de cambio de línea de base” en un artículo de 1995. La línea de base que utilizaron la mayoría de los científicos fue la que era normal cuando comenzaron sus carreras de investigación. Según esa medida, cada disminución posterior no fue significativa, pero la disminución acumulada fue devastadora. Cada generación de investigadores creció en un nuevo entorno ecológico y tecnológico, enmascarando inadvertidamente un declive exponencial. Las ideas de Pauly llegaron demasiado tarde para ayudar a quienes gestionan algunas pesquerías. El océano sufrió catástrofes como el colapso total de la población de bacalao del Atlántico noroeste en los años 1990. La vigilancia en Internet y la consiguiente pérdida de privacidad están siguiendo la misma trayectoria. Así como ciertas poblaciones de peces en los océanos del mundo han caído un 80 por ciento, de haber caído previamente un 80 por ciento, de haber caído previamente un 80 por ciento (ad infinitum), nuestras expectativas de privacidad también han caído precipitadamente. La naturaleza omnipresente de la tecnología moderna hace que la vigilancia sea más fácil que nunca, mientras que cada generación sucesiva del público está acostumbrada al status quo de privacidad de su juventud. Lo que nos parece normal en la comunidad de seguridad es lo que era común al comienzo de nuestras carreras. Históricamente, la gente controlaba sus computadoras y el software era independiente. El modelo de implementación de software y servicios en la nube siempre conectado cambió el guión. La mayoría de las aplicaciones y servicios están diseñados para estar siempre en línea, proporcionando información de uso a la empresa. Una consecuencia de este modelo de implementación moderno es que todos (los técnicos cínicos e incluso los usuarios comunes y corrientes) esperan que lo que se hace con la tecnología moderna no sea privado. Pero eso se debe a que la línea de base ha cambiado. Los chatbots de IA son la última encarnación de este fenómeno: producen resultados en respuesta a sus aportes, pero detrás de escena hay un complejo sistema basado en la nube que realiza un seguimiento de esos aportes, tanto para mejorar el servicio como para venderle anuncios. Los cambios en las líneas de base están en el centro de nuestra pérdida colectiva de privacidad. La Corte Suprema de Estados Unidos ha sostenido durante mucho tiempo que nuestro derecho a la privacidad depende de si tenemos una expectativa razonable de privacidad. Pero las expectativas son algo resbaladizo: están sujetas a líneas de base cambiantes. La pregunta sigue siendo: ¿y ahora qué? Los científicos pesqueros, armados con conocimientos sobre el síndrome de línea de base cambiante, ahora analizan el panorama general. Ya no consideran medidas relativas, como comparar esta década con la última. En cambio, adoptan una perspectiva holística y de todo el ecosistema para ver cómo debería ser un ecosistema marino saludable y, por tanto, una captura sostenible. Luego convierten estas cifras de captura sostenible obtenidas científicamente en límites que los reguladores codificarán. En privacidad y seguridad, debemos hacer lo mismo. En lugar de compararnos con una línea de base cambiante, debemos dar un paso atrás y observar cómo sería un ecosistema tecnológico saludable: uno que respete los derechos de privacidad de las personas y al mismo tiempo permita a las empresas recuperar los costos de los servicios que brindan. En última instancia, al igual que con la pesca, debemos adoptar una perspectiva general y ser conscientes de los cambios en las líneas de base. Se requiere un proceso regulatorio democrático y científicamente fundamentado para preservar un patrimonio (ya sea el océano o Internet) para la próxima generación. Este ensayo fue escrito con Barath Raghavan y apareció anteriormente en IEEE Spectrum. Etiquetas: inteligencia artificial, Microsoft, privacidad Publicado el 5 de junio de 2024 a las 7:00 a. m. • 23 comentarios