Inteligencia artificial y aprendizaje automático, Gobernanza y gestión de riesgos, Legislación y litigios Nuevo proyecto de ley crearía medidas de minimización de datos y requisitos de permiso expreso Chris Riotta (@chrisriotta) • 11 de julio de 2024 Panelistas: Ryan Calo, profesor y codirector del Laboratorio de Política Tecnológica de la Universidad de Washington; Amba Kak, codirectora ejecutiva del AI Now Institute; Udbhav Tiwari, director de política global de productos de Mozilla; Morgan Reed, presidente de The App Association La continua falta de una ley federal integral de privacidad en los Estados Unidos está permitiendo que las principales empresas de tecnología e inteligencia artificial vigilen y se dirijan excesivamente al público estadounidense, testificaron los expertos el jueves. Ver también: Lista de verificación de preparación para la evaluación del seguro cibernético Al menos 140 países de todo el mundo tienen algún tipo de ley nacional de privacidad, según Udbhav Tiwari, director de política global de productos de Mozilla, quien le dijo al Comité de Comercio del Senado que el mosaico actual de leyes estatales conduce a inconsistencias regulatorias y desventajas económicas para las empresas estadounidenses. El Congreso ha intentado –sin éxito– aprobar una ley federal sobre privacidad de datos durante años, incluso décadas. Otros países, entre ellos la Unión Europea y Canadá, han establecido salvaguardas y medidas de protección para impedir que las principales empresas tecnológicas –como Microsoft, Google y Meta– recopilen datos de los usuarios para entrenar modelos de aprendizaje de idiomas de gran tamaño (véase: Europa alcanza un acuerdo sobre la Ley de IA, marcando un hito regulatorio). “Ahora es el momento en que aprobar una ley de este tipo realmente importa, antes de que se haya establecido la trayectoria”, dijo a los legisladores Amba Kak, codirectora ejecutiva del AI Now Institute. “La regulación de la privacidad de datos es regulación de la IA y proporciona muchas de las herramientas que necesitamos para proteger al público de daños”. Según Kak, bajo una ley de privacidad de datos fuerte, las empresas que operan en los EE. UU. estarían obligadas a determinar si la utilidad de los nuevos componentes de IA supera el potencial de daño. Según Kak, Microsoft se vio recientemente obligado a dar marcha atrás en el lanzamiento de una nueva función de inteligencia artificial llamada Recall, que permite la recuperación automática de capturas de pantalla, debido a las preocupaciones de que los piratas informáticos pudieran robar información confidencial (véase: La retirada de Microsoft alimenta las preocupaciones sobre seguridad y privacidad). La inteligencia artificial «alimenta una demanda insaciable de datos de los consumidores» al tiempo que permite a las empresas y los gobiernos «obtener detalles íntimos sobre las personas a partir de información ampliamente disponible», dijo Ryan Calo, profesor y codirector del Laboratorio de Políticas Tecnológicas de la Universidad de Washington. «La sociedad estadounidense ya no puede permitirse sacrificar la privacidad del consumidor en el altar de la innovación», dijo. Los testigos recomendaron una serie de medidas específicas que podrían incluirse en un proyecto de ley nacional sobre privacidad, incluidos mandatos de transparencia y reglas de minimización de datos que, según Kak, pondrían «la razón en lugar de la imprudencia». En la actualidad, Estados Unidos carece de una ley federal que impida a las empresas utilizar datos sin notificar a los usuarios para entrenar grandes modelos de lenguaje, mientras que el Reglamento General de Protección de Datos de la UE y las leyes de protección de datos de otros países, como la Ley de Protección de Información Personal y Documentos Electrónicos de Canadá y la Ley General de Protección de Datos de Brasil, requieren el consentimiento explícito del usuario. “Hemos estado tan cerca, tantas veces, y sin embargo nunca hemos llegado a la meta”, dijo el senador Jerry Moran, republicano por Kansas, sobre los intentos del Congreso de aprobar tanto la legislación sobre privacidad de datos como la legislación federal integral sobre privacidad. “Los problemas y desafíos con nuestra falta de éxito siguen aumentando”. La senadora Maria Cantwell, demócrata por Washington, que preside el Comité de Comercio del Senado, dio a conocer la Ley de Derechos de Privacidad Estadounidense a principios de este año junto con la representante estadounidense Cathy McMorris Rodgers, republicana por Washington. El proyecto de ley incluye políticas de minimización de datos que restringen lo que las empresas pueden recopilar, conservar y utilizar sobre los usuarios. También permite protecciones más estrictas para los datos sensibles al requerir el consentimiento expreso para las transferencias de terceros y requiere que las empresas permitan a los usuarios acceder, corregir, eliminar y exportar sus datos. El proyecto de ley incluye importantes protecciones contra la discriminación al tiempo que permite a los usuarios optar por no permitir que una empresa utilice algoritmos para tomar decisiones sobre crédito, vivienda y oportunidades de empleo, entre otras medidas de derechos civiles. Cantwell dijo el jueves que la legislación impediría que se compren o vendan datos privados sin aprobación y garantizaría que las empresas “implementen estas leyes y ayuden a detener este tipo de interferencia”. Los panelistas reconocieron que Estados Unidos ha logrado superar a otros países en su desarrollo de tecnologías de inteligencia artificial gracias en parte a la falta de regulación, pero advirtieron que la falta de leyes estrictas de privacidad de datos podría conducir a problemas importantes en torno a violaciones de la privacidad y una menor confianza pública. Morgan Reed, presidente del grupo de la industria de aplicaciones The App Association, dijo que la economía estadounidense podría tener un mejor desempeño en el escenario global “si el Congreso promulgara un marco federal de privacidad fuerte y preventivo que refuerce la confianza en las herramientas de inteligencia artificial de vanguardia al tiempo que frena la mala gestión de los datos personales”. “Los riesgos de privacidad que plantea la inteligencia artificial son consecuencias de problemas de privacidad existentes”, dijo Reed. “Con la inteligencia artificial, surgen estos mismos desafíos, pero a mayor escala y con mayor intensidad en el factor de previsibilidad”. URL de la publicación original: https://www.databreachtoday.com/expertos-ley-federal-de-privacidad-necesaria-para-frenar-el-uso-indebido-de-datos-por-parte-de-la-inteligencia-a-25751