La Cámara de Representantes aprobó este mes un proyecto de ley bipartidista que amenaza con prohibir TikTok a menos que su empresa matriz, ByteDance, venda la aplicación. Es posible que al Senado le lleve meses abordar la legislación, que enfrenta cierta oposición, por lo que la prohibición no es inminente. Pero el relativo éxito de este enfoque pone de relieve el camino estrecho y problemático para la reforma de la seguridad de los datos en los EE.UU. mientras seguimos evitando una supervisión real. Los autores del proyecto de ley de la Cámara se centraron en la seguridad nacional, enfatizando las preocupaciones sobre el acceso del gobierno chino a los datos de Ciudadanos estadounidenses que usan TikTok. Si bien llamar la atención sobre las preocupaciones de seguridad nacional fue una táctica eficaz para lograr cierto consenso, es posible que esa estrategia aún no apruebe la legislación y no abordará las muchas preocupaciones de seguridad que persiguen a las empresas de tecnología más allá de TikTok. enfoque basado en la supervisión tecnológica, que aborda los problemas sólo después de que ya se han desarrollado. Por el contrario, Japón y algunos países europeos utilizan un enfoque de precaución que intenta anticipar los riesgos. Las empresas tecnológicas han florecido financieramente bajo el enfoque estadounidense: las empresas pueden recopilar, utilizar y monetizar datos con pocas restricciones. En teoría, esa innovación desenfrenada solo presentaba riesgos limitados para la seguridad nacional mientras Estados Unidos fuera el actor tecnológico global dominante, compitiendo con aliados y socios. Pero China y aplicaciones tremendamente influyentes como TikTok exponen cómo ese enfoque creó un vacío regulatorio que afecta la seguridad del consumidor. TikTok podría ser menos preocupante si nuestros legisladores federales hubieran tomado hasta la fecha medidas integrales para proteger los datos de los consumidores. En lugar de perseguir ese objetivo más amplio, con su reciente ley la Cámara apunta a ByteDance como una amenaza de política exterior y ofrece marcos para designar otros «adversarios extranjeros controlados». aplicaciones”. Quizás lo más preocupante es que el proyecto de ley extiende estas consideraciones a personas consideradas “sujetas a la dirección o control de una persona o entidad extranjera” sin especificar qué forma podría tomar dicha influencia. Esto crearía un sistema altamente subjetivo que fomenta la selección de objetivos basados en el origen nacional y pasaportes, no el tipo de política que atrae y retiene a los mejores y más brillantes talentos internacionales durante una era de competencia extrema por las habilidades técnicas. Eso sin mencionar el mensaje que envía a la gente en Estados Unidos que se ha visto sacudida por el aumento de la discriminación contra los asiáticos y la Iniciativa China del Departamento de Justicia, que terminó debido a su controvertido y amplio escrutinio de los académicos chinos pero que algunos legisladores han tratado de revivir. Una alternativa de sentido común sería crear barreras de seguridad que se apliquen a todas las empresas que operan en los EE. UU. Eso honraría el mandato del Congreso de regular el comercio entre estados que actualmente tienen leyes muy diversas que rigen los datos. También permitiría a los EE. UU. alinearse mejor con sus aliados y socios democráticos globales, la mayoría de los cuales ya cuentan con protecciones integrales de seguridad de datos para sus ciudadanos. De hecho, aunque China permite un acceso gubernamental alarmantemente amplio a los datos, está por delante de Estados Unidos en la protección de los datos de los consumidores frente a las corporaciones. Por ejemplo, la Ley de Protección de Información Personal de China se alinea en gran medida con el Reglamento General de Protección de Datos de Europa, y ambas medidas abordan el manejo corporativo de información personal. La acción del presidente y el Congreso de Estados Unidos es necesaria pero no suficiente. Una estrategia complementaria en el sector privado sería crear métricas para calificar a las empresas en función de la seguridad de sus datos para ayudar a los inversores a considerar estas cuestiones en la valoración de las acciones, de forma muy similar a las métricas que rastrean las prácticas medioambientales corporativas. Otra posibilidad son los estándares industriales para la seguridad de los datos, comparables a las calificaciones Energy Star que indican a los consumidores que un producto es energéticamente eficiente. Tanto del sector público como del privado, debería haber más financiación para la educación sobre seguridad de los datos a través de escuelas y bibliotecas para enseñar a niños y adultos cómo a pensar más críticamente sobre el uso de sus datos. Para contrarrestar el control que la vida en línea ejerce sobre muchos usuarios, también necesitamos mayores inversiones para las comunidades en persona, que pueden fortalecer la defensa fuera de línea de los intereses de los consumidores. El proyecto de ley de la Cámara no es lo que necesitamos. Si la avalancha de llamadas de TikTok y sus usuarios a las oficinas del Congreso es una indicación, tampoco es lo que muchos quieren. Sin embargo, la legislación puede mostrar el límite de lo que puede lograr el actual panorama regulatorio estadounidense. En un mundo cada vez más definido por los datos, tendremos que expandirnos más allá de esos límites. Aynne Kokas es autora de “Trafficking Data: How China Is Winning the Battle for Digital Sovereignty”.
Source link
Etiqueta: dato
La votación desequilibrada de la Cámara de Representantes el miércoles a favor de un proyecto de ley que prohíbe TikTok en Estados Unidos a menos que sea liberado del control chino sugiere que la muy popular aplicación de videos cortos pronto podría unirse a Netscape y Myspace en el basurero de la historia. más complicado que eso. Los formuladores de políticas coinciden en que TikTok plantea amenazas únicas a la privacidad y la seguridad debido a la influencia del gobierno chino sobre su propietario, ByteDance, con sede en Beijing. Pero la aplicación tiene un respaldo poderoso, aunque recién convertido, en el ex presidente Trump, lo que significa que los republicanos que normalmente apoyarían cualquier proyecto de ley para disminuir la influencia china están divididos sobre la propuesta de TikTok. Más allá de eso, TikTok capta la atención de aproximadamente 150 millones de estadounidenses. cada mes, aproximadamente la mitad de los cuales son usuarios activos, lo que la convierte en una de las aplicaciones más populares del país, a pesar de las preocupaciones sobre la privacidad, la desinformación y el daño a los usuarios jóvenes. La posible prohibición ha generado fuertes objeciones en todo el país, incluidos empresarios, pequeñas empresas y especialistas en marketing que dicen que sería un shock financiero. Algunos opositores a la prohibición la han calificado de violación de la Primera Enmienda. Otros se preguntaron por qué se señalaba a TikTok como una amenaza, considerando cuántas aplicaciones absorben los datos personales de sus usuarios. Y algunos argumentaron que el proyecto de ley beneficiaría sólo a los gigantes tecnológicos estadounidenses Meta, propietario de Facebook e Instagram, y Alphabet, propietario de YouTube. Aquí hay un resumen rápido de lo que está sucediendo y por qué, y lo que significa para los usuarios de TikTok. ¿Bill busca de TikTok? El proyecto de ley aprobado por la Cámara busca hacer lo mismo que Trump buscó hacer como presidente: sacar a TikTok de las manos de una empresa china sujeta a la ley china. La administración Trump llegó incluso a prohibir TikTok en Estados Unidos en 2020. Sin embargo, esa orden fue bloqueada por dos tribunales federales, que sostuvieron que la administración se había extralimitado en su autoridad. ByteDance, una empresa financiada con capital de riesgo centrada en Internet startup fundada en China en 2012, posee el 100% de TikTok. Aunque los inversores externos controlan el 60% de ByteDance, según Axios, la empresa china conserva el control operativo. El nuevo proyecto de ley, que fue aprobado rápidamente en la Cámara, prohibiría a las empresas distribuir, mantener o actualizar una «aplicación controlada por un adversario extranjero» o proporcionar Internet. Servicios de hosting para empresas que hacen cualquiera de esas cosas. Define “aplicación controlada por un adversario extranjero” como ByteDance, TikTok y sus sucesores, aunque le daría al presidente el poder de nombrar otras redes sociales y aplicaciones de comunicaciones con 1 millón o más de usuarios que estén controladas por personas que residen en un “país adversario extranjero”. .”Si es aprobada por el Senado y promulgada como ley, la medida le daría a ByteDance 180 días para poner fin al control chino, lo que le exigiría limitar a los inversores chinos a una participación del 20% en la empresa. Eso probablemente requeriría que ByteDance escindiera TikTok y se convirtiera en una empresa independiente con una inversión china más limitada. Si ByteDance no cumpliera, el proyecto de ley le exigiría que permitiera a los usuarios recuperar todos sus datos, incluida toda la información sobre sus preferencias, visualizaciones y cargas, en un formato que podría transferirse a otra aplicación de redes sociales. ¿Quién usa TikTok? Según el Pew Research Center, el 33% de los adultos estadounidenses dijeron el año pasado que utilizan TikTok. Es mucha gente, pero palidece en comparación con el número que utiliza otras plataformas de redes sociales importantes. Según Pew, el 83% de los adultos estadounidenses dijeron el año pasado que usan YouTube y el 47% dijo que usan Instagram. Es mucho más probable que los jóvenes utilicen TikTok que sus padres, pero incluso ellos hacen un uso más intenso de YouTube e Instagram. Según Pew, el 62% de los jóvenes entre 18 y 29 años dicen que usan TikTok, al igual que el 63% de los jóvenes entre 13 y 17 años. “Para mí, TikTok es la televisión moderna y, por lo tanto, cualquier tipo de perturbación Hacerlo realmente perjudicaría a las personas, no sólo a los creadores, porque la gente realmente lo disfruta”, dijo la personalidad de televisión Foodgod, anteriormente conocido como Jonathan Cheban. Foodgod, que tiene 8,5 millones de seguidores por sus videos de comida y estilo de vida en TikTok, dijo que recorre las aplicaciones de redes sociales en su teléfono cada hora y disfruta del ambiente más informal en TikTok. Prohibirlo, dijo, sería “literalmente como entrar en la habitación de alguien y arrancar su televisor de la pared, lo cual creo que es una locura”. “Pero, sinceramente, creo que TikTok llegó para quedarse. Hay demasiada gente participando en él y a mucha gente le encanta”, dijo. “Parece que en TikTok eres mucho más libre para hacer lo que quieras. No es como Instagram: todo está muy estructurado y hay que hacerlo perfecto”. ¿Podría realmente el gobierno prohibir TikTok? La aprobación del Senado podría ser el obstáculo más pequeño que queda para prohibir TikTok. Es casi seguro que ByteDance y otros opositores al proyecto de ley lo impugnarán ante los tribunales basándose en la Primera Enmienda, del mismo modo que impugnaron con éxito el intento de Montana de prohibir la aplicación. Los defensores del proyecto de ley dicen que no afecta la libertad de expresión porque apunta a la conducta de ByteDance, no al contenido de la aplicación. Pero los críticos responden que el proyecto de ley no protegería a los estadounidenses de que intereses extranjeros recopilen sus datos. Los expertos de la industria de las telecomunicaciones dicen que es técnicamente posible prohibir TikTok, pero hay problemas. Primero, el proyecto de ley no eliminaría TikTok de los teléfonos que ya lo tengo. Sin embargo, impediría que las empresas proporcionen actualizaciones de TikTok, lo que podría dejar la aplicación inutilizable con el tiempo a medida que cambien los sistemas operativos de los teléfonos. En segundo lugar, aunque el proyecto de ley obligaría a Google Play y a la App Store de Apple a dejar de distribuir la aplicación TikTok en EE. UU., No se aplica a fuentes de software telefónico fuera de los EE. UU., ni sería fácil de aplicar en sitios en línea no oficiales. Por lo tanto, la aplicación y sus actualizaciones permanecerían disponibles para las personas que quisieran y pudieran «descargarlas» de dichas fuentes. Eso no es difícil en un teléfono Android, pero en un iPhone de Apple es más complicado, al menos por ahora. Apple acaba de comenzar a permitir una forma de descarga en Europa, en respuesta a la Ley Europea de Mercados Digitales. Sin embargo, este enfoque tiene sus ventajas y desventajas, dijo Emma Llansó, ex directora del Proyecto de Libre Expresión del Centro para la Democracia y la Tecnología. Sin actualizaciones periódicas de privacidad y seguridad, la aplicación se convertiría en “un gran objetivo para las personas que buscan explotar software obsoleto”, dijo, y agregó: “Crea este otro tipo de vulnerabilidad que afectaría a millones de personas, incluidas muchos jóvenes”. Si el gobierno prohibiera formalmente TikTok, los operadores de redes podrían bloquear el tráfico entre los servidores de la empresa y los usuarios estadounidenses. Pero la enorme base de usuarios de la aplicación puede apresurarse a encontrar formas de sortear cualquier barrera, como el uso de redes privadas virtuales para conectarse a TikTok a través de otros países, dijo Michael Calabrese, director del Wireless Future Project de New America. “Los chinos inteligentes pueden hacerlo, así que [it] Debería ser mucho más fácil aquí”, dijo Calabrese. «No me sorprendería que esto se hiciera realidad». ¿Qué significaría una prohibición para los creadores de contenido y las pequeñas empresas? Una prohibición efectiva (lo cual, nuevamente, no es algo seguro incluso si el proyecto de ley se convierte en ley) significaría al menos tres cosas para los creadores de contenido. Los creadores establecidos quedarían aislados de la audiencia leal de seguidores que han trabajado para construir. Tanto los creadores nuevos como los establecidos perderían el acceso a un gigantesco mercado global de espectadores. Y los creadores de todo tipo tendrían una salida menos para su trabajo que ofreciera herramientas y sensibilidades únicas. Lo mismo sería cierto para los 7 millones de pequeñas empresas estimadas que usan TikTok para impulsar las ventas, según el recuento de la aplicación. Según una encuesta realizada el año pasado por Capterra, un consultor de software, las pequeñas y medianas empresas dicen que sus esfuerzos de marketing obtienen mucha más participación en TikTok que en otras redes sociales. Según la encuesta de Capterra, las empresas han descubierto que la red social es particularmente útil para capitalizar las tendencias, crear un nicho distintivo para su marca y educar a los clientes sobre sus productos y servicios. Por supuesto, existen otras plataformas para los videos cortos que constituyen la gran mayoría del contenido de TikTok, incluidos Instagram Reels y YouTube #Shorts. Al igual que TikTok, utilizan algoritmos secretos y desconcertantes para decidir qué vídeos mostrar a los usuarios; Es posible que las lecciones que los creadores aprendieron en TikTok sobre cómo generar vistas y construir una audiencia no se apliquen en ningún otro lugar. Abundan las anécdotas sobre personas que dejaron sus trabajos diarios para poder construir un negocio a partir de videos de TikTok. La plataforma no es sólo para bailarines, sincronizadores de labios y bromistas: también se ha convertido en un vehículo serio para el comercio electrónico. La aplicación lanzó TikTok Shop en septiembre, generando rápidamente $7 millones en ventas por día. “Para ser honesto, lo niego un poco”, dijo Kelsey Martínez, de 32 años, una creadora de TikTok que vive en Pasadena. “Nunca se me ocurrió que esto realmente pudiera suceder. Si TikTok desapareciera mañana, cambiaría completamente mi vida”. Martínez se unió a la plataforma en 2022, publicando principalmente sobre su viaje de pérdida de peso. El verano pasado, después de ampliar sus videos para incluir contenido de moda, belleza y estilo de vida, su cuenta de TikTok despegó y hoy cuenta con más de 287.000 seguidores. Obtiene una parte de las ventas realizadas a partir de los enlaces de productos incluidos en sus videos y ha conseguido acuerdos de marca con las empresas de cuidado de la piel Murad y Salt & Stone, así como con la marca de ropa moldeadora de Lizzo, Yitty. “De hecho, me alejé de mi trabajo de tiempo completo. puesto porque he podido ganarme la vida y ganar varias veces mi salario anual a través de TikTok. Y entonces, realmente, lo es todo”, dijo Martínez, quien anteriormente trabajó en recursos humanos para una organización sin fines de lucro. “Esto es lo que hago, este es mi trabajo. Definitivamente recibiría un golpe si desapareciera”, dijo. Muchos creadores dicen que ya publican sus videos de TikTok en Instagram y otras plataformas (y viceversa), aunque los resultados pueden diferir dramáticamente e impredeciblemente. Los creadores de TikTok que aún no están publicando su trabajo en múltiples plataformas tienen algunos meses para hacerlo antes de que entre en vigor una prohibición federal. Tenga en cuenta que los sitios tienen diferentes enfoques para monetizar vídeos y generar ingresos para los creadores. Y crear una audiencia presenta un desafío diferente en cada plataforma; por ejemplo, Facebook e Instagram, propiedad de Meta, alientan a los creadores a pagar para dirigir su contenido a tipos particulares de espectadores, mientras que crear una audiencia en TikTok es más orgánico, dijo Kellis Landrum, cofundadora de la agencia de marketing de Los Ángeles True North Social.TikTok La influencer Ashley Dunham ha estado siguiendo atentamente las noticias sobre la propuesta de prohibición y ya ha realizado algunos ajustes en su estrategia de redes sociales.“He estado empezando a publicar más contenido mío en Instagram y sorprendentemente está ganando algo de tracción”, dijo Dunham. cuyas publicaciones relatan su experiencia con semaglutida (el ingrediente activo de Ozempic), cirugía plástica y síndrome de ovario poliquístico. «La única desventaja de Instagram es que siempre va dos semanas por detrás en las tendencias». El hombre de 33 años de Jacksonville, Florida, calificó la posible prohibición de TikTok como «un flaco favor no sólo a los creadores sino a los estadounidenses en general», afirmando. Las aplicaciones basadas en Google también recopilan datos personales de los usuarios y pueden manipularse. ¿Qué significaría una prohibición para los padres? Aparte de las preocupaciones de seguridad nacional que rodean el acceso de China a los datos personales de los usuarios de TikTok, la mayor queja sobre la aplicación es lo bien que atrae la atención de los usuarios jóvenes. En la encuesta de Pew del año pasado, el 17% de los adolescentes dijeron que usan TikTok casi constantemente y un 32% adicional lo usó varias veces al día. Otras preocupaciones están más relacionadas con la seguridad, incluidos los temores de que los videos de TikTok puedan alimentar trastornos alimentarios y que los videos que los jóvenes hacen de sí mismos los expongan a depredadores. La configuración predeterminada de la aplicación intenta abordar esas preocupaciones, aunque determinados usuarios pueden cambiarla o eludirla. Si TikTok desapareciera mañana, eso no impediría que los niños miraran sus teléfonos celulares durante horas y horas. Según la encuesta de Pew, el 46% de los adolescentes dijeron que estaban en línea casi constantemente, mucho más que el porcentaje que estaba pegado a TikTok. Un 47% adicional dijo que estaba en línea varias veces al día. Y las quejas planteadas sobre TikTok en términos de su adictividad, refuerzo de comportamientos no saludables y riesgo de depredación se han dirigido también a otras redes sociales.
Estar atrapado en el tráfico es un problema familiar para muchos californianos, pero los funcionarios estatales quieren aprovechar el poder de la inteligencia artificial para descubrir nuevas soluciones. El Departamento de Transporte de California, en colaboración con otras agencias estatales, está pidiendo a las empresas de tecnología que antes del 25 de enero propongan herramientas de inteligencia artificial generativa que podrían ayudar a California a reducir el tráfico y hacer que las carreteras sean más seguras, especialmente para peatones, ciclistas y usuarios de scooters. Las herramientas de IA generativa como ChatGPT pueden producir rápidamente texto, imágenes y otros contenidos, pero la tecnología también puede ayudar a los trabajadores a generar ideas. La solicitud muestra cómo California está tratando de aprovechar la IA para mejorar los servicios gubernamentales en un momento en que los legisladores buscan salvaguardarse contra los riesgos potenciales de la tecnología. A medida que OpenAI, Google y otros gigantes tecnológicos, respaldados por Microsoft, lanzan nuevas herramientas impulsadas por IA, el rápido ritmo de avance de la tecnología ha generado preocupaciones sobre la desinformación, el desplazamiento laboral, la infracción de derechos de autor y la privacidad. El plan del estado para utilizar potencialmente la inteligencia artificial para ayudar a aliviar los atascos de tráfico surge de una orden ejecutiva que el gobernador Gavin Newsom firmó en septiembre sobre la IA generativa. Como parte de la orden, el estado también publicó un informe que describe los beneficios y riesgos del uso de la IA en el gobierno estatal. Las agencias estatales de California tienen acceso a una gran cantidad de datos valiosos, incluidos miles de sensores y cámaras de tráfico. Analizar esos datos para reducir rápidamente el tráfico y mejorar la seguridad puede ser un desafío. El enorme volumen de datos se presenta en diversas formas, como fotografías, videos y texto. Actualmente, el estado utiliza tecnología para ayudar a analizar los datos de tráfico, pero las agencias dependen en gran medida de los trabajadores para decidir qué hacer para mejorar el flujo de tráfico en tiempo real. . La IA generativa podría ofrecer mejores soluciones. “Probablemente cambiaría la estrategia mucho más rápido de lo que un ser humano podría hacerlo”, afirmó Amy Tong, secretaria de Operaciones Gubernamentales de California. Hay muchas razones por las que se producen atascos de tráfico. incluidos choques, escombros en la carretera, eventos importantes que atraen a grandes multitudes y mal tiempo. Pero también hay problemas recurrentes que pueden congestionar las carreteras, afirmó el secretario de Transporte de California, Toks Omishakin. Por ejemplo, una parte estrecha de una carretera podría obstaculizar el flujo del tráfico. Los trabajadores podrían utilizar la IA generativa para pensar en diferentes soluciones. “Existe el potencial de que la IA generativa nos ayude a canalizar mejor el tráfico a través de esas áreas, en lugar de pensar automáticamente ‘oh, simplemente ensanchemos el camino’. Esa es la solución’”, afirmó. Caltrans también quiere utilizar IA generativa para ayudar a lograr su visión de tener cero muertes y lesiones graves en la carretera para 2050. A través del análisis de los lugares de los accidentes, las condiciones de iluminación, los patrones de tráfico y el comportamiento de los «usuarios vulnerables de la carretera», como peatones y ciclistas, dice Caltrans La IA podría ayudar a los trabajadores a identificar áreas con mayor riesgo de sufrir accidentes y sugerir medidas de seguridad. «Este enfoque proactivo permitirá a los operadores e ingenieros del sistema de transporte anticipar y abordar los problemas de seguridad con anticipación o más rápidamente, en lugar de simplemente reaccionar a ellos después del hecho», indica un documento que describe el problema que Caltrans está tratando de resolver en los estados. A medida que la tecnología se incorpore más al trabajo del gobierno estatal, Omishakin dijo que anticipa que los empleos cambiarán pero no serán reemplazados por completo. Las empresas ya están utilizando IA para analizar los patrones de tráfico y el movimiento de las personas en las carreteras, incluidos conductores y ciclistas. Google, por ejemplo, tiene una iniciativa de investigación conocida como Proyecto Luz Verde en la que participan ciudades como Seattle y cuyo objetivo es mejorar el flujo del tráfico y reducir las emisiones de gases de efecto invernadero de los automóviles en las carreteras. Como parte del proyecto, Google utiliza IA para identificar cuándo los ingenieros pueden ajustar el tiempo de los semáforos y proporciona esas recomendaciones a los funcionarios de la ciudad. INRIX, una empresa de análisis de transporte, anunció en noviembre un nuevo producto generativo impulsado por IA que podría ayudar mejor a las ciudades. gestionar el flujo de tráfico. Un informe de la compañía encontró que Los Ángeles en 2022 era la sexta ciudad más congestionada de los Estados Unidos y los retrasos costaron a los conductores 95 horas perdidas y $1,601. La tecnología tampoco es perfecta y los humanos deben estar involucrados para garantizar que el El sistema de inteligencia artificial utiliza datos de las fuentes correctas y no arroja errores, dijo Tong. El estado también está tomando medidas para limitar posibles problemas de privacidad y seguridad de los datos. Los datos estatales que los proveedores utilizan en los sistemas de IA deben almacenarse dentro de los «entornos de nube administrados» del Departamento de Tecnología de California, según un documento sobre la propuesta estatal. La solicitud del estado de ideas innovadoras implica varios pasos que incluyen que el estado evalúe las soluciones. sugieren las empresas. California, que enfrenta un déficit presupuestario récord de 68 mil millones de dólares, podría entonces adjudicar un contrato a las empresas. Otras agencias estatales también planean pedir a las empresas que proporcionen ideas para ayudar a mejorar otros servicios estatales, incluidos los centros de llamadas que ayudan a los contribuyentes, dijo Tong. «Definitivamente tenemos en mente la restricción presupuestaria, pero al mismo tiempo, la seguridad pública es una alta prioridad». para la administración”, dijo Tong. «Por eso seguimos explorando estas opciones».
Source link
La niebla de la guerra se ha espesado en Gaza, una invasión terrestre está cobrando fuerza y los bombardeos aéreos continúan a un ritmo vertiginoso. El martes, misiles alcanzaron un campo de refugiados en Jabaliya, donde las Fuerzas de Defensa de Israel dijeron que estaba estacionado un alto líder de Hamas, matando a docenas de civiles. El debate sobre la crisis continúa en línea y fuera de ella, pero a pesar de todo el discurso, hay una pregunta pendiente que tengo. No se ha considerado ampliamente: ¿Hasta qué punto Israel depende de la inteligencia artificial y los sistemas de armas automatizados para seleccionar y atacar objetivos? Sólo en la primera semana de su ataque, la fuerza aérea israelí dijo que había lanzado 6.000 bombas en toda Gaza, un territorio que Tiene 140 millas cuadradas (una décima parte del tamaño del estado más pequeño de Rhode Island en Estados Unidos) y se encuentra entre los lugares más densamente poblados del mundo. Ha habido muchos miles de explosiones más desde entonces. Israel comanda el ejército más poderoso y de mayor tecnología de Medio Oriente. Meses antes de los horribles ataques de Hamás el 7 de octubre, las FDI anunciaron que iban a incorporar IA en operaciones letales. Como informó Bloomberg el 15 de julio, a principios de este año, las FDI habían comenzado a “usar inteligencia artificial para seleccionar objetivos para ataques aéreos y organizar la logística en tiempos de guerra”. Los funcionarios israelíes dijeron en ese momento que las FDI empleaban un sistema de recomendación de IA para elegir objetivos para ataques aéreos. bombardeo y otro modelo que luego se utilizaría para organizar rápidamente las siguientes incursiones. Las FDI llaman a este segundo sistema Fire Factory y, según Bloomberg, “utiliza datos sobre objetivos aprobados por el ejército para calcular cargas de municiones, priorizar y asignar miles de objetivos a aviones y drones, y proponer un cronograma”. A petición de comentarios, un portavoz de las FDI se negó a discutir el uso militar de la IA en el país. En un año en el que la IA ha dominado los titulares de todo el mundo, este elemento del conflicto ha sido curiosamente subexaminado. Dadas las innumerables cuestiones prácticas y éticas que siguen rodeando a esta tecnología, se debe presionar a Israel sobre cómo está implementando la IA. «Los sistemas de IA son notoriamente poco fiables y frágiles, especialmente cuando se colocan en situaciones que son diferentes de sus datos de entrenamiento», dijo Paul Scharre. , vicepresidente del Centro para una Nueva Seguridad Estadounidense y autor de “Cuatro campos de batalla: el poder en la era de la inteligencia artificial”. Scharre dijo que no estaba familiarizado con los detalles del sistema específico que las FDI podrían estar usando, pero que la IA y la automatización que ayudaron en los ciclos de selección de objetivos probablemente se usarían en escenarios como la búsqueda de personal y material de Hamas por parte de Israel en Gaza. El uso de la IA en el campo de batalla está avanzando rápidamente, dijo, pero conlleva riesgos significativos. “Cualquier IA que esté involucrada en decisiones de selección de objetivos, un riesgo importante es que acierte al objetivo equivocado”, dijo Scharre. «Podría estar causando víctimas civiles o atacando objetivos amigos y causando fratricidio». Una de las razones por las que es algo sorprendente que no hayamos visto más discusión sobre el uso de IA militar por parte de Israel es que las FDI han estado promocionando su inversión y adopción de la IA durante años. En 2017, el brazo editorial de las FDI proclamó que “las FDI ven la inteligencia artificial como la clave para la supervivencia moderna”. En 2018, las FDI se jactaron de que sus “máquinas están siendo más astutas que los humanos”. En ese artículo, la entonces directora de Sigma, la rama de las FDI dedicada a la investigación, el desarrollo y la implementación de la IA, la teniente coronel Nurit Cohen Inger, escribió que “Cada cámara, cada tanque y cada soldado produce información de forma regular. «Entendemos que hay capacidades que una máquina puede adquirir y que un hombre no puede», continuó Nurit. “Estamos introduciendo poco a poco la inteligencia artificial en todas las áreas de las FDI, desde la logística y la mano de obra hasta la inteligencia”. Las FDI llegaron incluso a llamar a su último conflicto con Hamás en Gaza, en 2021, la “primera guerra de inteligencia artificial”, con Los líderes de las FDI promocionan las ventajas que su tecnología confiere en la lucha contra Hamás. «Por primera vez, la inteligencia artificial fue un componente clave y un multiplicador de poder en la lucha contra el enemigo», dijo un alto oficial del Cuerpo de Inteligencia de las FDI al Jerusalem Post. Un comandante de la unidad de inteligencia artificial y ciencia de datos de las FDI dijo que los sistemas de inteligencia artificial habían ayudado al ejército a apuntar y eliminar a dos líderes de Hamas en 2021, según el Post. Las FDI dicen que los sistemas de IA se han integrado oficialmente en operaciones letales desde principios de este año. Dice que los sistemas permiten a los militares procesar datos y localizar objetivos más rápido y con mayor precisión, y que cada objetivo es revisado por un operador humano. Sin embargo, los académicos del derecho internacional en Israel han expresado su preocupación sobre la legalidad del uso de tales herramientas, y los analistas temen que representen un avance hacia armas más completamente autónomas y advierten que existen riesgos inherentes al entregar sistemas de objetivos a la IA. Después de todo, muchas IA Los sistemas son cada vez más cajas negras cuyos algoritmos no se comprenden bien y están ocultos a la vista del público. En un artículo sobre la adopción de la IA por parte de las FDI para el Instituto Lieber, los académicos de derecho de la Universidad Hebrea Tal Mimran y Lior Weinstein enfatizan los riesgos de depender de sistemas automatizados opacos capaces de provocar la pérdida de vidas humanas. (Cuando Mimran sirvió en las FDI, revisó los objetivos para asegurarse de que cumplieran con el derecho internacional). “Mientras las herramientas de IA no sean explicables”, escriben Mimran y Weinstein, “en el sentido de que no podemos entender completamente por qué alcanzaron un cierto En conclusión, ¿cómo podemos justificarnos a nosotros mismos si debemos confiar en la decisión de la IA cuando hay vidas humanas en juego? Continúan: “Si uno de los ataques producidos por la herramienta de IA causa un daño significativo a civiles no involucrados, ¿quién debería asumir la responsabilidad de la decisión?” Una vez más, las FDI no me explicaron exactamente cómo están utilizando la IA, y el funcionario le dijo a Bloomberg que un humano revisó la salida del sistema, pero que solo tomó unos minutos hacerlo. (“Lo que antes tomaba horas ahora toma minutos, con unos minutos más para la revisión humana”, dijo el jefe de transformación digital del ejército). Hay una serie de preocupaciones aquí, dado lo que sabemos sobre el estado actual de la técnica. de los sistemas de IA, y es por eso que vale la pena presionar a las FDI para que revelen más sobre cómo los utilizan actualmente. Por un lado, los sistemas de IA permanecen codificados con sesgos y, si bien a menudo son buenos para analizar grandes cantidades de datos, rutinariamente producen resultados propensos a errores cuando se les pide que extrapolen a partir de esos datos. “Una diferencia realmente fundamental entre la IA y un analista humano al que se le asigna exactamente la misma tarea”, dijo Scharre, “es que los humanos hacen un muy buen trabajo al generalizar a partir de un pequeño número de ejemplos a situaciones novedosas, y los sistemas de inteligencia artificial tienen muchas dificultades para generalizarse a situaciones novedosas”. Un ejemplo: incluso se ha demostrado una y otra vez que incluso la tecnología de reconocimiento facial supuestamente de vanguardia, como la utilizada por los departamentos de policía estadounidenses, es menos precisa a la hora de identificar a las personas. de color, lo que resulta en que los sistemas señalen a ciudadanos inocentes y lleven a arrestos injustos. Además, cualquier sistema de inteligencia artificial que busque automatizar (y acelerar) la selección de objetivos aumenta la posibilidad de que los errores cometidos en el proceso sean más difíciles de discernir. Y si los militares mantienen en secreto el funcionamiento de sus sistemas de inteligencia artificial, no hay manera de evaluar el tipo de errores que están cometiendo. «Creo que los militares deberían ser más transparentes en la forma en que evalúan o abordan la IA», dijo Scharre. “Una de las cosas que hemos visto en los últimos años en Libia o Ucrania es una zona gris. Habrá acusaciones de que se está utilizando IA, pero los algoritmos o los datos de entrenamiento son difíciles de descubrir, y eso hace que sea muy difícil evaluar lo que están haciendo los militares”. Incluso con esos errores incorporados en el código de eliminación, la IA podría, mientras tanto, prestar un barniz de credibilidad a objetivos que de otro modo no serían aceptables para los operadores de base. Finalmente, los sistemas de IA pueden crear una falsa sensación de confianza, que tal vez fue evidente en cómo, a pesar de tener el mejor sistema de inteligencia artificial de su clase, Con el sistema de vigilancia vigente en Gaza, Israel no detectó la planificación de la brutal y altamente coordinada masacre del 7 de octubre. Como señaló Peter Apps de Reuters: “El 27 de septiembre, apenas una semana antes de que los combatientes de Hamás lanzaran el mayor ataque sorpresa contra Israel desde la guerra de Yom Kippur de 1973, los funcionarios israelíes tomaron la presidencia del comité militar de la OTAN en la frontera de Gaza para demostrar su uso de inteligencia artificial y vigilancia de alta tecnología. … Desde aviones teledirigidos que utilizan software de reconocimiento facial hasta puestos de control fronterizos y escuchas electrónicas de las comunicaciones, la vigilancia israelí de Gaza se considera ampliamente entre los esfuerzos más intensos y sofisticados que existen”. Sin embargo, nada de eso ayudó a detener a Hamás. “El error ha sido, en el las últimas dos semanas, diciendo que se trataba de un fallo de inteligencia. No lo fue, fue un fracaso político”, dijo Antony Loewenstein, periodista independiente y autor de “El Laboratorio de Palestina” que estuvo basado en Jerusalén Oriental entre 2016 y 2020. “El foco de Israel había estado en Cisjordania, creyendo que había rodeado a Gaza. Creían erróneamente que las tecnologías más sofisticadas por sí solas lograrían mantener controlada y ocupada a la población palestina”. Ésa puede ser una de las razones por las que Israel se ha mostrado reacio a discutir sus programas de IA. Otro puede ser que un argumento clave de venta de la tecnología a lo largo de los años, que la IA ayudará a elegir objetivos con mayor precisión y reducir las víctimas civiles, actualmente no parece creíble. «La afirmación de la IA se ha centrado en apuntar a las personas con más éxito», dijo Loewenstein. “Pero no ha sido un objetivo concreto en absoluto; Hay un gran número de civiles muriendo. Un tercio de las viviendas en Gaza han sido destruidas. Eso no es apuntar con precisión”. Y eso es un temor aquí: que la IA pueda usarse para acelerar o habilitar la capacidad destructiva de una nación que convulsiona de rabia, con errores potencialmente mortales en sus algoritmos que quedan oscurecidos por la niebla de la guerra.
Source link