La desinformación y la desinformación generadas por la inteligencia artificial (IA) plantean riesgos para las próximas elecciones en Estados Unidos, el Reino Unido, Asia y América del Sur durante los próximos dos años. Los intentos de socavar el proceso democrático difundiendo narrativas falsas podrían erosionar la confianza en los gobiernos y provocar disturbios civiles. El Foro Económico Mundial (FEM) advirtió hoy que la desinformación y la desinformación en línea, generada por la IA, es el principal riesgo a corto plazo que enfrentan los países. Dado que se espera que tres mil millones de personas voten en elecciones en todo el mundo de aquí a 2026, el FEM clasifica el riesgo que plantea la desinformación por delante de los fenómenos meteorológicos severos, la polarización social y la seguridad cibernética. La IA también plantea nuevos riesgos para los sistemas informáticos al permitir que estados hostiles y grupos de piratas informáticos automaticen los ciberataques, mientras que, a largo plazo, la dependencia de la IA para la toma de decisiones creará más riesgos, predijo el WEF en su Informe de riesgos globales 2024, publicado hoy. . La vulnerabilidad de los gobiernos, las empresas y la sociedad a las narrativas falsas generadas por la IA será uno de los riesgos clave que se debatirán cuando líderes empresariales, políticos, académicos y organizaciones no gubernamentales se reúnan en el Foro Económico Mundial en Davos del 15 al 19 de enero de 2024. El Informe de Riesgos Globales 2024 del Foro Económico Mundial, que se basa en las opiniones de 1.200 expertos en riesgos, formuladores de políticas y líderes de la industria de todo el mundo, pinta un panorama sombrío y predice unas perspectivas difíciles para los próximos dos años que se espera que empeoren a lo largo del año. a más largo plazo. Alrededor del 30% de los expertos consultados por el FEM dijeron que el mundo estaba al borde de enfrentar riesgos catastróficos en los próximos dos años, cifra que aumentó al 60% de los expertos que predijeron riesgos catastróficos durante la próxima década. Saadia Zahidi, directora general del FEM, describió la situación como “un orden global inestable caracterizado por narrativas polarizadoras e inseguridad, el empeoramiento de los impactos del clima extremo y la incertidumbre económica”, que estaba “causando riesgos cada vez mayores, incluida la desinformación y la desinformación”. Riesgos electorales Con las elecciones a la vuelta de la esquina, el FEM advierte que las empresas de redes sociales podrían verse abrumadas por múltiples campañas de desinformación superpuestas, lo que dificultaría la vigilancia de los intentos de manipular las elecciones. Según el análisis del FEM, los vídeos, podcasts o sitios web de campaña altamente falsos generados por IA podrían influir en los votantes y provocar protestas o, en escenarios más extremos, provocar violencia o radicalización. Las narrativas falsas serán cada vez más personalizadas y dirigidas a grupos específicos, y se difundirán a través de canales menos abiertos, como el servicio de mensajería WhatsApp o WeChat de China, predice. Según el WEF, las campañas de desinformación podrían desestabilizar a los gobiernos recién elegidos, lo que podría provocar disturbios políticos, violencia y terrorismo. «El impacto potencial en las elecciones en todo el mundo durante los próximos dos años es significativo, y eso podría llevar a que se cuestione la legitimidad de los gobiernos electos», dijo Carolina Klint, directora comercial para Europa de Marsh McLennan. «Esto, a su vez, podría impactar el proceso democrático, provocando una mayor polarización social, disturbios, huelgas o incluso un aumento de la violencia». Riesgos de seguridad cibernética de la IA El WEF advierte que la IA expondrá a las empresas y organizaciones a nuevos riesgos de seguridad cibernética al proporcionar a los ciberdelincuentes nuevas vías para piratear empresas. La IA se puede utilizar para crear malware avanzado que puede hacerse pasar por personas para ganarse su confianza y atraparlas para que revelen sus contraseñas durante ataques de phishing. “La ciberseguridad no se trata de proteger una computadora o un archivo, se trata más bien de garantizar que las cadenas de suministro funcionen y que la sociedad en su conjunto esté en funcionamiento” Carolina Klint, WEF Cuando los piratas informáticos norcoreanos atacaron el banco central de Bangladesh en 2016, Les llevó dos años mapear las redes informáticas del banco y descubrir cómo atacar el sistema. «Si el ataque hubiera sido impulsado por IA, habría tardado dos días», dijo Klint hoy en una conferencia de prensa. Las empresas deberán responder utilizando inteligencia artificial para automatizar las defensas contra los ciberataques, parchear automáticamente los sistemas vulnerables y cerrar las brechas de seguridad. «Tenemos que reconocer que todo lo que utilizamos -como el agua y la electricidad, el sistema financiero, el sistema de comunicaciones- depende de la integración de una red de sistemas increíblemente compleja», afirmó Klint. «La seguridad cibernética no se trata de proteger una computadora o un archivo, sino más bien garantizar que las cadenas de suministro funcionen y que la sociedad en su conjunto esté en funcionamiento», añadió. En el caso del banco central de Bangladesh, Klint dijo que a los investigadores les tomó meses descubrir qué había sucedido y detener el ataque, pero si la IA hubiera estado disponible, podría haber detectado la intrusión en dos días. La IA y la regulación de las redes sociales A pesar del creciente aislamiento de muchos países, el WEF dijo que las empresas y los gobiernos necesitarían colaborar para encontrar soluciones a las campañas de desinformación generadas por la IA y a los crecientes riesgos cibernéticos. Una respuesta es regular a las empresas de tecnología para que exijan que los artículos e imágenes generados por IA incluyan una marca de agua que los identifique como generados artificialmente. También puede ser necesaria una mayor regulación para las empresas de redes sociales, que amplifican la difusión de desinformación y desinformación al ofrecer a las personas más artículos sobre temas que les “gustan”. John Scott, jefe de riesgo de sostenibilidad de Zurich Insurance Group y uno de los contribuyentes al informe, dijo que la falta de selección editorial en las redes sociales podría conducir a un mundo en el que nadie sabe en quién confiar ni qué contenido es confiable. «De alguna manera, tenemos que crear una veracidad, una especie de árbitro de la verdad, que podamos entender individual y colectivamente», dijo. Las medidas propuestas incluyen campañas de alfabetización digital sobre desinformación y desinformación, y acuerdos internacionales para limitar el uso de la IA en la toma de decisiones en conflictos. Los riesgos están interrelacionados Según el informe de riesgos, las preocupaciones sobre los riesgos de la desinformación impulsada por la IA dominarán en 2024, junto con la crisis del costo de vida y la polarización social. Los riesgos están interrelacionados y pueden verse exacerbados por tensiones geopolíticas que podrían significar que los conflictos en curso en Ucrania, Israel y otros lugares conduzcan a nuevos conflictos en otras partes del mundo. Durante la próxima década, los riesgos ambientales seguirán dominando: el clima extremo, los cambios críticos en los sistemas terrestres, la pérdida de biodiversidad, la contaminación y la escasez de recursos naturales figurarán entre los 10 principales riesgos. Los próximos años se caracterizarán por una incertidumbre económica que creará una tecnología económica creciente y divisiones sociales, predice el FEM. Klint, de Marsh McLennan, dijo que los avances en inteligencia artificial causarían una disrupción radical en las organizaciones, y muchas tendrían dificultades para reaccionar ante las amenazas de la desinformación junto con otros riesgos. “Se necesitará un enfoque incesante para generar resiliencia a nivel organizacional, nacional e internacional –y una mayor cooperación entre los sectores público y privado– para navegar este panorama de riesgos en rápida evolución”, dijo. Scott añadió: “Las acciones transfronterizas colectivas y coordinadas desempeñan su papel, pero las estrategias localizadas son fundamentales para reducir el impacto de los riesgos globales”.

Source link