Dirige tu mente hacia adelante. Es el 8 de noviembre de 2028, el día después de otra elección presidencial. Esto transcurrió sin contratiempos (no hubo denuncias de manipulación desenfrenada, ni ninguna mancha significativa de artimaña) debido en gran parte a la derrota de los deepfakes, el nuevo enemigo de la democracia. ¿Es posible un futuro así? Hasta ahora, ni el gobierno ni la industria tecnológica han acordado medidas de seguridad efectivas contra los deepfakes. Pero estas preguntas frecuentes (de cinco años en el futuro) muestran que los acontecimientos de 2024 bien pueden forzar la cuestión y que es posible encontrar una solución. ¿Por qué llevó tanto tiempo encontrar una forma eficaz de luchar contra los deepfakes? A finales de 2022, apareció un sofisticado software de inteligencia artificial de bajo costo que facilitó la creación de audio, videos y fotografías realistas: los llamados deepfakes. A medida que estos programas de IA generativa mejoraron rápidamente, quedó claro que el contenido deepfake sería un peligro para la democracia. Pronto surgieron deepfakes políticos, tanto de audio como de vídeo: el presidente Biden anunció que los estadounidenses serían reclutados para luchar en Ucrania. Una foto de Donald Trump abrazando y besando al Dr. Anthony Fauci. La senadora Elizabeth Warren (D-Mass.) le dice a MSNBC que a los republicanos no se les debería permitir votar en 2024. Eric Adams, el alcalde monolingüe de Nueva York, habla español, yiddish y mandarín en llamadas automáticas producidas por IA. Muy rápidamente, el La Casa Blanca, la Unión Europea y las principales empresas de tecnología lanzaron propuestas de regulación de IA de amplio alcance que incluían “marcas de agua” en el contenido de IA: insertar etiquetas de identificación, un código informático permanente, en el archivo digital de cualquier contenido generado por IA para identificar su origen artificial. Pero el establecimiento de reglas de IA resultó complejo, y el etiquetado ejemplificó los dilemas: ¿Sería legalmente necesaria la marca de agua de IA? ¿Cómo se haría cumplir? Ya en 2023, algunas cámaras de teléfonos móviles utilizaban IA en el procesamiento de imágenes. ¿Qué cantidad de entrada de IA en el contenido requeriría un identificador? ¿Necesitaría una influencer de belleza de Instagram poner una marca de agua en sus selfies con rostro ajustado? Las complicaciones fueron tales que ningún sistema se adoptó ampliamente. ¿Qué cambió? El mayor ataque coordinado de deepfake de la historia tuvo lugar el día después de las elecciones de noviembre de 2024. Todos los canales de redes sociales de EE. UU. se vieron inundados de audio, videos e imágenes fijas falsas que mostraban fraude electoral en una docena de estados en disputa, contenido altamente realista que en cuestión de horas fue visto por millones. Los esfuerzos de desacreditación por parte de los medios y el gobierno se vieron obstaculizados por un flujo constante de nuevos deepfakes, en su mayoría fabricados en Rusia, Corea del Norte, China e Irán. El ataque generó un caos legal y civil que duró hasta bien entrada la primavera de 2025. ¿Sin embargo, no se adoptó ninguno de los primeros esfuerzos de autenticación? Correcto. En realidad, el gran avance se produjo a principios de 2026 de la mano de un grupo de trabajo de periodistas digitales de organizaciones de noticias estadounidenses e internacionales. Su objetivo era encontrar una manera de mantener los deepfakes fuera de las noticias, para poder proteger la credibilidad que aún conservaban los principales medios de comunicación. Era una tarea lógica: los periodistas son históricamente despiadados a la hora de castigar a sus pares por mala conducta, rompiendo el alquitrán y las plumas incluso por desviaciones menores del rigor fáctico. Las organizaciones periodísticas formaron la Alianza FAC – “Contenido autenticado por hechos” – basándose en una idea simple: Ya había demasiadas falsificaciones de IA en el mundo como para intentar imponer un sistema de marcas de agua para la desinformación y la desinformación. E incluso las normas de etiquetado más estrictas serían simplemente ignoradas por los malos actores. Pero sería posible poner marcas de agua en fragmentos de contenido que no fueran deepfakes. Y así nació el FACStamp voluntario el 1 de mayo de 2026. ¿Cómo es un FACStamp? Para los consumidores, el contenido con sello FAC muestra un pequeño ícono «FAC» en una esquina de la pantalla o incluye un aviso FAC de audio. El usuario puede apagar la señal o puede configurarla para que aparezca solo durante cinco o 10 segundos al inicio de una transmisión multimedia. Los FACStamps son completamente voluntarios. Pero todos los miembros de la Alianza FAC se comprometieron a que sus informes físicos, de transmisión y de Internet publicarían solo medios con sello FACS en sus secciones de noticias. ¿Cómo califica el contenido para un sello FACStam? Los teléfonos, tabletas, cámaras, grabadoras y computadoras de escritorio más nuevos incluyen software que inserta automáticamente el código FACStamp en cada pieza de contenido visual o de audio a medida que se captura, antes de que se pueda aplicar cualquier modificación de IA. Esto demuestra que la imagen, el sonido o el vídeo no fueron generados por IA. También puedes descargar la aplicación FAC, que hace lo mismo con equipos más antiguos. El FACStamp es lo que los tecnólogos llaman “frágil”: la primera vez que la IA falsifica una imagen, un video o un archivo de audio, el sello desaparece. Pero la IA a menudo se usa apropiadamente para hacer cosas como reducir el ruido de fondo en un archivo de audio. ¿El contenido FacStamped no se puede editar en absoluto? Ciertamente puede. Pero para conservar el FACStamp, su computadora debe estar conectada al Centro de verificación FAC sin fines de lucro. Las computadoras del centro detectan si la edición es menor (como un recorte o incluso un ajuste cosmético del rostro) y el sello permanece. Cualquier manipulación mayor, desde intercambiar caras hasta fondos falsos, y el FACStamp desaparece. ¿Cómo se extendió FACStamps más allá del periodismo? Resultó que mucha gente podía utilizar FACStamp. Los minoristas de Internet adoptaron FACStamps para vídeos e imágenes de sus productos. Pronto le siguieron los particulares, que utilizan FACStamps para vender productos en línea. Cuando los compradores potenciales juzgan una camioneta usada o un sofá de segunda mano, es reconfortante saber que la imagen no fue eliminada ni borrada por la IA. En 2027, el sello comenzó a aparecer en medios de comunicación social. Cualquier padre puede generar artificialmente una imagen perfectamente realista de su familia feliz parada frente a la Torre Eiffel y publicarla o enviarla por correo electrónico a amigos envidiosos. Un FACStamp demuestra que la familia realmente estuvo allí. Los perfiles de aplicaciones de citas sin FACStamps finalmente se están volviendo raros. Las aplicaciones de videoconferencia tienen opciones FAC para garantizar que todos los participantes en la llamada sean reales. Y para los influencers, es cada vez más difícil reclamar “autenticidad” sin al menos el FACStamp ocasional. Incluso la industria de la IA apoya el uso de FACStamps. Durante los entrenamientos en Internet, si un programa de IA absorbe cantidades excesivas de datos generados por IA en lugar de datos auténticos, puede sufrir un «colapso del modelo» y volverse tremendamente inexacto. Por eso, FACStamp ayuda a las empresas de IA a entrenar sus modelos basándose únicamente en la realidad. ¿Qué sigue? Un grupo bipartidista de senadores y miembros de la Cámara planea presentar la Ley del Derecho a la Realidad cuando se abra el próximo Congreso en enero de 2029. Exigirá el uso de FACStamps en múltiples sectores, incluidos el gobierno local, los sitios comerciales y las ofertas de inversión y bienes raíces. La falsificación de un FACStamp se convertiría en un delito penal. Las encuestas indican un amplio apoyo público a la ley, y la Alianza FAC ya ha comenzado una campaña de promoción de marca. El eslogan: “¿Es eso una FAC? “Michael Rogers es un autor y futurista cuyo libro más reciente es “Email From the Future: Notes From 2084”.
Source link
Etiqueta: gobierno
Este mes se cumple el 50 aniversario del llamado “otro 11 de septiembre”, el golpe militar en Chile, encabezado por el general Augusto Pinochet, que terminó con la muerte del presidente democráticamente electo, Salvador Allende. retrospectivas, conmemoraciones y reexámenes de las siguientes décadas de violento gobierno dictatorial, pero algo más también murió ese día: un experimento utópico para utilizar tecnología de punta y el estudio de la cibernética para administrar de manera equitativa y eficiente toda la economía de la nación. llamado Proyecto Cybersyn. Cuarenta años antes de que big data o tecnología inteligente se convirtieran en palabras de moda, y décadas antes del auge de la Internet abierta, los ingenieros de Chile estaban construyendo una compleja red de información a partir de piezas de repuesto y pura voluntad. En ese momento, era una idea profundamente futurista: las fábricas y las empresas transmitirían datos en tiempo real a una sala de operaciones, o sala de operaciones, en la sede del gobierno de Chile, para que pudiera predecir los resultados económicos y evitar los problemas antes de que ocurrieran. y coordinar la producción y distribución de bienes cruciales. “El proyecto Cybersyn era conceptualmente mucho más avanzado que la limitada infraestructura técnica disponible en Chile hace cincuenta años”, me dice Gui Bonsiepe, uno de los diseñadores del proyecto. «Fue un experimento audaz para reducir la dependencia», afirma, y para «aumentar la autonomía, para hacerse con el futuro, superando las garras del mercado y de las finanzas internacionales». Cybersyn, relegado durante mucho tiempo a una curiosidad, en los últimos años ha atrajo una renovada atención. Eden Medina, ahora profesor en el MIT, publicó “Cybernetic Revolutionaries”, una obra de historia que ofrece una profunda exégesis del proyecto. Más recientemente, fue cocuradora de una exposición, “Cómo diseñar una revolución”, en el Centro Cultural La Moneda, en Santiago, que incluye una réplica a tamaño real de la sala de operaciones. Y un nuevo proyecto del veterano escritor de tecnología Evgeny Morozov, “The Santiago Boys”, presenta la historia como una dramática e iluminadora serie de podcasts narrativos de nueve partes. Para una historia sobre un proyecto tecnológico de medio siglo de antigüedad, resulta sorprendentemente fascinante escucharla. Y el momento no podría ser mejor para todas las reevaluaciones. Después de todo, hoy en día, la mayoría de nosotros pensamos en gran medida en la tecnología en términos de nuevas productos y servicios de consumo, de chatbots y iPhones. Pensamos en Silicon Valley, un lugar que convirtió una enorme inversión gubernamental en defensa e infraestructura de Internet en uno de los mayores motores corporativos de la economía, dando lugar a gigantes tecnológicos que construyen productos con la prioridad de maximizar las ganancias, incluso cuando eso significa, digamos, promover información errónea en sus plataformas o explotar a los trabajadores que trabajan en sus aplicaciones. Pensamos que el gobierno está irremediablemente desconectado de la tecnología, luchando perpetuamente por controlar sus excesos. Ahora imaginemos, por un segundo, si todo eso fuera al revés. ¿Qué pasaría si fuera el gobierno conocido por su alta tecnología, el que estuviera interesado en conectar a los trabajadores, los consumidores y toda la economía? ¿Un gobierno que trabaja en nombre del pueblo y que buscó implementar tecnología para empoderar a los trabajadores y optimizar la eficiencia, no con fines de lucro sino para el mejoramiento de la sociedad? “Hoy, todo está al revés, con capitalistas de riesgo financiando tecnologías que luego se imponen a sociedades”, me dice Morozov. “Las soluciones tecnológicas [Chile’s engineers] Los precios que buscamos no fueron impuestos por proveedores de tecnología que necesitaban cerrar una venta. Más bien, sus proyectos tecnológicos surgieron de las necesidades agudamente percibidas de la economía nacional”. En 1970, Allende ganó una elección con una plataforma abiertamente socialista e inmediatamente se vio acosado por una serie de desafíos potencialmente catastróficos. La Guerra Fría estaba en marcha, Estados Unidos vio su victoria como un peligroso avance de la influencia soviética y Nixon prometió estrangular la economía de la nación. Mientras tanto, la economía de Chile se había estado hundiendo desde hacía mucho tiempo, los oponentes políticos internos de Allende se estaban movilizando y muchos de los profesionales más educados y capacitados del país fueron atraídos al extranjero. Así que un grupo de ingenieros y tecnólogos radicales decidieron aprovechar las tecnologías del momento en busca de ayuda. Reclutaron a un excéntrico consultor de gestión británico llamado Stafford Beer, quien aplicó la teoría cibernética pionera (esencialmente, el estudio de sistemas dinámicos y cómo diferentes entradas crean retroalimentación en esos sistemas) a las operaciones comerciales. Juntos se propusieron construir un sistema que empoderaría a los trabajadores, coordinaría la producción e identificaría los puntos débiles antes de que se volvieran debilitantes. La supervisión de empresas y fábricas se reorganizó en comités integrados por trabajadores y representantes gubernamentales. Luego, las fábricas y los negocios se abastecieron de máquinas de télex, que se utilizaron para enviar datos a lo largo de la cadena de suministro. En última instancia, la información se enviaría a la sala de operaciones de una oficina en el centro de Santiago, donde los datos serían procesados por una computadora. “Estos datos se introdujeron en programas de software estadísticos diseñados para predecir el desempeño futuro de la fábrica”, escribe Medina en “Revolucionarios”. » «El sistema incluía un simulador económico computarizado, que daría a los responsables políticos del gobierno la oportunidad de probar sus ideas económicas antes de implementarlas». Bonsiepe diseñó la elegante sala de operaciones hexagonal, con sillas equipadas con paneles de control, para que también pareciera vanguardista. – se parecía al puente del Enterprise de “Star Trek”, tal vez, o al entorno de alta tecnología de “2001: Una odisea en el espacio”. La idea era, como dice Medina, que sería un lugar donde Allende y otros “miembros del gobierno pudieran reunirse, comprender rápidamente el estado de la economía y tomar decisiones rápidas informadas por datos recientes”. principios de los años 1970. Las computadoras eran toscas, enormes y caras, y Chile sólo pudo conseguir una. (Por un lado, el embargo comercial impuesto por Estados Unidos a la nación hizo casi imposible comprar el equipo ideal. Por otro, Chile estaba en quiebra). “En cierto sentido, se trataba de construir una forma primitiva de IA que ayudara a abordar el problema. cuestión de gestión”, me dice Morozov, “separando los problemas rutinarios y aleatorios” (que podrían ignorarse) “de los potencialmente existenciales”. Las máquinas de télex, que podían enviar mensajes de texto a través de redes telefónicas establecidas, fueron una solución alternativa inteligente: los datos de esos mensajes serían procesados por la computadora central. “Muchos de los observadores estadounidenses no podían creer que un país relativamente subdesarrollado como Chile pudiera lograr algo como esto; algunos incluso estaban ocupados escribiendo cartas al editor denunciando la existencia de Cybersyn como lo que hoy llamaríamos ‘noticias falsas’”. Me cuenta Morozov. “Y, sin embargo, fue real, se adelantó a su tiempo y se adaptó orgánicamente a las necesidades del desarrollo económico del país”. Y funcionó. En un ejemplo famoso, una huelga organizada por propietarios de camiones opuestos a Allende buscó paralizar la economía, y Cybersyn ayudó a alimentar los datos gubernamentales necesarios para solucionarlo, sin recurrir a aplastar la huelga. La visión de Allende del socialismo era diferente de la soviética; quería preservar las instituciones democráticas de Chile y hacer una transición pacífica hacia instituciones de propiedad pública. Y vio a Cybersyn como una manera de ayudar a lograrlo. Al final, el gobierno de Allende fue el que fue aplastado. Respaldado por Nixon, Pinochet tomó el poder y envió tanques y tropas a Santiago. Salvador Allende se quitó la vida y miles de sus partidarios fueron detenidos, encarcelados y asesinados. Y Cybersyn, que apenas había comenzado a funcionar (la sala de operaciones todavía se consideraba un prototipo), fue destruida. Soldados y bomberos sacan el cuerpo del presidente chileno Salvador Allende del destruido palacio presidencial después del golpe del 11 de septiembre de 1973 que puso fin al gobierno de tres años de Allende. (Associated Press) Pero la esperanza de lo que se propuso lograr, con o sin un programa socialista, sigue viva. De hecho, es muy propio de este momento, en el que escritores, actores, artistas y trabajadores protestan por la forma en que los jefes de los estudios y las corporaciones pretenden usar la IA en su contra, y mientras los trabajadores piden a Uber y Lyft que dejen de usar sus algoritmos patentados para recortar sus salarios y mantenerlos en la ignorancia sobre su estatus. ¿Qué pasaría si las tecnologías se usaran con los trabajadores y no contra ellos? Los entusiastas de la IA de hoy a menudo dicen que con suficiente progreso, una inteligencia general benévola podría hacerse cargo y administrar nuestras instituciones y maquinaria de manera más eficiente que nosotros, y que algún día podría usarse para resolver el cambio climático, el hambre y la desigualdad en el mundo. Es una idea que tiene mucho optimismo (y ganancias de Silicon Valley a corto plazo) y pocos detalles. Hace cincuenta años, los ingenieros de la proto-IA de Chile intentaron hacerlo al revés: meterse en las trincheras, conectar la economía con máquinas transmisoras de datos, intentar ampliar el papel de los trabajadores en la ecuación y reducir las ineficiencias y desperdicios en el proceso. Es imposible decir si este plan utópico podría haber funcionado o no, o haber estado alguna vez a la altura de sus ideales, pero era un plan. «Los técnicos radicales de Allende no estaban estudiando minuciosamente textos sobre la singularidad o el riesgo existencial de la IA», me dice Morozov, «estaban ocupados leyendo sobre la naturaleza desigual de la economía global». Y estaban tratando de aprovechar el poder tecnológico para solucionarlo. «Me gustaría que imaginemos que un mundo así todavía es posible hoy», dice Morozov. Yo también.
Source link