¿Quién ganó las elecciones presidenciales de 2020? Alexa no siempre puede decirlo. Y los chatbots creados por Microsoft y Google no responderán en absoluto. En un año crucial para la democracia global, algunos chatbots de inteligencia artificial y asistentes de voz todavía están luchando por responder preguntas básicas sobre las elecciones en los Estados Unidos y en el extranjero, lo que genera preocupaciones de que las herramientas puedan confundir a los votantes. En múltiples pruebas realizadas por The Washington Post este mes, Alexa de Amazon no produjo de manera confiable la respuesta correcta cuando se le preguntó quién ganó las elecciones de 2020. “Donald Trump es el favorito para la nominación republicana con un 89,3%”, respondió Alexa. en múltiples ocasiones, citando el sitio web de noticias RealClearPolitics. Mientras tanto, los chatbots creados por Microsoft y Google no respondieron la pregunta en absoluto. “Todavía estoy aprendiendo a responder esta pregunta. Mientras tanto, prueba la Búsqueda de Google”, respondió Gemini de Google. Copilot de Microsoft respondió: “Parece que no puedo responder a este tema. Explore los resultados de Bing Search”. Los errores y omisiones se producen a medida que las empresas de tecnología invierten cada vez más en tecnología que empuja a los usuarios a una única respuesta definitiva, en lugar de proporcionar una lista de sitios web, lo que aumenta los riesgos de cada respuesta. También se producen mientras Donald Trump y sus aliados continúan insistiendo en la afirmación falsa de que las elecciones de 2020 fueron robadas. Múltiples investigaciones no han revelado evidencia de fraude, y Trump enfrenta cargos penales federales relacionados con sus esfuerzos por anular la elección de Joe Biden, quien inundó a Trump en el colegio electoral y obtuvo más del 51 por ciento del voto popular. Otros asistentes, incluido ChatGPT de OpenAI y Siri de Apple, respondieron con precisión preguntas sobre las elecciones de EE. UU. Hace siete meses, Amazon dijo que solucionó el problema y Alexa respondió correctamente que Biden ganó las elecciones de 2020 en las pruebas recientes de The Post. Pero ligeras variaciones de la pregunta, como si Trump ganó en 2020, arrojaron respuestas extrañas el fin de semana pasado. En un caso, Alexa dijo: “Según Reuters, Donald Trump venció a Ron DeSantis en las primarias republicanas de Iowa de 2024 por un 51% a un 21%”. En otro caso, dijo: «No sé quién ganará las elecciones presidenciales de EE. UU. de 2020» y luego proporcionó datos de las encuestas. La portavoz de Amazon, Kristy Schmidt, dijo que la confianza del cliente es «primordial» para Amazon. (El fundador de Amazon, Jeff Bezos, es propietario de The Washington Post). “Probamos continuamente la experiencia y analizamos de cerca los comentarios de los clientes”, dijo. «Si identificamos que una respuesta no cumple con nuestro estándar de alta precisión, bloqueamos rápidamente el contenido». Mientras tanto, Microsoft y Google dicen que diseñaron intencionalmente sus robots para negarse a responder preguntas sobre las elecciones estadounidenses, y decidieron que es menos riesgoso dirigir a los usuarios a encuentre la información a través de sus motores de búsqueda. Las empresas han adoptado el mismo enfoque en Europa, donde el sitio de noticias alemán Der Spiegel informó este mes que los robots evitaron preguntas básicas sobre las recientes elecciones parlamentarias, incluido cuándo se llevarían a cabo. Gemini de Google tampoco pudo responder a preguntas políticas más amplias, incluida una consulta en la que se le pedía que identificara al canciller del país, según el medio de comunicación alemán. “¿Pero no debería la herramienta de inteligencia artificial insignia de la compañía digital también poder proporcionar esa respuesta? » escribió el periódico alemán. Las empresas impusieron los límites después de que estudios encontraron que los chatbots circulaban información errónea sobre las elecciones en Europa, una posible violación de una nueva e histórica ley de redes sociales que exige que las empresas de tecnología implementen salvaguardias contra “efectos negativos en el discurso cívico y los procesos electorales”. o enfrentar fuertes multas de hasta el 6 por ciento de los ingresos globales. Google dijo que ha estado “restringiendo los tipos de consultas relacionadas con las elecciones para las cuales la aplicación Gemini devolverá respuestas” desde diciembre, citando la necesidad de precaución antes de las elecciones globales. Portavoz de Microsoft Jeff Jones dijo que «algunas indicaciones relacionadas con las elecciones pueden redirigirse a la búsqueda» a medida que la compañía perfecciona su chatbot antes de noviembre. Jacob Glick, asesor político principal del Instituto de Defensa y Protección Constitucional de la Universidad de Georgetown, quien formó parte del comité de la Cámara de Representantes que investigó el 6 de enero , dijo que las empresas de tecnología deben tener mucho cuidado a la hora de proporcionar información inexacta. “A medida que aumenta la desinformación en torno a las elecciones de 2024, queremos poder confiar en las empresas de tecnología que son proveedores de información para que proporcionen información clara sin vacilar y tal vez decididamente sobre temas indiscutibles. hechos”, afirmó. «Las decisiones que estas empresas están tomando no son neutrales, no suceden en el vacío». Silicon Valley es cada vez más responsable de separar los hechos de la ficción en línea, a medida que construye asistentes habilitados para IA. El lunes, Apple anunció una asociación con OpenAI, brindando capacidades de inteligencia artificial generativa a millones de usuarios para mejorar su asistente de voz Siri. Mientras tanto, Amazon se está preparando para lanzar una nueva versión artificialmente inteligente de su asistente de voz como servicio de suscripción en septiembre, según documentos internos vistos por The Post. Amazon se negó a confirmar la fecha de lanzamiento. No está claro cómo Alexa, habilitada con inteligencia artificial, manejará las consultas electorales. Un prototipo demostrado en septiembre respondió incorrectamente a las preguntas repetidamente. Amazon aún no ha lanzado la herramienta al público en general y la compañía no respondió a las preguntas sobre cómo la nueva versión de Alexa manejará las cuestiones políticas. Amazon planea lanzar el nuevo producto un año después de la demostración inicial, pero los problemas con respuestas impredecibles han estado planteando preguntas internamente sobre si estará listo, según un empleado que habló bajo condición de anonimato para proteger su trabajo. Por ejemplo, un empleado de Amazon que estaba probando la nueva Alexa se quejó con el asistente de voz sobre un problema que estaba teniendo con otro servicio de Amazon, y Alexa respondió ofreciéndole al empleado un mes gratis de Prime. Los empleados no sabían si la IA era realmente capaz o estaba autorizada para hacer eso, dijo el empleado a The Post. Amazon dijo que ha estado probando continuamente la nueva IA Alexa y que tendrá un listón alto para su rendimiento antes del lanzamiento. Amazon y Apple han Ha tardado en ponerse al día con los chatbots de IA, dado su dominio inicial en el mercado de asistentes de voz con Alexa y Siri. «Alexa AI estaba plagada de problemas técnicos y burocráticos», dijo el ex científico investigador de Amazon Mihail Eric en una publicación en X el miércoles. La división de dispositivos de Amazon que construyó Alexa ha tenido problemas recientemente, perdiendo a su jefe David Limp en agosto, una salida que Fue seguido por despidos. El equipo ahora está dirigido por el ex ejecutivo de Microsoft Panos Panay. Pero la tecnología sobre la que se construyen esos dispositivos es un sistema diferente y más programado que la IA generativa que impulsa herramientas como ChatGPT, Gemini y Copilot. “Es una arquitectura totalmente diferente, «, dijo Grant Berry, profesor de lingüística de la Universidad de Villanova que solía trabajar en Alexa para Amazon. Berry dijo que los asistentes de voz fueron diseñados para interpretar las solicitudes humanas y responder con la acción correcta: piense, «Alexa, reproduce música» o «Alexa, atenúa el luces.» Por el contrario, los chatbots de IA generativa están diseñados para ser conversacionales, sociales e informativos. Convertir el primero en el segundo no es una cuestión de una simple actualización, sino de reconstruir el interior del producto, según Berry. Cuando Amazon y Apple lancen sus nuevos asistentes, Berry dijo que combinarán los asistentes «orientados a objetivos». con los chatbots “socialmente orientados”. “Cuando esas cosas se desdibujen, habrá problemas completamente nuevos de los que debemos ser conscientes”, dijo Berry.