Únase a los líderes en Boston el 27 de marzo para una noche exclusiva de networking, conocimientos y conversaciones. Solicite una invitación aquí. El Instituto Nacional de Estándares y Tecnología (NIST) se enfrenta a una crisis interna, ya que miembros del personal y científicos han amenazado con dimitir por el nombramiento anticipado de Paul Christiano para un puesto crucial en el recién creado Instituto de Seguridad de IA de EE. UU. (AISI) de la agencia, según a al menos dos fuentes con conocimiento directo de la situación, que pidieron permanecer en el anonimato. Christiano, conocido por sus vínculos con el movimiento de altruismo efectivo (EA) y su rama, el longtermismo (una visión que prioriza el futuro a largo plazo de la humanidad, popularizada por el filósofo William MacAskill), supuestamente fue apresurado en el proceso de contratación sin que nadie lo hiciera. sabiendo hasta hoy, dijo una de las fuentes. El nombramiento de Christiano, que se dice que vino directamente de la Secretaria de Comercio Gina Raimondo (NIST es parte del Departamento de Comercio de EE. UU.) ha provocado indignación entre los empleados del NIST que temen que la asociación de Christiano con EA y el largo plazo puedan comprometer la objetividad e integridad del instituto. . Muchos dicen que EA (definido por el Centro para el Altruismo Eficaz como un “proyecto intelectual que utiliza la evidencia y la razón para descubrir cómo beneficiar a los demás tanto como sea posible”) se ha convertido en un grupo parecido a una secta de seguidores muy influyentes y ricos (que se hicieron famosos). por el fundador de FTX y preso Sam Bankman-Fried) cuya principal preocupación gira en torno a evitar que una futura catástrofe de la IA destruya a la humanidad. Los críticos de la EA se centran en este riesgo existencial, o “riesgo x”, dicen que está sucediendo en detrimento de un enfoque necesario en los riesgos actuales y mensurables de la IA, incluidos el sesgo, la desinformación, las aplicaciones de alto riesgo y la ciberseguridad tradicional. Evento VB The AI ​​Impact Tour – Boston Estamos emocionados por la próxima parada del AI Impact Tour en Boston el 27 de marzo. Este evento exclusivo al que solo se puede acceder por invitación, en asociación con Microsoft, incluirá debates sobre las mejores prácticas para la integridad de los datos en 2024 y más allá. El espacio es limitado, así que solicite una invitación hoy. Solicite una invitación El Instituto de Seguridad de IA de EE. UU. se estableció en noviembre de 2023 El AISI se estableció en noviembre de 2023 para “respaldar las responsabilidades asignadas al Departamento de Comercio” en virtud de la Orden Ejecutiva de IA. Hoy temprano, el líder de la mayoría del Senado de los EE. UU., Chuck Schumer (D-NY), anunció que el NIST recibirá hasta 10 millones de dólares para establecer el Instituto de Seguridad de la IA de los EE. UU. El mes pasado, VentureBeat informó sobre las críticas sobre la falta de transparencia del NIST en torno al AISI: a mediados de diciembre, los legisladores del Comité Científico de la Cámara de Representantes de ambos partidos enviaron una carta al NIST que, según Politico, «reprendió a la agencia por falta de transparencia y por no anunciar un proceso competitivo para subvenciones de investigación planificadas relacionadas con el nuevo Instituto de Seguridad de IA de EE. UU. » Esa falta de transparencia se centró en una posible subvención a RAND Corporation, “un grupo de expertos influyente vinculado a los multimillonarios tecnológicos, la industria de la inteligencia artificial y el altruismo efectivo”. (VentureBeat también ha informado sobre una “red cada vez más amplia” de seguidores eficaces del altruismo en los círculos de ‘seguridad’ de la IA, incluso dentro de RAND y de la empresa líder en modelos de LLM, Anthropic). «Es importante garantizar que la misión del NIST no se vea afectada» Divyansh Kaushik, director asociado de tecnologías emergentes y seguridad nacional de la Federación de Científicos Estadounidenses, dijo a VentureBeat que, independientemente de quién sea designado para el rol de AISI, «es importante garantizar que la misión del NIST no se vea afectada». La misión no se ve afectada por ello”. El NIST siempre ha realizado “investigaciones de medición metódicas que están muy fundamentadas”, dijo. “Estamos en un territorio inexplorado al intentar establecer un programa de evaluación de riesgos hipotéticos a partir de modelos de propósito general. Entiendo totalmente la aprensión que tendrían los científicos del NIST y corresponde al liderazgo de Comercio garantizar que cualquier nombramiento sea fiel a la ciencia y a la misión y metodología del NIST”. Si ciertos nombramientos hacen que los “científicos superestrellas” del NIST renuncien, añadió, “sería una lástima; en ese caso, ciertamente espero que la Secretaria analice lo que perderá al nombrar a una persona y reconsidere su elección”. Los comités del Congreso, señaló, ya están prestando mucha atención al trabajo de AISI. «Espero que puedan hacer un buen trabajo con buenas personas que sean los mejores científicos en medición y puedan hacer este trabajo de una manera que se apoye en las fortalezas del NIST en lugar de intentar rehacer cuál es la misión del NIST y lo que hace», dijo. . VentureBeat se ha puesto en contacto con la Secretaria de Comercio, Gina Raimondo, la directora de AISI, Elizabeth Kelly, y Paul Christiano. Actualizaremos cuando tengamos noticias. La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora y realicen transacciones. Descubra nuestros Briefings.

Source link