La inteligencia artificial (IA) es una tecnología poderosa que puede aportar muchos beneficios a la sociedad, pero también plantea muchos desafíos y riesgos. Para garantizar que Estados Unidos lidere el camino a la hora de aprovechar la oportunidad y gestionar los riesgos de la IA, el presidente Biden emitió una orden ejecutiva histórica el 30 de octubre de 2023. Cómo la orden utiliza una ley de 75 años para regular la IA La administración Biden es utilizando la Ley de Producción de Defensa, una ley de 75 años que otorga a la Casa Blanca amplia autoridad para regular industrias relacionadas con la seguridad nacional, para obligar a las empresas a informar al gobierno federal sobre los posibles riesgos de seguridad nacional relacionados con su trabajo con IA. primera orden ejecutiva del gobierno federal que regula directamente la IA, y sigue los compromisos voluntarios de 15 importantes empresas de IA, como Google, Microsoft y OpenAI. La orden ejecutiva tiene como objetivo lograr cuatro cosas principales. Establece nuevos estándares para la seguridad de la IA; protege la privacidad, los derechos civiles y los derechos del consumidor de los estadounidenses; apoya a los trabajadores y la innovación; y promueve el liderazgo estadounidense en todo el mundo. Si bien se abordan esos enfoques, muchos críticos dicen que está diluido y que probablemente no sea suficiente para instalar barandillas de seguridad muy necesarias para esta tecnología de rápido progreso que es capaz de superar a muchas mentes humanas. HAGA CLIC PARA OBTENER EL BOLETÍN GRATUITO DE CYBERGUY CON ALERTAS DE SEGURIDAD, RÁPIDO CONSEJOS EN VIDEO, REVISIONES TÉCNICAS Y PRÁCTICAS FÁCILES PARA HACERLO MÁS INTELIGENTE El presidente Joe Biden ha emitido una orden ejecutiva que regulará directamente la inteligencia artificial. (Cyberguy.com)MÁS: ¿POR QUÉ EL CHATBOT AI DE GOOGLE ESQUIVA PREGUNTAS SOBRE EL CONFLICTO ISRAEL-HAMAS? 1. Nuevos estándares para la seguridad de la IAUno de los componentes clave de la orden ejecutiva es crear nuevos estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros y confiables. Compartir los resultados de las pruebas de seguridad para sistemas de IA potentesLa orden ejecutiva requiere Los desarrolladores de los sistemas de inteligencia artificial más poderosos, como los modelos básicos que representan un riesgo grave para la seguridad nacional o la salud pública, compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de los EE. UU. antes de hacerlos públicos. Esto permitirá al gobierno evaluar los riesgos y beneficios potenciales de estos sistemas y prevenir cualquier uso dañino o malicioso. Establecer estándares rigurosos para las pruebas del equipo rojo La orden ejecutiva también ordena al Instituto Nacional de Estándares y Tecnología (NIST) que establezca estándares rigurosos para pruebas exhaustivas del equipo rojo para garantizar la seguridad antes de su lanzamiento al público. Las pruebas del equipo rojo son un método para evaluar la seguridad y la solidez de un sistema mediante la simulación de ataques de adversarios. EL JEFE DE CHATGPT ADVIERTE SOBRE ALGUNAS HABILIDADES ‘SUPERHUMANAS’ QUE LA IA PODRÍA DESARROLLAR Aplicación de estándares de seguridad a sectores de infraestructura críticos El Departamento de Seguridad Nacional (DHS) aplicará estos estándares para sectores de infraestructura crítica y establecer la Junta de Seguridad y Vigilancia de IA. Los Departamentos de Energía y Seguridad Nacional también abordarán las amenazas de los sistemas de IA a la infraestructura crítica, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad. Desarrollar nuevos estándares para detección de síntesis biológicaAdemás, la orden ejecutiva tiene como objetivo proteger contra los riesgos del uso de IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevos estándares sólidos para la detección de síntesis biológica. Las agencias que financian proyectos de ciencias biológicas establecerán estos estándares como condición para la financiación federal, creando incentivos poderosos para garantizar una detección adecuada y gestionar los riesgos potencialmente empeorados por la IA. Estas acciones son los pasos más importantes jamás tomados por cualquier gobierno para avanzar en el campo de la seguridad de la IA. Ayudarán a garantizar que los sistemas de IA estén alineados con los valores humanos y no causen daños ni daños a las personas ni al medio ambiente. La orden ejecutiva de Biden creará nuevos estándares para garantizar que la inteligencia artificial sea segura y confiable. (Cyberguy.com) MÁS: PREVENCIÓN DE TIROTES MASIVOS CON UNA DETECCIÓN: INTERVENCIÓN INSPIRADA EN LOS NAVY SEALS 2. Protección de la privacidad, los derechos civiles y los derechos de los consumidores de los estadounidenses Otro aspecto importante de la orden ejecutiva es proteger la privacidad, los derechos civiles y los derechos de los consumidores de los estadounidenses en la era de la IA. Evaluación de las técnicas de privacidad utilizadas en la IA La orden ejecutiva crea pautas que las agencias pueden utilizar para evaluar las técnicas de privacidad utilizadas en la IA, como la privacidad diferencial o el aprendizaje federado. Estas técnicas están diseñadas para proteger datos confidenciales o personales contra el acceso o la divulgación no autorizados y, al mismo tiempo, permitir análisis o aprendizaje útiles. Promoción de la equidad y los derechos civiles en las aplicaciones de IA La orden ejecutiva también promueve la equidad y los derechos civiles al brindar orientación a los propietarios y contratistas federales para ayudar a evitar Algoritmos de IA que fomentan la discriminación, como en las decisiones de vivienda o empleo. También crea mejores prácticas sobre el papel apropiado de la IA en el sistema de justicia, como cuando se utiliza en sentencias, evaluaciones de riesgos o previsión de delitos. Estas acciones ayudarán a prevenir prejuicios e injusticias en las aplicaciones de IA que afectan la vida y las oportunidades de las personas. Proteger a los consumidores de prácticas dañinas de atención médica relacionadas con la IA Además, la orden ejecutiva protege a los consumidores al ordenar al Departamento de Salud y Servicios Humanos (HHS) que cree un programa para evaluar prácticas de atención médica potencialmente dañinas relacionadas con la IA, como diagnósticos erróneos o tratamientos excesivos. También crea recursos sobre cómo los educadores pueden utilizar de manera responsable las herramientas de inteligencia artificial, como el aprendizaje personalizado o las pruebas adaptativas. Estas medidas ayudarán a garantizar que los sistemas de IA se utilicen de manera que beneficien la salud, la educación y el bienestar de las personas. EXPERTO ADVIERTE QUE LA ORDEN DE IA DE BIDEN TIENE ‘PRIORIDADES EQUIVOCADAS’ A PESAR DE ALGUNAS REVISIONES POSITIVAS La privacidad, los derechos civiles y del consumidor se abordarán en la orden ejecutiva. (Cyberguy.com)MÁS: ESTA APLICACIÓN DE CITAS UTILIZA IA PARA ENCONTRAR TU ALMA GEMELA POR TU CARA 3. Apoyo a los trabajadores y la innovación La orden ejecutiva también apoya a los trabajadores y la innovación en el sector de la IA para ayudar a fomentar un ecosistema de IA vibrante y diverso que impulse el descubrimiento científico y prosperidad económica. Elaboración de un informe sobre las implicaciones de la IA en el mercado laboral. La orden ejecutiva produce un informe sobre las posibles implicaciones de la IA en el mercado laboral y estudia las formas en que el gobierno federal podría apoyar a los trabajadores afectados por una interrupción del mercado laboral. Esto ayudará a preparar a los trabajadores para la naturaleza cambiante del trabajo y les brindará oportunidades para volver a capacitarse o mejorar sus habilidades. Aumento de las inversiones en investigación y desarrollo de IA La orden ejecutiva también promueve la innovación y la competencia al ordenar a las agencias que aumenten sus inversiones en investigación y desarrollo (I+D) de IA. , especialmente en áreas que tienen un alto potencial de impacto social o crecimiento económico. También alienta a las agencias a colaborar con la industria, el mundo académico, la sociedad civil y socios internacionales para promover la innovación responsable en IA. La orden ejecutiva tiene como objetivo diversificar el ecosistema de IA. (Cyberguy.com)MÁS: META CONFIESA QUE ESTÁ UTILIZANDO LO QUE PUBLICA PARA ENTRENAR SU IA 4. Promoviendo el liderazgo estadounidense en todo el mundoFinalmente, la orden ejecutiva promueve el liderazgo estadounidense en todo el mundo al ordenar a las agencias que interactúen con aliados y socios en el desarrollo de normas y estándares comunes. principios para el uso responsable de la IA. También instruye a las agencias a promover los derechos humanos y los valores democráticos en sus actividades relacionadas con la IA y a oponerse a cualquier intento de regímenes autoritarios de hacer un uso indebido de la IA para la represión o la vigilancia. Estas acciones ayudarán a garantizar que Estados Unidos siga siendo un líder mundial en la configuración del futuro de la IA de una manera que refleje sus valores e intereses. La orden ejecutiva de Biden tendrá como objetivo promover el liderazgo estadounidense en el mundo de la IA. (Cyberguy.com) MÁS: CÓMO UTILIZAR LA IA PARA AYUDARTE A CONSEGUIR UN MEJOR TRABAJO EN LUGAR DE ROBAR UNO Reglas que omite la orden ejecutiva La orden omite algunas reglas que han sido parte de los debates públicos de este año. Por ejemplo, no existe ninguna regulación para la concesión de licencias para los modelos más avanzados, una propuesta respaldada por el director ejecutivo de OpenAI, Sam Altman, y no hay restricciones para los usos más riesgosos de la tecnología. Además, la orden no obliga a revelar detalles sobre la capacitación. datos y el tamaño del modelo, que según muchos expertos y críticos es esencial para comprender la tecnología y anticipar sus posibles daños. Además, no existe ninguna orientación sobre cómo se aplicará la ley de propiedad intelectual a las obras creadas con o mediante IA, algo que ahora queda en manos de OBTÉN MÁS DE MIS ALERTAS DE SEGURIDAD, CONSEJOS RÁPIDOS Y FÁCILES TUTORIALES EN VIDEO CON EL BOLETÍN GRATUITO DE CYBERGUY – HAGA CLIC AQUÍ Un mundo sin la orden ejecutiva La orden ejecutiva de Biden sobre IA es un paso en la dirección correcta, aunque podría no ser suficiente o permanente. Algunos argumentan que la orden ejecutiva no es legalmente vinculante y que los futuros presidentes pueden cambiarla o revocarla. También sugieren que se necesitan regulaciones más específicas y aplicables para abordar los desafíos y oportunidades complejos y cambiantes de la IA. Sin la orden ejecutiva, la IA aún podría estar regulada por las leyes existentes y los estándares voluntarios, pero podrían no ser suficientes o lo suficientemente consistentes para garantizar que la IA sea responsable, ética y beneficiosa para todos. Conclusiones clave de Kurt La orden ejecutiva de Biden sobre la IA es un importante acción gubernamental que, con suerte, tendrá un impacto positivo en el futuro de la IA. Intenta garantizar que los sistemas de IA sean seguros, confiables y beneficiosos para todos los estadounidenses y el mundo, pero ignora los consejos básicos de líderes de IA como el director ejecutivo de OpenAI, Sam Altman. Deja una serie de cuestiones graves sin resolver por responder. ¿Qué opinas de la orden ejecutiva de Biden? ¿Cree que ayudará a Estados Unidos a liderar el camino en innovación y seguridad de la IA? Háganos saber escribiéndonos a Cyberguy.com/Contact. Para obtener más consejos técnicos y alertas de seguridad, suscríbase a mi boletín informativo CyberGuy Report gratuito dirigiéndose a Cyberguy.com/Newsletter. Haga una pregunta a Kurt o cuéntenos qué historias le gustaría saber. Me gusta para cubrirRespuestas a las preguntas más frecuentes de CyberGuy: ● ¿Cuál es la mejor manera de proteger sus dispositivos Mac, Windows, iPhone y Android para que no sean pirateados? ● ¿Cuál es la mejor manera de mantenerse privado, seguro y anónimo mientras navega por la web? ● ¿Cómo puedo deshacerme de las llamadas automáticas con aplicaciones y servicios de eliminación de datos? Copyright 2023 CyberGuy.com. Reservados todos los derechos. Kurt «CyberGuy» Knutsson es un periodista tecnológico galardonado que siente un profundo amor por la tecnología, los equipos y los dispositivos que mejoran la vida con sus contribuciones para Fox News y FOX Business desde las mañanas en «FOX & Friends». ¿Tiene alguna pregunta técnica? Obtenga el boletín CyberGuy de Kurt, comparta su voz, una idea para una historia o comente en CyberGuy.com.

Source link