El creador de ChatGPT, OpenAI, dijo el martes que formó un comité de seguridad para evaluar los procesos y salvaguardas de la compañía a medida que aumentan las preocupaciones sobre el uso de tecnología de inteligencia artificial en rápido desarrollo. Se espera que el comité demore 90 días en finalizar su evaluación. Después de eso, presentará a la junta directiva completa de la compañía recomendaciones sobre decisiones críticas de seguridad para proyectos y operaciones de OpenAI, dijo la firma en una publicación de blog. El anuncio se produce después de que dos líderes de alto nivel, el cofundador Ilya Sutskever y su colega ejecutivo Jan Leike, renunciaran a la empresa. Sus salidas generaron preocupaciones sobre las prioridades de la compañía, porque ambas se habían centrado en la importancia de garantizar un futuro seguro para la humanidad en medio del auge de la IA. Sutskever y Leike lideraron el llamado equipo de superalineación de OpenAI, cuyo objetivo era crear sistemas para frenar los riesgos a largo plazo de la tecnología. Al grupo se le asignó la tarea de “avances científicos y técnicos para dirigir y controlar sistemas de inteligencia artificial mucho más inteligentes que nosotros”. Tras su partida, Leike dijo que «la cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes». El nuevo comité de seguridad de OpenAI está dirigido por el presidente de la junta, Bret Taylor, los directores Adam D’Angelo y Nicole Seligman y el director ejecutivo Sam Altman. Varios líderes técnicos y políticos de OpenAI también forman parte del comité. OpenAI dijo que «contratará y consultará con otros expertos técnicos y de seguridad para respaldar este trabajo». La formación del comité llega cuando la empresa comienza a trabajar en la capacitación de lo que llama su “modelo de próxima frontera” para la inteligencia artificial. «Si bien estamos orgullosos de construir y lanzar modelos que son líderes en la industria tanto en capacidades como en seguridad, damos la bienvenida a un debate sólido en este momento importante», dijo OpenAI en su publicación de blog. Las controversias sobre el uso de la IA han perseguido a San Francisco. empresa con sede, incluido el negocio del entretenimiento, que está preocupada por las implicaciones de la tecnología para la propiedad intelectual y el posible desplazamiento de trabajadores. La actriz Scarlett Johansson criticó a la compañía la semana pasada por su manejo de una función de voz ChatGPT que, según ella y otros, sonaba inquietantemente parecida a ella. Johansson, quien prestó su voz a un programa de inteligencia artificial en la película «Her», ganadora del Oscar de Spike Jonze, dijo que Altman se acercó a ella para pedirle que proporcionara su voz, pero ella se negó, solo para escuchar más tarde lo que sonaba como su voz en una demostración de OpenAI. .OpenAI dijo que la voz que aparece en la demostración no era la de Johansson sino la de otro actor. Después de que Johansson dio la alarma, OpenAI puso una pausa en su opción de voz, “Sky”, una de las muchas voces humanas disponibles en la aplicación. Un portavoz de OpenAI dijo que la formación del comité de seguridad no estaba relacionada con los problemas que involucran a Johansson. OpenAI es mejor conocido por ChatGPT y Sora, una herramienta de texto a video que tiene importantes ramificaciones potenciales para cineastas y estudios. OpenAI y otras empresas de tecnología han estado manteniendo conversaciones con Hollywood, mientras la industria del entretenimiento lidia con los efectos a largo plazo de la IA en el empleo y la creatividad. Algunos directores de cine y televisión han dicho que la IA les permite pensar con más audacia, probando ideas sin tener las limitaciones de efectos visuales y presupuestos de viaje limitados. A otros les preocupa que una mayor eficiencia a través de herramientas de inteligencia artificial pueda reducir puestos de trabajo en áreas como el maquillaje, la producción y la animación. Al enfrentarse a cuestiones de seguridad, el negocio de OpenAI, que cuenta con el respaldo de Microsoft, también debe lidiar con la competencia de otras empresas que están construyendo las suyas propias. Herramientas de inteligencia artificial y financiación. Anthropic, con sede en San Francisco, ha recibido miles de millones de dólares de Amazon y Google. El domingo, xAI, dirigida por Elon Musk, anunció que había cerrado una ronda de financiación de 6.000 millones de dólares destinada a investigación y desarrollo, construcción de infraestructura y lanzamiento de sus primeros productos al mercado.
