Edgar Cervantes / Android AuthorityTL;DR OpenAI ha anunciado Voice Engine, un nuevo sistema de IA capaz de recrear voces humanas. La empresa está probando este producto con «un pequeño grupo de empresas». OpenAI lo mantiene en privado por ahora para examinar los peligros potenciales (y obvios). OpenAI, la compañía detrás de ChatGPT, ha estado en racha últimamente. El éxito de ChatGPT ha sido asombroso, por supuesto, pero la compañía también anunció recientemente Sora, un sistema capaz de crear videoclips de 60 segundos que parecen muy realistas. Ahora, la compañía ha anunciado un nuevo sistema llamado Voice Engine, que puede recrear voces humanas (a través de The New York Times). Al igual que Sora, OpenAI no permite que el público use Voice Engine, al menos no todavía. Por ahora, la empresa está probando el sistema de forma privada con «un pequeño grupo de empresas». Obviamente, la razón por la que está haciendo esto se debe a las enormes implicaciones éticas de un sistema que puede imitar la voz de una persona real. El New York Times hizo una demostración del sistema y compartió algunos clips, que puede escuchar en el enlace anterior. El primer clip es una grabación de 16 segundos de un hombre real con un marcado acento portugués. Se presenta y dice que está haciendo este clip para «ayudar a las personas no verbales a expresarse más plenamente». El siguiente clip es la recreación de Voice Engine de su voz diciendo algo completamente diferente. Otro clip más es una recreación de la voz del hombre, pero hablando en portugués en lugar de inglés. Ambos clips de Voice Engine no suenan igual que el clip original. Sin embargo, están lo suficientemente cerca como para engañar a alguien que conociera la voz de ese hombre haciéndole creer que realmente dijo esas cosas. Lo aterrador de esto es la posibilidad de usar una herramienta como esta para difundir información errónea. Voice Engine podría fácilmente cooptar las voces de políticos, celebridades y periodistas y luego obligarlos a decir lo que quisieran. Con un poco de edición y una pista de vídeo convincente, ¿quién sabe qué se podría hacer? También existen sistemas de autenticación de voz que se utilizan en todo el mundo por motivos de seguridad. Es muy posible que Voice Engine permita a las personas engañar a esos sistemas, poniendo en riesgo información confidencial. «Esto es algo delicado», dijo el gerente de producto de OpenAI, Jeff Harris, «Esto es algo delicado y es importante hacerlo bien». OpenAI está experimentando con sistemas de marcas de agua para ayudar a diferenciar las grabaciones reales de las sintéticas. El equipo también es abierto sobre los problemas éticos que plantea este sistema. Sin embargo, también argumenta que Voice Engine podría hacer mucho bien. Por ejemplo, las personas que alguna vez pudieron hablar pero que perdieron la voz más adelante en la vida podrían comenzar a comunicarse nuevamente utilizando un facsímil de su propia voz. El físico Stephen Hawking es un ejemplo famoso de persona que podría haberse beneficiado de un servicio de voz como este. Voice Engine también podría preservar las voces de personas que ya no están vivas y también trabajar en muchos entornos comerciales, como en la creación de audiolibros. OpenAI dice que aún no tiene planes para un lanzamiento público de Voice Engine. Al igual que Sora, sólo quiere demostrar lo que puede hacer. ¿Tienes un consejo? ¡Háblanos! Envíe un correo electrónico a nuestro personal a news@androidauthority.com. Puedes permanecer en el anonimato u obtener crédito por la información, es tu elección.Comentarios

Source link