Las herramientas de inteligencia artificial más populares del mundo funcionan con programas de OpenAI y Meta que muestran prejuicios contra las mujeres, según un estudio lanzado el jueves por la organización cultural de la ONU, UNESCO. Los actores más importantes en el campo multimillonario de la IA entrenan sus algoritmos con grandes cantidades de datos extraídos en gran medida de Internet, lo que permite a sus herramientas escribir al estilo de Oscar Wilde o crear imágenes inspiradas en Salvador Dalí. Pero sus producciones han sido criticadas a menudo por reflejar estereotipos raciales y sexistas, así como por utilizar material protegido por derechos de autor sin permiso. Los expertos de la UNESCO probaron el algoritmo Llama 2 de Meta y GPT-2 y GPT-3.5 de OpenAI, el programa que impulsa la versión gratuita del popular chatbot ChatGPT. El estudio encontró que cada algoritmo, conocido en la industria como Large Language Models (LLM), mostraba «evidencia inequívoca de prejuicio contra las mujeres». Los programas generaban textos que asociaban los nombres de las mujeres con palabras como «hogar», «familia» o «niños», pero los nombres de los hombres se vinculaban con «negocios», «salario» o «carrera». Mientras que los hombres aparecían en puestos de alto estatus como profesores, abogados y médicos, las mujeres eran frecuentemente prostitutas, cocineras o sirvientas domésticas. Se descubrió que GPT-3.5 estaba menos sesgado que los otros dos modelos. Sin embargo, los autores elogiaron a Llama 2 y GPT-2 por ser de código abierto, lo que permite examinar estos problemas, a diferencia de GPT-3.5, que es un modelo cerrado. Las empresas de IA «realmente no están al servicio de todos sus usuarios», afirmó a la AFP Leona Verdadero, especialista de la Unesco en políticas digitales. Audrey Azoulay, directora general de la UNESCO, dijo que el público en general utiliza cada vez más herramientas de inteligencia artificial en su vida cotidiana. «Estas nuevas aplicaciones de IA tienen el poder de moldear sutilmente las percepciones de millones de personas, por lo que incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real», afirmó. La UNESCO, al publicar el informe con motivo del Día Internacional de la Mujer, recomendó que las empresas de IA contraten a más mujeres y minorías y pidió a los gobiernos que garanticen una IA ética a través de la regulación. © 2024 AFP

Source link