Suscríbase a nuestros boletines diarios y semanales para recibir las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder en la industria. Más información A medida que nos acercamos al segundo aniversario de ChatGPT y la posterior «explosión cámbrica» ​​de aplicaciones y herramientas de IA generativa, se ha vuelto evidente que dos cosas pueden ser ciertas a la vez: el potencial de esta tecnología para remodelar positivamente nuestras vidas es innegable, al igual que los riesgos de sesgo generalizado que impregnan estos modelos. En menos de dos años, la IA ha pasado de respaldar tareas cotidianas como solicitar viajes compartidos y sugerir compras en línea, a ser juez y jurado en actividades increíblemente significativas como arbitrar reclamos de seguros, vivienda, crédito y asistencia social. Se podría argumentar que el sesgo bien conocido pero a menudo descuidado en estos modelos era molesto o gracioso cuando recomendaban pegamento para hacer que el queso se pegara a la pizza, pero ese sesgo se vuelve indefendible cuando estos modelos son los guardianes de los servicios que influyen en nuestros propios medios de vida. Entonces, ¿cómo podemos mitigar de manera proactiva el sesgo de la IA y crear modelos menos dañinos si los datos con los que los entrenamos están intrínsecamente sesgados? ¿Es posible incluso cuando quienes crean los modelos carecen de la conciencia para reconocer el sesgo y las consecuencias no deseadas en todas sus formas matizadas? La respuesta: más mujeres, más minorías, más personas mayores y más diversidad en el talento de IA. Educación temprana y exposición Una mayor diversidad en IA no debería ser una conversación radical o divisiva, pero en los más de 30 años que he pasado en STEM, siempre he sido una minoría. Si bien la innovación y la evolución del espacio en ese tiempo han sido astronómicas, no se puede decir lo mismo de la diversidad de nuestra fuerza laboral, particularmente en datos y análisis. De hecho, el Foro Económico Mundial informó que las mujeres representan menos de un tercio (29%) de todos los trabajadores STEM, a pesar de representar casi la mitad (49%) del empleo total en carreras no STEM. Según el Departamento de Estadísticas Laborales de EE. UU., los profesionales negros en matemáticas y ciencias de la computación representan solo el 9%. Estas lamentables estadísticas se han mantenido relativamente estables durante 20 años y se reducen a un magro 12% para las mujeres a medida que se reduce el alcance desde los puestos de nivel inicial hasta los de alta dirección. La realidad es que necesitamos estrategias integrales que hagan que las STEM sean más atractivas para las mujeres y las minorías, y esto comienza en el aula ya en la escuela primaria. Recuerdo haber visto un video que compartió la empresa de juguetes Mattel de alumnos de primer o segundo grado a los que se les dio una mesa con juguetes para jugar. La gran mayoría de las niñas eligieron los «juguetes de niña» tradicionales, como una muñeca o una bailarina, pero ignoraron otros juguetes, como un auto de carreras, ya que eran para niños. Luego se les mostró a las niñas un video de Ewy Rosqvist, la primera mujer en ganar el Gran Premio de Turismos de Argentina, y la perspectiva de las niñas cambió por completo. Es una lección de que la representación moldea la percepción y un recordatorio de que debemos ser mucho más intencionales con los mensajes sutiles que les damos a las niñas en torno a las STEM. Debemos garantizar la igualdad de caminos para la exploración y la exposición, tanto en el plan de estudios regular como a través de socios sin fines de lucro como Data Science for All o los campamentos de entrenamiento de IA de la Fundación Mark Cuban. También debemos celebrar y amplificar los modelos a seguir de las mujeres que continúan siendo pioneras audaces en este espacio, como la directora ejecutiva de AMD Lisa Su, la directora técnica de OpenAI Mira Murati o Joy Buolamwini, quien fundó The Algorithmic Justice League, para que las niñas puedan ver que en STEM no son solo hombres detrás del volante. Los datos y la IA serán la piedra angular de casi todos los trabajos del futuro, desde atletas hasta astronautas, diseñadores de moda hasta cineastas. Necesitamos cerrar las desigualdades que limitan el acceso a la educación STEM para las minorías y debemos mostrar a las niñas que una educación en STEM es literalmente una puerta a una carrera en cualquier cosa. Para mitigar el sesgo, primero debemos reconocerlo El sesgo infecta a la IA de dos maneras destacadas: a través de los vastos conjuntos de datos con los que se entrenan los modelos y a través de la lógica personal o los juicios de las personas que los construyen. Para mitigar verdaderamente este sesgo, primero debemos comprender y reconocer su existencia y asumir que todos los datos están sesgados y que el sesgo inconsciente de las personas juega un papel. Basta con mirar algunos de los generadores de imágenes más populares y ampliamente utilizados, como MidJourney, DALL-E y Stable Diffusion. Cuando los periodistas de The Washington Post pidieron a estas modelos que representaran a una «mujer hermosa», los resultados mostraron una asombrosa falta de representación en tipos de cuerpo, rasgos culturales y tonos de piel. La belleza femenina, según estas herramientas, era abrumadoramente joven y europea: delgada y blanca. Solo el 2% de las imágenes tenía signos visibles de envejecimiento y solo el 9% tenía tonos de piel oscuros. Una línea del artículo fue particularmente chocante: «Independientemente de cómo se origine el sesgo, el análisis de The Post encontró que las herramientas de imágenes populares tienen dificultades para reproducir imágenes realistas de mujeres fuera del ideal occidental». Además, los investigadores universitarios han descubierto que el dialecto étnico puede conducir a un «sesgo encubierto» a la hora de identificar el intelecto de una persona o recomendar sentencias de muerte. Pero ¿y si el sesgo es más sutil? A finales de los años 80, comencé mi carrera como especialista en sistemas empresariales en Zúrich, Suiza. En ese momento, como mujer casada, no se me permitía legalmente tener mi propia cuenta bancaria, incluso si era la principal fuente de ingresos del hogar. Si un modelo se entrena con grandes cantidades de datos históricos de crédito de mujeres, hay un punto en algunas geografías en el que simplemente no existe. Si a esto le sumamos los meses o incluso años que algunas mujeres están fuera de la fuerza laboral por licencia de maternidad o responsabilidades de cuidado de los niños, ¿cómo son conscientes los desarrolladores de esas posibles discrepancias y cómo compensan esas brechas en el historial laboral o crediticio? Los datos sintéticos habilitados por la IA gen pueden ser una forma de abordar esto, pero solo si los creadores de modelos y los profesionales de datos tienen la conciencia de considerar estos problemas. Por eso es imperativo que una representación diversa de mujeres no solo tenga un lugar en la mesa de la IA, sino una voz activa para construir, entrenar y supervisar estos modelos. Esto simplemente no puede dejarse al azar o a los estándares éticos y morales de unos pocos tecnólogos selectos que históricamente han representado solo una pequeña parte de la población global más rica. Más diversidad: una obviedad Dada la rápida carrera por las ganancias y los zarcillos de sesgo arraigados en nuestras bibliotecas digitales y experiencias vividas, es poco probable que alguna vez los eliminemos por completo de nuestra innovación en IA. Pero eso no puede significar que la inacción o la ignorancia sean aceptables. Más diversidad en STEM y más diversidad de talento íntimamente involucrado en el proceso de IA significarán sin duda modelos más precisos e inclusivos, y eso es algo de lo que todos nos beneficiaremos. Cindi Howson es directora de estrategia de datos en ThoughtSpot y ex vicepresidenta de investigación de Gartner. DataDecisionMakers ¡Bienvenido a la comunidad VentureBeat! DataDecisionMakers es donde los expertos, incluidos los técnicos que realizan trabajo de datos, pueden compartir conocimientos e innovación relacionados con los datos. Si desea leer sobre ideas de vanguardia e información actualizada, mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en DataDecisionMakers. ¡Incluso podría considerar contribuir con un artículo propio! Leer más de DataDecisionMakers