Weiquan Lin/Getty Images Si pensamos en lo rápido que Internet se convirtió en el canal clave para una enorme cantidad de actividad humana, desde el comercio hasta la comunicación y la colaboración, empezaremos a tener una idea del papel transformador que desempeñará la inteligencia artificial (IA) en nuestra sociedad. vidas durante la próxima década. Al igual que Internet, se predice que la IA y sus subtipos principales (aprendizaje automático, procesamiento del lenguaje natural, reconocimiento facial y aprendizaje profundo) transformarán la sociedad humana al integrarse en prácticamente todas las facetas de la vida cotidiana. life.Además: 5 formas de prepararse para el impacto de la IA generativa en la profesión de TI Incluso hoy en día, muchos sistemas y servicios de TI ya promocionan soluciones basadas en IA para problemas empresariales. Esta ubicuidad plantea entonces la pregunta lógica: ¿qué sucede si la IA falla? Es preocupante que las «alucinaciones» de la IA (donde la tecnología inventa respuestas a preguntas que no sabe) ya son algo común. También hemos visto algoritmos exhibir y amplificar prejuicios de género, raciales, étnicos y de clase que ya están integrados en la sociedad. .Además: ¿Quieres trabajar en IA? Cómo hacer pivotar su carrera en 5 pasos Este tipo de problemas surgen porque gran parte de los datos que impulsan los modelos de IA se extraen del contenido de Internet, la mayoría de los cuales han sido producidos por estructuras de poder dominantes. Por lo tanto, para garantizar que un algoritmo de IA funcione adecuadamente y no cometa errores vergonzosos, los modelos que impulsan la tecnología emergente deben «entrenarse» con un conjunto de datos (y en el caso siguiente, imágenes) que actúen como puntos de referencia imparciales. IA de la manera correctaPor ejemplo, el sistema de alerta temprana de California tiene un algoritmo de reconocimiento de imágenes conectado a más de mil cámaras en todo el estado. El modelo está entrenado para identificar una nube de humo de una nube. El gráfico Reeb de Gleich traduce vectores incrustados irreconocibles del conjunto de datos de un algoritmo en puntos de colores, lo que permite observar errores de clasificación. Universidad Purdue: desde tumores en los pulmones hasta automóviles que se desvían bruscamente en la carretera, se está implementando software de reconocimiento de imágenes diseñado para encontrar indicadores clave a partir del ruido en escenarios de misión crítica que salvan vidas. Si bien el impacto positivo potencial de este tipo de sistemas es significativo, también lo es el riesgo de IA errantes. Entonces, ¿cómo se puede garantizar que los sistemas de reconocimiento de imágenes de IA no ayuden a destruir la sociedad tal como la conocemos? Además: Seis habilidades que necesita para convertirse en un ingeniero rápido de IA. Es importante tener un «conjunto de entrenamiento» sólido de imágenes que proporcione buenos puntos de referencia. Esta capacitación implica garantizar que la información sobre cada píxel y cómo se etiqueta y clasifica en una categoría se lleve a cabo con una precisión impecable. De esta manera, cuando el algoritmo se mueve tratando de descubrir a qué categoría pertenece una imagen en particular, puede hacerlo refiriéndose a la información de las imágenes en el conjunto de entrenamiento. Sin embargo, no importa qué tan bien diseñado esté el conjunto de entrenamiento, un algoritmo a veces confrontará contenido desconocido y se detendrá bruscamente. Es más, tratar de descubrir dónde se produjo el impasse en el conjunto de datos es como intentar localizar una aguja no sólo en un pajar, sino en todo un granero, dado el potencial de billones de unidades de información que constituyen conjuntos de datos. La buena noticia es que David Gleich, científico y profesor de informática en La Universidad Purdue y sus colegas científicos Tamal Dey y Meng Liu han ideado una nueva solución a este difícil problema. «La herramienta que hemos desarrollado te ayuda a encontrar lugares donde la red dice: ‘Oye, necesito más información para hacer lo que usted ha preguntado'», dice Gleich. «Aconsejaría a la gente que utilice esta herramienta en cualquier escenario de decisión de redes neuronales o tarea de predicción de imágenes de alto riesgo». ¿Qué hay detrás? Cuando Gleich realizó su investigación, encontró problemas con sus bases de datos. La base de datos confundió rayos X, secuencias genéticas y prendas de vestir con otras cosas. Dice que una red neuronal tenía el hábito crónico de etiquetar un automóvil como un reproductor de casetes simplemente porque las fotos fueron extraídas de listados de ventas en línea que contenían equipos estéreo para automóviles. El problema surge de cómo el algoritmo ubica una imagen en la categoría correcta, lo que Depende de generar un conjunto de números llamados «vectores incrustados» que se generan en función de la información de la imagen. La IA compara los vectores incrustados en el ‘conjunto de entrenamiento’ con los de otras imágenes de conjuntos de datos. La imagen se ubica en una categoría con una alta probabilidad de coincidencia. Además: ¿Cómo se logra que los empleados adopten la IA? (Puede que esto le parezca engañoso) Desafortunadamente, los vectores incrustados a menudo no tienen sentido. Entonces, cuando hay una discrepancia o un error, no hay manera de sumergirse en las capas irreconocibles del algoritmo y detectar el error ofensivo. Para superar este obstáculo, Gleich y su equipo emplearon un plan ingenioso. Se desviaron rápidamente hacia el campo de la topografía, que es esencialmente donde tecnologías como Google Maps encuentran su génesis. Decidieron mapear la relación de los vectores en un gráfico de Reeb, un ‘descriptor de forma compacto’ y una solución que se ha utilizado en el análisis de forma durante 75 años. Luego, el conjunto de datos se transformó en puntos codificados por colores que representan vectores pertenecientes a una categoría u otra. Los puntos muy agrupados del mismo color denotaban la misma categoría. Puntos de diferentes colores que se superponían indicaban instantáneamente que algo andaba mal y, lo más importante, dónde se podían encontrar los problemas. Además: cómo los tecnólogos del renacimiento están conectando los puntos entre la IA y los negocios. Y así, las entrañas normalmente incomprensibles de un algoritmo junto con sus puntos problemáticos de repente quedaron tan claros como el día. fuera de la red y dando a la gente una «entrada» en cómo la red ve los datos a un nivel macroscópico», dijo Gleich. «El mapa de Reeb representa las cosas importantes (los grandes grupos y cómo se relacionan entre sí) y eso hace posible ver los errores». Gleich y sus colegas han ido un paso más allá y han puesto a disposición del público su herramienta de clasificación de imágenes mediante IA. El código de la herramienta está disponible en GitHub, al igual que demostraciones de casos de uso. Ahora, cualquiera tiene la oportunidad de poder ver las relaciones entre imágenes en un conjunto de datos de IA, lo que los investigadores llaman «vista de pájaro». Las personas pueden usar la herramienta para profundizar y localizar la fuente del problema, que es algo que las redes neuronales necesitan desesperadamente para funcionar correctamente, evitar sesgos y mantenernos a salvo.

Source link