La diversidad de pensamiento en el diseño industrial es crucial: si nadie piensa en diseñar una tecnología para múltiples tipos de cuerpo, las personas pueden salir perjudicadas. La invención de los cinturones de seguridad es un ejemplo muy citado de este fenómeno, ya que fueron diseñados a partir de maniquíes que tenían proporciones tradicionalmente masculinas y reflejaban los cuerpos de los miembros del equipo que trabajaban en ellos. El mismo fenómeno se observa actualmente en el campo de la Tecnología de captura de movimiento. A lo largo de la historia, los científicos se han esforzado por comprender cómo se mueve el cuerpo humano. Pero ¿cómo definimos el cuerpo humano? Hace décadas, muchos estudios evaluaron a sujetos “varones sanos”; otros utilizaron modelos sorprendentes como cadáveres desmembrados. Incluso ahora, algunos estudios modernos utilizados en el diseño de tecnología de detección de caídas se basan en métodos como contratar especialistas que fingen caerse. Con el tiempo, una variedad de suposiciones erróneas se han codificado en estándares para los datos de captura de movimiento que se utilizan para diseñar algunas tecnologías basadas en IA. Estas fallas significan que las aplicaciones basadas en IA pueden no ser tan seguras para las personas que no se ajustan a un tipo de cuerpo «típico» preconcebido, según un nuevo trabajo publicado recientemente como preimpresión y que se presentará en la Conferencia sobre Factores Humanos en Computación. Systems en mayo. “Profundizamos en estos llamados estándares de oro que se utilizan para todo tipo de estudios y diseños, y muchos de ellos tenían errores o estaban enfocados en un tipo de cuerpo muy particular”, dice Abigail Jacobs, coautora de el estudio y profesor asistente en la Escuela de Información y Centro para el Estudio de Sistemas Complejos de la Universidad de Michigan. «Queremos que los ingenieros sean conscientes de cómo estos aspectos sociales se codifican en lo técnico, ocultos en modelos matemáticos que parecen objetivos o infraestructurales». Es un momento importante para los sistemas basados ​​en IA, dice Jacobs, ya que es posible que todavía tengamos tiempo para detectar y evitar que suposiciones potencialmente peligrosas se codifiquen en aplicaciones informadas por IA. Los sistemas de captura de movimiento crean representaciones de cuerpos recopilando datos de sensores colocados en los sujetos, registrando cómo estos cuerpos se mueven a través del espacio. Estos esquemas se convierten en parte de las herramientas que utilizan los investigadores, como bibliotecas de código abierto de datos de movimiento y sistemas de medición que están destinados a proporcionar estándares básicos sobre cómo se mueven los cuerpos humanos. Los desarrolladores utilizan cada vez más estas bases para crear todo tipo de aplicaciones basadas en IA: algoritmos de detección de caídas para relojes inteligentes y otros dispositivos portátiles, vehículos autónomos que necesitan detectar peatones, imágenes generadas por computadora para películas y videojuegos, equipos de fabricación que interactúan de forma segura con trabajadores humanos y más. “Muchos investigadores no tienen acceso a laboratorios avanzados de captura de movimiento para recopilar datos, por lo que dependemos cada vez más de puntos de referencia y estándares para desarrollar nueva tecnología”, dice Jacobs. «Pero cuando estos puntos de referencia no incluyen representaciones de todos los cuerpos, especialmente aquellas personas que probablemente estén involucradas en casos de uso del mundo real, como personas mayores que pueden caerse, estos estándares pueden ser bastante defectuosos». Ella espera que podamos aprender de errores del pasado, como cámaras que no capturaban con precisión todos los tonos de piel y cinturones de seguridad y bolsas de aire que no protegían a personas de todas las formas y tamaños en accidentes automovilísticos. El cadáver en la máquina Jacobs y sus colaboradores de la Universidad de Cornell, Intel y La Universidad de Virginia realizó una revisión sistemática de la literatura de 278 estudios relacionados con la captura de movimiento. En la mayoría de los casos, concluyeron, los sistemas de captura de movimiento capturaron el movimiento de «aquellos que son hombres, blancos, ‘capacitados’ y de peso normal». Y a veces estos cuerpos masculinos blancos estaban muertos. Al revisar trabajos que se remontan a la década de 1930 y que abarcan tres eras históricas de la ciencia de captura de movimiento, los investigadores estudiaron proyectos que influyeron en cómo los científicos de la época entendían el movimiento de los segmentos corporales. Un estudio fundamental de 1955 financiado por la Fuerza Aérea, por ejemplo, utilizó cuerpos abrumadoramente blancos, masculinos y delgados o atléticos para crear la cabina óptima basada en el rango de movimiento de los pilotos. Ese estudio también recopiló datos de ocho cadáveres desmembrados. Veinte años después, un estudio preparado para la Administración Nacional de Seguridad del Tráfico en Carreteras utilizó métodos similares: se utilizaron seis cadáveres masculinos desmembrados para informar el diseño de sistemas de protección contra impactos en vehículos. En la mayoría de los 278 estudios revisados, los sistemas de captura de movimiento capturaron el movimiento de “aquellos que son hombres, blancos, ‘capacitados’ y de peso normal”. Aunque esos estudios tienen muchas décadas de antigüedad, estas suposiciones se consolidaron con el tiempo. Jacobs y sus colegas encontraron muchos ejemplos de estas inferencias obsoletas que se transmiten a estudios posteriores y, en última instancia, todavía influyen en los estudios modernos de captura de movimiento. “Si miras los documentos técnicos de un sistema moderno en producción, te explicarán los ‘estándares básicos tradicionales’. ‘ que están usando”, dice Jacobs. «Al profundizar en eso, rápidamente comienzas a saltar en el tiempo: OK, eso se basa en este estudio anterior, que se basa en este, que se basa en este, y finalmente volvemos al estudio de la Fuerza Aérea que diseña cabinas con cadáveres congelados”. Los componentes que sustentan las mejores prácticas tecnológicas son “hechos por el hombre (énfasis intencional en el hombre, en lugar de lo humano) y a menudo preservan sesgos e inexactitudes del pasado”, dice Kasia Chmielinski, líder del proyecto Data Nutrition Project y miembro de Stanford. Laboratorio de Sociedad Civil Digital de la Universidad. “Así, los errores históricos a menudo configuran la base ‘neutral’ de nuestros sistemas tecnológicos actuales. Esto puede llevar a que el software y el hardware no funcionen por igual para todas las poblaciones, experiencias o propósitos”. Estos problemas pueden obstaculizar a los ingenieros que quieren hacer las cosas bien, dice Chmielinski. “Dado que muchos de estos problemas están integrados en los elementos fundamentales del sistema, es posible que los equipos que innovan hoy en día no tengan un recurso rápido para abordar los sesgos o errores, incluso si así lo desean”, afirma. «Si estás creando una aplicación que utiliza sensores de terceros y los propios sensores tienen un sesgo en lo que detectan o no, ¿cuál es el recurso adecuado?» Jacobs dice que los ingenieros deben interrogar sus fuentes de «verdad sobre el terreno» y confirmar que los patrones oro con los que miden son, de hecho, oro. Los técnicos deben considerar estas evaluaciones sociales como parte de sus trabajos para poder diseñar tecnologías para todos. “Si dices: ‘Sé que los supuestos humanos están incorporados y a menudo están ocultos u oscurecidos’, eso te informará cómo eliges qué hay en su conjunto de datos y cómo lo informa en su trabajo”, dice Jacobs. «Es sociotécnico, y los tecnólogos necesitan esa lente para poder decir: Mi sistema hace lo que yo digo y no crea un daño indebido». De los artículos de su sitioArtículos relacionados en la Web

Source link