Marc Francis pasó los últimos años de su vida gobernado por un planificador de rutas defectuoso. Una y otra vez, al conductor que hasta hace poco hacía entregas para Parcelforce se le pedía que siguiera rutas cada vez más difíciles o se le asignaban rutas inviables en sus turnos. Y cuando el sistema se estropeaba, no conseguía obtener una dirección o creaba una ruta que significaba que perdía el breve margen de tiempo en el que tenía que hacer la entrega, cualquier incumplimiento de la entrega se descontaba de su propio salario como contratista independiente. Otros errores (según él, el sistema estaba «plagado de fallos») hacían que su sistema de pago automatizado descontara indebidamente su salario. Francis, que ahora es uno de los principales demandantes en un caso al estilo de Uber contra la clasificación de Parcelforce de sus conductores como autónomos, dijo a Computer Weekly en febrero que el uso de la automatización por parte de la empresa había hecho, en todo caso, que el trabajo fuera «la peor explotación de mi vida». Su experiencia es la norma del trabajo moderno para muchos trabajadores. Gran parte de la conversación sobre el uso de la gestión algorítmica, la automatización y la IA en el lugar de trabajo suele centrarse en la sustitución o la eficiencia del trabajo, desde artículos de opinión que pronostican si la IA o la automatización en general sustituirán los trabajos de las personas en el futuro hasta el potencial de la IA para aumentar la productividad. Pero a pesar de todos esos artículos centrados en el futuro, hay notablemente menos discusión sobre los impactos reales que esta tecnología existente ya está teniendo sobre el terreno para los trabajadores, en su mayoría, mal pagados. Automatizar el desempoderamiento En junio, un informe de la Alianza Mundial sobre Inteligencia Artificial (GPAI) intentó responder precisamente a esa pregunta. Al entrevistar a los gerentes y trabajadores de primera línea de Amazon, los investigadores pudieron extraer que el uso vanguardista de la IA y la automatización en el lugar de trabajo por parte de la empresa ya había tenido enormes efectos en la fuerza laboral. En particular, había socavado los salarios y las condiciones, al establecer objetivos inalcanzables para el personal, había recopilado datos de los trabajadores sin su pleno conocimiento o consentimiento y había hecho que la fuerza laboral humana fuera más prescindible. “En empresas como Amazon, los sistemas generan datos que se utilizan específicamente para establecer los objetivos de rendimiento de las personas, que normalmente se obtienen de cosas como los escáneres de los trabajadores mientras se mueven por el almacén”, explica Martha Dark, fundadora y directora de Foxglove, una organización legal sin fines de lucro que se especializa en representar a los trabajadores en disputas con gigantes tecnológicos. “Los objetivos que se les dan luego incentivan ritmos de trabajo extremadamente altos que a menudo son francamente imposibles de cumplir o causan daños graves si las personas intentan alcanzar esos objetivos”. Adrienne Williams, ex conductora de Amazon en los EE. UU. y ahora investigadora del Distributed AI Research Institute, dijo: “Cuando era conductora de Amazon, le decíamos a las personas nuevas que redujeran el ritmo porque se arruinarían en una semana o dos. “Si podía entregar, digamos, 300 paquetes en ocho horas el martes, entonces la expectativa era que iba a entregar 310 el miércoles y luego 315 el jueves. Y no hay una válvula de cierre que diga: ‘Este es el máximo’”. Los objetivos que [workers] Luego se les dan incentivos para tasas de trabajo extremadamente altas que a menudo son francamente imposibles de cumplir o causan daños graves Martha Dark, Foxglove Pero el informe de GPAI fue más allá de analizar los cambios materiales en el trabajo y examinó los cambios menos obvios en el lugar de trabajo. Más allá del efecto sobre el salario y las condiciones, el uso de IA en el lugar de trabajo, en particular la escala de procedimientos impuestos a los trabajadores y la escala de vigilancia utilizada, había quitado la agencia a la fuerza laboral. La presunta objetividad que viene con la toma de decisiones automatizada también hace que sea casi imposible para los trabajadores desafiar las decisiones que van en su contra, algo que Computer Weekly ha cubierto en el pasado. Cuando trabajaba en Amazon, Williams y sus colegas no tenían forma de desafiar o rectificar errores claros en los horarios de las rutas, las demandas o los sistemas GPS utilizados por la empresa. A veces, las rutas claramente inseguras para los camiones no se certificaban a pesar de innumerables quejas, ya que no había una forma clara de desafiar el sistema automatizado o llegar a aquellos con suficiente autoridad para cambiarlo. Craig Gent, investigador, escritor y editor afincado en Leeds y autor de Cyberboss: The rise of algorithmic management and the new struggle for control at work, afirma: “Una de las cosas que a las empresas que fabrican tecnologías algorítmicas les gusta vender es la objetividad de los datos y las decisiones que producen, que supuestamente eliminan cualquier tipo de política o disputa en favor de una especie de decisión agradable y simplificada basada en datos. “En realidad, lo que sucede es que otorga una enorme cantidad de poder a los algoritmos y sus decisiones, de tal manera que desempodera por completo a los trabajadores y tiene un efecto sobre los gerentes que no son más conscientes del funcionamiento interno de estos sistemas que los trabajadores”. Cómo lidiar con los daños de la IA No hace falta buscar mucho para encontrar una veintena de escándalos en torno a la toma de decisiones automatizada, desde conductores de Uber despedidos automáticamente por un software de identificación facial «racista» hasta software diseñado para detectar fraudes en las prestaciones que privan injustamente a las personas de su único sustento financiero, donde la capacidad del individuo afectado para impugnar la decisión es severamente limitada, si no inexistente. Esto se aplica incluso a algo mucho más comparativamente simple tecnológicamente y más flagrantemente defectuoso, como el software Horizon utilizado por la Oficina Postal, que dio lugar a una batalla de casi 20 años para que los subdirectores de correos afectados intentaran convencer a los que estaban en el poder de que habían sido maltratados. «Está saliendo sin que se realicen los controles adecuados para garantizar que el software funcione, funcione y no cause daños, sino que se está implementando demasiado pronto sin la debida preocupación por la salud y la seguridad de los trabajadores», dice Dark. Un informe en los EE. UU. encontró que las tasas de lesiones laborales para ciertos centros logísticos de Amazon en el país eran tres veces superiores a la media del país para los almacenes. Pero a pesar de eso, según varias de las personas con las que habló Computer Weekly, los últimos intentos del gobierno del Reino Unido de controlar esta tecnología, en particular la IA, se han centrado en gran medida en la autorregulación industrial. Desde mejorar la transparencia y la explicabilidad de los algoritmos de caja negra hasta las declaraciones de los trabajadores que permiten al personal y a los observadores saber qué software de vigilancia y productividad se está utilizando, qué datos se están recopilando y si se basa en la toma de decisiones automatizada, existen políticas que podrían ayudar a mejorar el impacto. No es solo el gobierno el que ha tenido dificultades para controlarlo. Williams señala que los sindicatos han avanzado poco en la configuración de las formas reales en que se utilizan la IA y los algoritmos en estos lugares de trabajo. Cita que, si bien los sindicatos en los EE. UU. han luchado contra el uso de cámaras en los camiones para monitorear a los conductores de entrega, ha habido poca o ninguna discusión sobre el uso de cámaras externas en los camiones. Amazon, por ejemplo, utiliza cámaras internas y externas de Netradyne para monitorear a sus conductores y filmar sus rutas. Recientemente, Hyundai también invirtió en Netradyne. Los datos que recoge de su enorme gama de cámaras para salpicadero podrían utilizarse en futuros sistemas de conducción autónoma y de asistencia al conductor, creando mejores mapas digitales para que los utilicen esos sistemas. “Yo los llamo entrenadores zombis: alguien que está entrenando a tus sistemas de IA sin saber que lo está haciendo”, dice Williams. “Estás haciendo un segundo trabajo oculto y no te das cuenta”. Nivelación del trabajo humano Ese uso potencial de los conductores como recolectores de datos indica que el futuro de gran parte de este trabajo mal pagado podría estar en el trabajo básico de mantenimiento y entrenamiento de modelos computacionales de IA o IA. “Los costes laborales son mucho más bajos en Filipinas y en la India”, explica Carl-Benedikt Frey, profesor asociado de IA y trabajo en el Oxford Internet Institute. “Por lo tanto, si la IA generativa reduce las diferencias de productividad entre las personas, les dará la oportunidad de aprovechar la mano de obra barata en otros lugares”. Es un proceso que ya ha comenzado a ocurrir con los «clickworkers», un apodo para la enorme franja de trabajadores mal pagados (desde moderadores de contenido o entrenadores de vehículos autónomos hasta microtrabajadores que pasan su tiempo respondiendo encuestas) que entrenan los algoritmos y producen los datos que impulsan los sistemas de IA. Con frecuencia, esos trabajadores ganan menos que el salario mínimo (algunas grandes empresas pagan un promedio de 2 dólares por hora) o, a veces, se les paga en tarjetas de regalo en lugar de efectivo. Estás haciendo un segundo trabajo oculto [training AI systems]y no te das cuenta Adrienne Williams, Distributed AI Research Institute Y ese punto subraya algo mencionado una y otra vez por aquellos con los que habló Computer Weekly para este artículo: que el impacto de la IA y la automatización en los lugares de trabajo tiene más que ver con cómo cambia y aplana el trabajo humano, en lugar de reemplazarlo; con cómo convierte a los propios trabajadores en robots en lugar de reemplazarlos por robots, como lo explicó un entrevistado. «Se trata de optimizar el trabajo», dice Gent. «Y eso, desde la perspectiva de los empleadores, significa reducir la incertidumbre que los trabajadores, en virtud de ser humanos, introducen en lo que de otro modo podría ser un cálculo finamente calibrado de ganar dinero». Computer Weekly se puso en contacto con Parcelforce para obtener comentarios, pero no recibió una respuesta oficial. En respuesta al informe de GPAI, un portavoz de Amazon le dijo a Computer Weekly que la empresa tiene como objetivo crear los lugares de trabajo más seguros y tecnológicamente avanzados de la Tierra, y que cualquier tecnología que diseñe tiene como objetivo crear un mejor entorno de trabajo, así como aumentar sus capacidades, en lugar de reemplazarlas. “En nuestras operaciones de logística y distribución, utilizamos software y hardware para automatizar las tareas más difíciles y repetitivas, reduciendo el estrés mental y físico de los empleados, y significa que tenemos un 50% menos de lesiones que otras empresas minoristas y de logística en el Reino Unido”, dijeron. “El uso de robótica de última generación ha reducido el tiempo de caminata en nuestros centros de distribución, ha aumentado la eficiencia operativa y, al mismo tiempo, ha creado una necesidad de trabajos más calificados, como ingenieros para operar y mantener los avances. “Escuchamos y actuamos regularmente en función de los comentarios y sugerencias de nuestros empleados, y nuestra política de puertas abiertas los alienta a traer sus comentarios, preguntas e inquietudes de forma directa o anónima”. Sobre el uso de la tecnología para coordinar las rutas y las entregas de los conductores, el portavoz agregó que varios factores dan forma a su experiencia en la carretera para que su trabajo se sienta alcanzable y gratificante. “Amazon continúa invirtiendo en el diseño de rutas y la tecnología que tiene en cuenta con precisión las complejidades a las que se enfrentan los conductores en la carretera, como el tipo de lugar de entrega, la distancia a pie, la entrada y salida del vehículo, el tamaño y el peso de los paquetes y factores ambientales como el clima”, dijeron. “Los comentarios de los conductores son la base de nuestra mentalidad de mejora continua a medida que construimos rutas seguras, sencillas y sostenibles”.