marchmeena29/Getty ImagesDespués de que el informe de 2023 de la firma líder Boston Consulting Group descubriera que sus consultores de TI eran más productivos utilizando la herramienta GPT-4 de Open AI, la empresa recibió una reacción negativa de que uno debería simplemente usar ChatGPT de forma gratuita en lugar de contratar sus servicios por millones de dólares. Este es su razonamiento: los consultores simplemente obtendrán sus respuestas o consejos de ChatGPT de todos modos, por lo que deberían evitar al tercero y acudir directamente a ChatGPT. Además: ¿Dominar la IA sin habilidades tecnológicas? Por qué los sistemas complejos exigen un aprendizaje diversoHay una lección valiosa para cualquiera que contrate o busque ser contratado para trabajos intensivos en IA, ya sean desarrolladores, consultores o usuarios comerciales. El mensaje de esta crítica es que cualquiera, incluso con habilidades limitadas o insuficientes, ahora puede usar la IA para avanzar o parecer que está al tanto de las cosas. Debido a esto, el campo de juego se ha nivelado. Se necesitan personas que puedan aportar perspectiva y pensamiento crítico a la información y los resultados que proporciona la IA. Incluso los científicos, tecnólogos y expertos en la materia pueden caer en la trampa de confiar demasiado en la IA para sus resultados, en lugar de en su propia experiencia. «Las soluciones de IA también pueden explotar nuestras limitaciones cognitivas, haciéndonos vulnerables a las ilusiones de comprensión en las que creemos que entendemos más sobre el mundo de lo que realmente entendemos», según una investigación sobre el tema publicada en Nature. Incluso los científicos entrenados para revisar críticamente la información están cayendo en el atractivo de los conocimientos generados por máquinas, advierten los investigadores Lisa Messer de la Universidad de Yale y MJ Crockett de la Universidad de Princeton. «Estas ilusiones oscurecen la capacidad de la comunidad científica para ver la formación de monoculturas científicas, en las que algunos tipos de métodos, preguntas y puntos de vista llegan a dominar los enfoques alternativos, lo que hace que la ciencia sea menos innovadora y más vulnerable a los errores», dice su investigación. Messer y Crockett afirman que más allá de las preocupaciones sobre la ética de la IA, el sesgo y el desplazamiento laboral, los riesgos de una dependencia excesiva de la IA como fuente de experiencia apenas están empezando a conocerse. En los entornos empresariales tradicionales, la excesiva dependencia de los usuarios de la IA tiene consecuencias, como la pérdida de productividad y la confianza indebida. Por ejemplo, los usuarios «pueden alterar, cambiar y modificar sus acciones para alinearse con las recomendaciones de la IA», observan Samir Passi y Mihaela Vorvoreanu de Microsoft en un resumen de estudios sobre el tema. Además, a los usuarios «les resultará difícil evaluar el rendimiento de la IA y comprender cómo afecta la IA a sus decisiones». Esa es la opinión de Kyall Mai, director de innovación de Esquire Bank, que considera la IA como una herramienta fundamental para la interacción con el cliente, aunque advierte contra su uso excesivo como reemplazo de la experiencia humana y el pensamiento crítico. Esquire Bank ofrece financiación especializada a bufetes de abogados y quiere personas que entiendan el negocio y lo que la IA puede hacer para impulsarlo. Hace poco me encontré con Mai en la conferencia de Salesforce en Nueva York, que compartió sus experiencias y perspectivas sobre la IA. Mai, que ascendió de programador a CIO polifacético, no niega que la IA sea quizás una de las herramientas más valiosas para mejorar la productividad que han surgido. Pero también le preocupa que depender demasiado de la IA generativa (ya sea para el contenido o el código) disminuya la calidad y la agudeza del pensamiento de las personas. Además: Más allá de la programación: la IA genera una nueva generación de puestos de trabajo «Nos damos cuenta de que tener cerebros y resultados fantásticos no es necesariamente tan bueno como alguien que esté dispuesto a tener un pensamiento crítico y dar sus propias perspectivas sobre lo que la IA y la IA generativa te dan a cambio en términos de recomendaciones», dice. «Queremos personas que tengan la conciencia emocional y de sí mismas para decir: ‘Hmm, esto no se siente del todo bien, soy lo suficientemente valiente como para tener una conversación con alguien, para asegurarme de que haya un humano en el circuito'». Esquire Bank está utilizando herramientas de Salesforce para adoptar ambos lados de la IA: generativa y predictiva. La IA predictiva proporciona a los responsables de la toma de decisiones del banco información sobre «qué abogados visitan su sitio y ayuda a personalizar los servicios en función de estas visitas», afirma Mai, cuyo papel de CIO abarca tanto la interacción con el cliente como los sistemas de TI. Como banco totalmente virtual, Esquire emplea muchos de sus sistemas de IA en los equipos de marketing, fusionando el contenido generado por IA generativa con algoritmos de IA predictiva de back-end. «La experiencia es diferente para cada uno», afirma Mai. «Por eso, utilizamos la IA para predecir cuál debería ser el siguiente conjunto de contenido que se les entregará. Se basan en todos los análisis que hay detrás y dentro del sistema sobre lo que podemos hacer con ese cliente potencial en particular». Además: la IA generativa es la tecnología que el departamento de TI siente más presión para explotar. Al trabajar en estrecha colaboración con la IA, Mai descubrió un giro interesante en la naturaleza humana: las personas tienden a ignorar su propio juicio y diligencia a medida que se vuelven dependientes de estos sistemas. «Como ejemplo, descubrimos que algunos humanos se vuelven perezosos: sugieren algo y luego deciden: ‘Ah, eso suena como una muy buena respuesta’ y lo envían». Cuando Mai percibe ese nivel de dependencia excesiva de la IA, «los llevo a mi oficina y les digo: ‘Les pago por su perspectiva, no por una indicación y una respuesta en IA que me van a hacer leer. No busco simplemente tomar los resultados y devolvérmelos, lo que espero es su pensamiento crítico'». Aun así, anima a los miembros de su equipo de tecnología a que deleguen las tareas de desarrollo mundanas a herramientas y plataformas de IA generativa, y liberen su propio tiempo para trabajar más de cerca con la empresa. «Los programadores están descubriendo que el 60 por ciento del tiempo que solían dedicar a escribir era para código administrativo que no es necesariamente innovador. La IA puede hacer eso por ellos, a través de indicaciones de voz». Además: ¿La IA perjudicará o ayudará a los trabajadores? Es complicado. Como resultado, está viendo que «la línea entre un programador clásico y un analista de negocios se está fusionando mucho más, porque el programador no pasa una enorme cantidad de tiempo haciendo cosas que realmente no agregan valor. También significa que los analistas de negocios pueden convertirse en desarrolladores de software». «Será interesante cuando pueda sentarme frente a una plataforma y decir: ‘Quiero un sistema que haga esto, esto, esto y esto’, y lo haga».