Un nuevo estudio basado en Copilot impulsado por Bing AI de Microsoft revela la necesidad de tener precaución al utilizar la herramienta para obtener información médica. Los hallazgos, publicados en Scimex, muestran que muchas de las respuestas del chatbot requieren educación avanzada para comprenderlas completamente, y casi el 40% de sus recomendaciones entran en conflicto con el consenso científico. De manera alarmante, casi 1 de cada 4 respuestas se consideraron potencialmente dañinas, con el riesgo de causar daños graves o incluso la muerte si se seguían. Preguntas sobre los 50 medicamentos más recetados en los EE. UU. Los investigadores consultaron a Microsoft Copilot con 10 preguntas frecuentes de los pacientes sobre los 50 medicamentos más recetados en el mercado ambulatorio de los EE. UU. en 2020. Estas preguntas cubrieron temas como las indicaciones de los medicamentos, los mecanismos de acción, las instrucciones de uso, las posibles reacciones adversas y las contraindicaciones. Utilizaron Flesch Reading Ease Score para estimar el nivel educativo requerido para comprender un texto en particular. Una puntuación entre 0 y 30 indica un texto muy difícil de leer que requiere una educación de nivel universitario. Por el contrario, una puntuación entre 91 y 100 significa que el texto es muy fácil de leer y apropiado para niños de 11 años. La puntuación promedio general reportada en el estudio es 37, lo que significa que la mayoría de las respuestas del chatbot son difíciles de leer. Incluso la mayor legibilidad de las respuestas del chatbot aún requería un nivel educativo de escuela secundaria o secundaria. Además, los expertos determinaron que: el 54% de las respuestas del chatbot se alineaban con el consenso científico, mientras que el 39% de las respuestas contradecían el consenso científico. Se consideró que el 42% de las respuestas conducían a daños moderados o leves. Se consideró que el 36% de las respuestas no provocaban ningún daño. Se consideró que el 22% provocaba daños graves o la muerte. VER: Microsoft 365 Copilot Wave 2 presenta Copilot Pages, un nuevo lienzo de colaboración Más cobertura de IA de lectura obligada Uso de IA en la industria de la salud La inteligencia artificial ha sido parte de la industria de la salud durante algún tiempo y ofrece diversas aplicaciones para mejorar los resultados de los pacientes y optimizar la atención médica. operaciones. La IA ha desempeñado un papel crucial en el análisis de imágenes médicas, ayudando a la detección temprana de enfermedades o acelerando la interpretación de imágenes complejas. También ayuda a identificar nuevos fármacos candidatos mediante el procesamiento de grandes conjuntos de datos. Además, la IA apoya a los profesionales de la salud al aliviar la carga de trabajo en los hospitales. En casa, los asistentes virtuales impulsados ​​por IA pueden ayudar a los pacientes con las tareas diarias, como recordatorios de medicamentos, programación de citas y seguimiento de síntomas. El uso de motores de búsqueda para obtener información de salud, particularmente sobre medicamentos, está muy extendido. Sin embargo, la creciente integración de chatbots impulsados ​​por IA en esta área sigue en gran medida inexplorada. Un estudio independiente realizado por investigadores belgas y alemanes, publicado en la revista BMJ Quality & Safety, examinó el uso de chatbots impulsados ​​por inteligencia artificial para consultas relacionadas con la salud. Los investigadores realizaron su estudio utilizando el copiloto Bing AI de Microsoft y señalaron que “los chatbots impulsados ​​por AI son capaces de proporcionar información general completa y precisa sobre los medicamentos del paciente. Sin embargo, los expertos consideraron que un número considerable de respuestas eran incorrectas o potencialmente dañinas”. Consulte con un profesional de la salud para obtener asesoramiento médico. Los investigadores del estudio Scimex señalaron que su evaluación no involucró la experiencia real del paciente y que las indicaciones en otros idiomas o de diferentes países podrían afectar la calidad de las respuestas del chatbot. También afirmaron que su estudio demuestra cómo los motores de búsqueda con chatbots impulsados ​​por IA pueden proporcionar respuestas precisas a las preguntas frecuentes de los pacientes sobre tratamientos farmacológicos. Sin embargo, estas respuestas, a menudo complejas, “proporcionan repetidamente información potencialmente dañina que podría poner en peligro la seguridad del paciente y de los medicamentos”. Destacaron la importancia de que los pacientes consulten a los profesionales de la salud, ya que es posible que las respuestas del chatbot no siempre generen información libre de errores. Además, un uso más apropiado de los chatbots para obtener información relacionada con la salud podría ser buscar explicaciones de términos médicos o comprender mejor el contexto y el uso adecuado de los medicamentos recetados por un profesional sanitario. Divulgación: trabajo para Trend Micro, pero las opiniones expresadas en este artículo son mías.