A finales del mes pasado, la startup HeHealth, con sede en San Francisco, anunció el lanzamiento de Calmara.ai, un alegre sitio web repleto de emojis que la compañía describe como “su mejor amigo experto en tecnología para controles de ITS”. El concepto es simple. Un usuario preocupado por el estado de salud sexual de su pareja simplemente toma una fotografía (con consentimiento, según las notas del servicio) del pene de su pareja (la única parte del cuerpo humano que el software está capacitado para reconocer) y la sube a Calmara. En segundos, el El sitio escanea la imagen y devuelve uno de dos mensajes: “¡Borrar! No se han detectado signos visibles de ITS por ahora” o “¡¡¡Espera!!! Detectamos algo sospechoso”. Calmara describe el servicio gratuito como “lo mejor después de una prueba de laboratorio para una verificación rápida”, impulsado por inteligencia artificial con “una tasa de precisión de hasta el 94,4%” (aunque una letra más pequeña en el sitio aclara su significado real). El rendimiento es “65% a 96% en diversas condiciones”). Desde su debut, los expertos en privacidad y salud pública han señalado con alarma una serie de descuidos importantes en el diseño de Calmara, como su endeble verificación de consentimiento, su potencial para recibir pornografía infantil. y una dependencia excesiva de las imágenes para detectar afecciones que a menudo son invisibles. Pero incluso como herramienta rudimentaria de detección de signos visuales de infecciones de transmisión sexual en un órgano humano específico, las pruebas de Calmara demostraron que el servicio era inexacto, poco confiable y propenso a el mismo tipo de información estigmatizante que su empresa matriz dice que quiere combatir. Un reportero de Los Angeles Times subió a Calmara una amplia gama de imágenes de pene tomadas de la Biblioteca de Imágenes de Salud Pública de los Centros para el Control y la Prevención de Enfermedades, el STD Center NY y el Royal Colegio Australiano de Médicos Generales. Calmara emitió un “¡¡¡Espera!!!” hasta múltiples imágenes de lesiones y protuberancias en el pene causadas por enfermedades de transmisión sexual, como sífilis, clamidia, herpes y virus del papiloma humano, el virus que causa las verrugas genitales. Las capturas de pantalla, con los genitales oscurecidos por ilustraciones, muestran que Calmara dio un “¡Claro!” a una fotografía de los CDC de un caso grave de sífilis, a la izquierda, subida por The Times; la aplicación decía «¡¡¡Espera!!!» en una fotografía, del Real Colegio Australiano de Médicos Generales, de un pene sin ETS. (Capturas de pantalla vía Calmara.ai; ilustración fotográfica de Los Angeles Times) Pero el sitio no pudo reconocer algunas imágenes de libros de texto de infecciones de transmisión sexual, incluida una úlcera chancroide y un caso de sífilis tan pronunciado que el prepucio ya no podía retraerse. La IA de Calmara Con frecuencia identificaba incorrectamente protuberancias en el pene no patológicas y de origen natural como signos de infección, señalando múltiples imágenes de órganos libres de enfermedades como “algo sospechoso”. También tuvo problemas para distinguir entre objetos inanimados y genitales humanos, emitiendo un alegre “¡Claro!” a imágenes de un novedoso jarrón con forma de pene y un pastel con forma de pene. «Hay tantas cosas mal en esta aplicación que ni siquiera sé por dónde empezar», dijo la Dra. Ina Park, profesora de UC San Francisco. quien se desempeña como consultor médico para la División de Prevención de ETS de los CDC. “Con cualquier prueba que se realice para detectar ITS, siempre existe la posibilidad de obtener falsos negativos y falsos positivos. El problema con esta aplicación es que parece estar plagada de ambos”. Jeffrey Klausner, especialista en enfermedades infecciosas de la Facultad de Medicina Keck de la USC y asesor científico de HeHealth, reconoció que Calmara «no puede promocionarse como una prueba de detección». “Para hacerse una prueba de detección de ITS, es necesario hacerse un análisis de sangre. Hay que hacerse un análisis de orina”, dijo. “Hacer que alguien mire un pene, o que un asistente digital mire un pene, no podrá detectar el VIH, la sífilis, la clamidia o la gonorrea. Incluso la mayoría de los casos de herpes son asintomáticos”. Calmara, dijo, es “algo muy diferente” del producto exclusivo de HeHealth, un servicio pago que escanea imágenes que un usuario envía de su propio pene y señala cualquier cosa que amerite seguimiento con un profesional de atención médica. proveedor. Klausner no respondió a las solicitudes de comentarios adicionales sobre la precisión de la aplicación. Tanto HeHealth como Calmara utilizan la misma IA subyacente, aunque los dos sitios «pueden tener diferencias a la hora de identificar problemas preocupantes», dijo la cofundadora y directora ejecutiva, la Dra. Yudara Kularathne. «Impulsada por la magia patentada de HeHealth (piense en una IA tan nítida que pensaría que supera a sus SAT), nuestra IA ha sido probada en batalla por más de 40.000 usuarios», se lee en el sitio web de Calmara, antes de señalar que su precisión oscila entre el 65 % y el 96 %. . «Es fantástico que revelen eso, pero el 65% es terrible», afirmó el Dr. Sean Young, profesor de medicina de emergencia de la UCI y director ejecutivo del Instituto de Tecnología de Predicción de la Universidad de California. “Desde una perspectiva de salud pública, si le estás dando a la gente un 65% de precisión, ¿por qué decirle algo a alguien? Eso es potencialmente más dañino que beneficioso”. Kularathne dijo que el rango de precisión “destaca la complejidad de detectar ITS y otras afecciones visibles en el pene, cada una con sus características y desafíos únicos”. Y añadió: “Es importante entender que este es sólo el punto de partida para Calmara. A medida que perfeccionemos nuestra IA con más conocimientos, esperamos que estas cifras mejoren”. En el sitio web de HeHealth, Kularathne dice que se inspiró para iniciar la empresa después de que un amigo se suicidara después de “un susto de ITS magnificado por la desinformación en línea”. “Numerosas condiciones fisiológicas «A menudo se confunden con ITS y nuestra tecnología puede brindar tranquilidad en estas situaciones», publicó Kularathne el martes en LinkedIn. «Nuestra tecnología tiene como objetivo brindar claridad a los jóvenes, especialmente a la Generación Z». La IA de Calmara también confundió algunas condiciones fisiológicas con ITS. El Times subió al sitio una serie de imágenes que se publicaron en un sitio web médico como ejemplos de enfermedades no transmisibles, Variaciones anatómicas no patológicas en el pene humano que a veces se confunden con ITS, incluidas marcas en la piel, glándulas sebáceas visibles y capilares agrandados. Calmara identificó cada una de ellas como “algo sospechoso”. Una información tan inexacta podría tener exactamente el efecto opuesto en los usuarios jóvenes que la «claridad» que pretenden sus fundadores, dijo la Dra. Joni Roberts, profesora asistente de Cal Poly San Luis Obispo que dirige el Laboratorio de Salud Sexual y Reproductiva del campus. «Si tengo 18 años, tomo una fotografía de algo que es un ocurrencia normal como parte del cuerpo humano, [and] ¿Me sale esto que dice que es ‘sus’? Ahora estoy estresado”, dijo Roberts. “Ya sabemos que la salud mental [issues are] extremadamente alto en esta población. Las redes sociales han causado estragos en la autoimagen, el valor, la depresión, etc., de las personas”, dijo. “Decir que algo es ‘sus’ sin proporcionar ninguna información es problemático”. Kularathne defendió la elección del idioma del sitio. «La frase ‘algo sus’ se elige deliberadamente para indicar ambigüedad y sugerir la necesidad de una mayor investigación», escribió en un correo electrónico. «Es un estímulo para que los usuarios busquen asesoramiento profesional, fomentando una cultura de precaución y responsabilidad». Aún así, «la identificación errónea de una anatomía saludable como ‘algo sospechoso’ si eso sucede, de hecho no es el resultado que buscamos», escribió. Los usuarios cuyas fotografías reciben un aviso de «Retención» son dirigidos a HeHealth donde, pagando una tarifa, pueden enviar fotografías adicionales de su pene para su posterior escaneo. A aquellos que obtienen un “Clear” se les dice: “Por ahora no se han detectado signos visibles de ITS”. . . Pero esto no significa que todo esté claro para las ITS”, señalando, correctamente, que muchas enfermedades de transmisión sexual son asintomáticas e invisibles. Los usuarios que hagan clic en las preguntas frecuentes de Calmara también encontrarán un descargo de responsabilidad que indicará que «¡Borrar!» La notificación “no significa que se puedan escatimar en controles adicionales”. Young expresó su preocupación de que algunas personas pudieran usar la aplicación para tomar decisiones inmediatas sobre su salud sexual. «Existen obligaciones más éticas para poder ser transparente y claro acerca de sus datos y prácticas, y no utilizar los enfoques típicos de startups que muchas otras empresas utilizarán en espacios no relacionados con la salud», dijo. En su forma actual, Dijo que Calmara “tiene el potencial de estigmatizar aún más no solo las ITS, sino también estigmatizar aún más la salud digital al dar diagnósticos inexactos y hacer que la gente afirme que cada herramienta o aplicación de salud digital es simplemente una gran farsa”. HeHealth.ai ha planteado 1,1 millones de dólares desde su fundación en 2019, dijo la cofundadora Mei-Ling Lu. Actualmente, la compañía está buscando otros 1,5 millones de dólares de inversores, según PitchBook. Los expertos médicos entrevistados para este artículo dijeron que la tecnología puede y debe usarse para reducir las barreras a la atención médica sexual. Proveedores como Planned Parenthood y Mayo Clinic están utilizando herramientas de inteligencia artificial para compartir información verificada con sus pacientes, dijo Mara Decker, epidemióloga de UC San Francisco que estudia educación sobre salud sexual y tecnología digital. Pero cuando se trata del enfoque de Calmara, «básicamente puedo Sólo veo aspectos negativos y ningún beneficio”, dijo Decker. “Podrían fácilmente reemplazar su aplicación con un letrero que diga: ‘Si tienes un sarpullido o una llaga notable, hazte la prueba’”.
Source link