Una revista científica de acceso abierto, Frontiers in Cell and Developmental Biology, fue abiertamente criticada y burlada por investigadores en las redes sociales esta semana después de observar que la publicación había publicado recientemente un artículo que incluía imágenes con descripciones galimatías y diagramas de testículos y espermatozoides de mamíferos anatómicamente incorrectos. células, que mostraban signos de haber sido creadas por un generador de imágenes de IA. Agradecemos a los lectores por su escrutinio de nuestros artículos: cuando nos equivocamos, la dinámica de crowdsourcing de la ciencia abierta significa que los comentarios de la comunidad nos ayudan a corregir rápidamente el registro.— Frontiers (@FrontiersIn) 15 de febrero de 2024 Desde entonces, la publicación ha respondido a uno de sus críticos en la red social X, publicando desde su cuenta verificada: “Agradecemos a los lectores por su escrutinio de nuestros artículos: cuando nos equivocamos, la dinámica de crowdsourcing de la ciencia abierta significa que los comentarios de la comunidad nos ayudan a corregir rápidamente el record.» También eliminó el artículo, titulado “Funciones celulares de las células madre espermatogoniales en relación con la vía de señalización JAK/STAT” de su sitio web y emitió un aviso de retractación que dice: “Después de la publicación, surgieron preocupaciones con respecto a la naturaleza de su información generada por IA. cifras. El artículo no cumple con los estándares de rigor editorial y científico de Frontiers in Cell and Development Biology; por lo tanto, el artículo ha sido retractado. Esta retractación fue aprobada por el editor ejecutivo en jefe de Frontiers. Frontiers desea agradecer a los lectores preocupados que se comunicaron con nosotros en relación con el artículo publicado”. Evento VB The AI ​​Impact Tour – Nueva York Estaremos en Nueva York el 29 de febrero en asociación con Microsoft para discutir cómo equilibrar los riesgos y las recompensas de las aplicaciones de IA. . Solicite una invitación al evento exclusivo a continuación. Solicite una invitación Palabras mal escritas e ilustraciones anatómicamente incorrectas Sin embargo, VentureBeat obtuvo una copia y volvió a publicar el artículo original a continuación con el fin de mantener el registro público del mismo. Como puedes observar en él, contiene varios gráficos e ilustraciones realizadas en un estilo científico aparentemente claro y colorido, pero al hacer zoom, hay muchas palabras mal escritas y letras deformes, como “protemns” en lugar de “proteins”, por ejemplo, y una palabra escrita «zxpens». Quizás lo más problemático sea la imagen de «rata» (escrito correctamente) que aparece primero en el artículo y muestra un crecimiento masivo en la región de la ingle. Criticado por X Poco después de la publicación del artículo el 13 de febrero de 2024, los investigadores recurrieron a X para denunciarlo y cuestionar cómo logró superar la revisión por pares. Finalmente sucedió. Un artículo de revista revisado por pares con lo que parecen ser imágenes sin sentido generadas por IA. Esto es peligroso. pic.twitter.com/Ez54H6l7iZ— ?Kareem Carr | ¿Estadístico? (@kareem_carr) 15 de febrero de 2024 Los autores del artículo son Xinyu Guo y Dingjun Hao del Departamento de Cirugía de la Columna Vertebral del Hospital Hong Hui de la Universidad Xi’an Jiaotong; así como Liang Dong del Departamento de Cirugía de la Columna Vertebral del Hospital Xi’an Honghui en Xi’an, China. Fue revisado por Binsila B. Krishnan del Instituto Nacional de Nutrición y Fisiología Animal (ICAR) en India y Jingbo Dai de Northwestern Medicine en Estados Unidos, y editado por Arumugam Kumaresan en el Instituto Nacional de Investigación Láctea (ICAR) en India. VentureBeat se puso en contacto con todos los autores y editores del artículo, así como con Amanda Gay Fisher, editora jefe de campo de la revista y profesora de bioquímica en la prestigiosa Universidad de Oxford en el Reino Unido, para hacerles más preguntas sobre cómo se publicó el artículo. y se actualizará cuando tengamos noticias. Implicaciones preocupantes y más amplias para el impacto de la IA en la ciencia, la investigación y la medicina Algunos de sus creadores han promocionado la IA como una herramienta valiosa para avanzar en la investigación y el descubrimiento científicos, incluido Google con su predictor de estructura de proteínas AlphaFold y la IA GNoME de ciencia de materiales, recientemente cubierta positivamente. por la prensa (incluido VentureBeat) por descubrir 2 millones de nuevos materiales. Sin embargo, esas herramientas se centran en el lado de la investigación. Cuando se trata de publicar esa investigación, está claro que los generadores de imágenes de IA podrían representar una gran amenaza para la precisión científica, especialmente si los investigadores los usan indiscriminadamente, para tomar atajos y publicar más rápido, o porque son maliciosos o simplemente no les importa. . La decisión de utilizar la IA para crear ilustraciones o diagramas científicos es preocupante porque socava la precisión y la confianza entre la comunidad científica y el público en general en que el trabajo realizado en campos importantes que impactan nuestras vidas y nuestra salud, como la medicina y la biología, es preciso. seguro y protegido. Sin embargo, también puede ser producto del clima más amplio de “publicar o perecer” que ha surgido en la ciencia durante las últimas décadas, en el que los investigadores han atestiguado que sienten la necesidad de publicar rápidamente artículos de poco valor para demostrar que están contribuyendo. algo, cualquier cosa, en su campo y aumentar el número de citas que otros les atribuyen, rellenando sus currículums para futuros trabajos. Pero también, seamos honestos: algunos de estos investigadores en este artículo trabajan en cirugía de columna en un hospital humano: ¿confiaría en ellos para operar su columna o ayudar con su salud de espalda? Y con más de 114.000 citas a su nombre, la revista Frontiers in Cell and Developmental Biology ahora ha visto la integridad de todas ellas cuestionada por este lapso: ¿cuántos artículos más publicados por ella tienen diagramas ilustrados por IA que se han escapado? el proceso de revisión? Curiosamente, Frontiers in Cell and Developmental Biology es parte de la compañía Frontiers más amplia de más de 230 publicaciones científicas diferentes fundada en 2007 por los neurocientíficos Kamila Markram y Henry Markram, el primero de los cuales todavía figura como director ejecutivo. La empresa dice que su “visión [is] hacer que la ciencia sea abierta, la revisión por pares rigurosa, transparente y eficiente y aprovechar el poder de la tecnología para satisfacer verdaderamente las necesidades de los investigadores” y, de hecho, parte de la tecnología que utiliza es IA para la revisión por pares. Como proclamó Frontiers en un comunicado de prensa de 2020: “Por primera vez en la industria, se está implementando la inteligencia artificial (IA) para ayudar a revisar artículos de investigación y ayudar en el proceso de revisión por pares. El Asistente de revisión de inteligencia artificial (AIRA) de última generación, desarrollado por la editorial de acceso abierto Frontiers, ayuda a editores, revisores y autores a evaluar la calidad de los manuscritos. AIRA lee cada artículo y actualmente puede hacer hasta 20 recomendaciones en sólo segundos, incluyendo la evaluación de la calidad del lenguaje, la integridad de las cifras, la detección de plagio, así como la identificación de posibles conflictos de intereses.“ El sitio web de la compañía señala que AIRA debutó en 2018 como «La próxima generación de revisión por pares en la que la inteligencia artificial y el aprendizaje automático permiten un control de calidad y una eficiencia más rigurosos en la revisión por pares». Y apenas el verano pasado, un artículo y un vídeo en el que aparecía Mirjam Eckert, directora de publicaciones de Frontiers, afirmaba: “En Frontiers, aplicamos la IA para ayudar a generar esa confianza. Nuestro Asistente de Revisión de Inteligencia Artificial (AIRA) verifica que el conocimiento científico se presente de manera precisa y honesta incluso antes de que nuestra gente decida si revisar, respaldar o publicar el artículo de investigación que lo contiene. AIRA lee cada manuscrito de investigación que recibimos y realiza hasta 20 comprobaciones por segundo. Estos controles cubren, entre otras cosas, la calidad del lenguaje, la integridad de figuras e imágenes, el plagio y los conflictos de intereses. Los resultados brindan a los editores y revisores otra perspectiva a la hora de decidir si someten un trabajo de investigación a nuestra rigurosa y transparente revisión por pares”. Frontiers también ha recibido una cobertura favorable de su asistente de revisión de artículos de IA, AIRA, en publicaciones tan notables como The New York Times y Financial. Veces. Claramente, la herramienta no pudo capturar de manera efectiva estas imágenes sin sentido en el artículo, lo que llevó a su retractación (si es que se usó en este caso). Pero también plantea dudas sobre la capacidad de dichas herramientas de inteligencia artificial para detectar, señalar y, en última instancia, detener la publicación de información científica inexacta, y la creciente prevalencia de su uso en Frontiers y en otros lugares del ecosistema editorial. Quizás ese sea el peligro de estar en la “frontera” de un nuevo movimiento tecnológico como la IA: el riesgo de que salga mal es mayor que con el enfoque “probado y verdadero”, solo humano o analógico. VentureBeat también se basa en herramientas de inteligencia artificial para la generación de imágenes y algo de texto, pero todos los artículos son revisados ​​por periodistas humanos antes de su publicación. VentureBeat no utilizó IA al escribir, informar, ilustrar o publicar este artículo. La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora y realicen transacciones. Descubra nuestros Briefings.


Source link