Dario Amodei, director ejecutivo de la destacada empresa emergente de IA Anthropic, dijo al Congreso el año pasado que la nueva tecnología de IA pronto podría ayudar a personas no calificadas pero malévolas a crear ataques biológicos a gran escala, como la liberación de virus o sustancias tóxicas que causan ataques generalizados. enfermedad y muerte. Los senadores de ambos partidos estaban alarmados, mientras que los investigadores de IA en la industria y el mundo académico debatían cuán grave podría ser la amenaza. Ahora, más de 90 biólogos y otros científicos que se especializan en tecnologías de IA utilizan para diseñar nuevas proteínas: los mecanismos microscópicos que impulsan todas las creaciones en biología, han firmado un acuerdo que busca garantizar que su investigación asistida por IA avance sin exponer al mundo a daños graves. Los biólogos, que incluyen a la premio Nobel Frances Arnold y representan laboratorios en los Estados Unidos y otros países. , también argumentó que las últimas tecnologías tendrían muchos más beneficios que negativos, incluidas nuevas vacunas y medicamentos. “Como científicos que participan en este trabajo, creemos que los beneficios de las tecnologías actuales de IA para el diseño de proteínas superan con creces el potencial de daño, y lo haríamos Nos gustaría asegurarnos de que nuestra investigación siga siendo beneficiosa para todos en el futuro”, dice el acuerdo. El acuerdo no busca suprimir el desarrollo o la distribución de tecnologías de inteligencia artificial. En cambio, los biólogos pretenden regular el uso del equipo necesario para fabricar nuevo material genético. Este equipo de fabricación de ADN es, en última instancia, lo que permite el desarrollo de armas biológicas, dijo David Baker, director del Instituto de Diseño de Proteínas de la Universidad de Washington. quien ayudó a impulsar el acuerdo. “El diseño de proteínas es solo el primer paso en la fabricación de proteínas sintéticas”, dijo en una entrevista. «Luego hay que sintetizar ADN y trasladar el diseño de la computadora al mundo real, y ese es el lugar apropiado para regular». El acuerdo es uno de muchos esfuerzos para sopesar los riesgos de la IA frente a los posibles beneficios. Mientras algunos expertos advierten que las tecnologías de inteligencia artificial pueden ayudar a difundir desinformación, reemplazar empleos a un ritmo inusual y tal vez incluso destruir a la humanidad, las empresas de tecnología, los laboratorios académicos, los reguladores y los legisladores están luchando por comprender estos riesgos y encontrar formas de abordarlos. La empresa de Amodei, Anthropic, construye grandes modelos de lenguaje, o LLM, el nuevo tipo de tecnología que impulsa los chatbots en línea. Cuando testificó ante el Congreso, argumentó que la tecnología pronto podría ayudar a los atacantes a construir nuevas armas biológicas, pero reconoció que eso no era posible hoy. Anthropic había realizado recientemente un estudio detallado que demostraba que si alguien intentaba adquirir o diseñar armas biológicas, los LLM eran ligeramente más útiles que un motor de búsqueda normal en Internet. Amodei y otros temen que a medida que las empresas mejoren los LLM y los combinen con otras tecnologías, surja una seria amenaza. Le dijo al Congreso que solo faltaban dos o tres años para esto. OpenAI, creador del chatbot en línea ChatGPT, realizó más tarde un estudio similar que demostró que los LLM no eran significativamente más peligrosos que los motores de búsqueda. Aleksander Mądry, profesor de informática en el Instituto Tecnológico de Massachusetts y jefe de preparación de OpenAI, dijo que esperaba que los investigadores siguieran mejorando estos sistemas, pero que aún no había visto ninguna evidencia de que pudieran crear nuevas armas biológicas. Los LLM de hoy se crean analizando enormes cantidades de texto digital seleccionado de Internet. Esto significa que regurgitan o recombinan lo que ya está disponible en línea, incluida la información existente sobre ataques biológicos. (El New York Times ha demandado a OpenAI y a su socio, Microsoft, acusándolos de infracción de derechos de autor durante este proceso). Pero en un esfuerzo por acelerar el desarrollo de nuevos medicamentos, vacunas y otros materiales biológicos útiles, los investigadores están empezando a construir IA similares. sistemas que pueden generar nuevos diseños de proteínas. Los biólogos dicen que esa tecnología también podría ayudar a los atacantes a diseñar armas biológicas, pero señalan que en realidad construir las armas requeriría un laboratorio multimillonario, incluido equipo de fabricación de ADN. “Existe cierto riesgo que no requiere millones de dólares en infraestructura, pero esos riesgos existen desde hace un tiempo y no están relacionados con la IA”, dijo Andrew White, cofundador de la organización sin fines de lucro Future House y uno de los biólogos que firmaron el acuerdo. Los biólogos pidieron el desarrollo de medidas de seguridad que evitar que los equipos de fabricación de ADN se utilicen con materiales nocivos, aunque no está claro cómo funcionarían esas medidas. También pidieron revisiones de seguridad de los nuevos modelos de IA antes de lanzarlos. No argumentaron que las tecnologías deberían reprimirse. “Estas tecnologías no deberían estar en manos de un pequeño número de personas u organizaciones”, dijo Rama Ranganathan, profesor de bioquímica y biología molecular de la Universidad de Chicago, quien también firmó el acuerdo. «La comunidad de científicos debería poder explorarlos libremente y contribuir a ellos».

Source link