Los laboratorios de IA de vanguardia han advertido de que su tecnología podría contribuir al desarrollo de armas biológicas peligrosas. Ahora, una startup afirma haber desarrollado un sistema de defensa.
A mediados de la semana, Radical Numerics anunció el desarrollo de un nuevo modelo de vanguardia llamado Omnii Defense, diseñado para detectar patógenos naturales y creados mediante IA utilizando una laptop y un secuenciador genético USB. Además, puede funcionar sin conexión a internet, lo que permite que lo utilicen investigadores sobre el terreno con conexiones irregulares.
Aunque muchos científicos afirman que las armas biológicas creadas con IA suponen una amenaza poco probable, Radical Numerics espera que su tecnología ayude a los investigadores y a los responsables de salud pública a identificar amenazas biológicas emergentes.
Eric Nguyen, cofundador y CEO de Radical Numerics, prevé una próxima carrera armamentística en el ámbito de la biodefensa similar a la que se está produciendo en la ciberseguridad, donde los autores de las amenazas y los defensores de la seguridad están aprovechando la IA para intentar obtener ventaja.
«Nos parecía que el ámbito de la bioseguridad estaba muy rezagado en lo que respecta a la defensa». Nguyen y sus cofundadores formaban parte del equipo de investigación responsable de Evo y Evo-2, modelos base de ADN de código abierto en los que trabajaron durante su investigación doctoral en la Universidad de Stanford. Fundaron Radical Numerics en 2025.
Información biológica más allá del ADN
La empresa, con sede en San Francisco, ha dado recientemente que hablar tras lanzar Omnii, un nuevo modelo de lenguaje genómico basado en diferentes tipos de información biológica más allá del ADN, como el ARN, las proteínas y las señales epigenéticas. En octubre, Radical anunció que había utilizado Omnii para crear bacteriófagos a medida, virus que infectan y matan bacterias específicas, dirigidos contra una cepa de E. coli resistente a los medicamentos. Su cóctel se utilizó para tratar a un paciente enfermo, con permiso especial de la Administración de Alimentos y Medicamentos (FDA).
Otra startup biotecnológica de IA, Tabula Bioscience, también participó en esa investigación, pero Radical no reveló la colaboración en su comunicado del mes pasado. Esta omisión llevó al genetista de Harvard George Church, que era asesor de ambas empresas, a dimitir de su cargo en Radical la semana pasada.
Omnii Defense, la herramienta más reciente de la empresa, realiza múltiples predicciones sobre una secuencia, incluyendo la probabilidad de que sea patógena o generada por IA, y a qué grupo taxonómico se asemeja más. El modelo asigna a un genoma una «puntuación de amenaza» entre cero y uno que combina la probabilidad de que no sea natural con predicciones funcionales. Cuanto mayor sea la puntuación, mayor será la amenaza.
Las herramientas de biodefensa anteriores, como el programa «Finding Engineering-Linked Indicators» (Felix), financiado con fondos federales, pueden comparar secuencias genéticas de interés con bibliotecas de organismos conocidos, buscando coincidencias catalogadas. Esto puede resultar útil en un escenario en el que un malintencionado haya realizado algunos ajustes en un patógeno ya existente. Pero no están diseñadas para realizar predicciones de la misma forma que Omnii.
La ventaja de los modelos de IA es que pueden aprender patrones en secuencias asociados a funciones biológicas, en lugar de basarse en coincidencias exactas de secuencias. Esto les permitiría reconocer similitudes entre secuencias incluso cuando su composición genética haya cambiado. Christine Parthemore, directora de biodefensa de Radical Numerics, afirma que Omnii supone un «cambio radical».
El nuevo modelo abierto habla el lenguaje del ADN y puede ayudar a los investigadores a comprender los efectos de cualquier cambio en la actividad genética y la salud.
Omnii en la práctica
En un experimento, la empresa eliminó el virus de Bundibugyo, que actualmente está provocando un brote de ébola en África Oriental, de los datos de entrenamiento, primero a nivel de especie y luego de todo su género. «Era como si Omnii estuviera funcionando en 1976», explica Parthemore, refiriéndose al año en que se descubrió el ébola. A pesar de haber eliminado únicamente la especie, el modelo siguió detectando que el 33% de las secuencias de Bundibugyo que se le proporcionaron eran patógenas. Incluso tras eliminar todo el género, señaló el 22% de las secuencias virales. Las herramientas que no se basan en la IA prácticamente no dieron indicios de riesgo potencial, afirma.
«Debemos estar atentos de lo que permite la IA, y si podemos utilizar la tecnología para competir con ella y, con suerte, adelantarnos a cualquier tipo de actor malintencionado. Ese es un uso sensato», menciona Bronwyn MacInnis, directora de vigilancia de patógenos en el programa de Enfermedades Infecciosas y Microbioma del Broad Institute del MIT y Harvard.
El camino aún es largo
Sin embargo, MacInnis advierte de que detectar una señal sigue estando muy lejos de determinar si un patógeno tiene consecuencias reales o si se trata de una amenaza fabricada. El acceso a Omnii Defense está limitado actualmente a probadores externos previamente seleccionados.
Radical Numerics está colaborando con laboratorios nacionales, organismos gubernamentales y otros evaluadores independientes para evaluar el rendimiento del modelo.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
