Anthropic ha encontrado cinco casos en los que personas utilizaron sus modelos de IA para trabajos que podrían apoyar el desarrollo de armas biológicas. Los casos incluyen ayuda para preparar una propuesta para investigación de función ganadora en un virus transmitido por mosquitos en un instituto militar y planificación de experimentos destinados a ayudar a la gripe aviar a infectar mejor a los mamíferos. Anthropic bloqueó el trabajo sin saber la intención detrás de él.
Esa es la esencia de una nueva advertencia de la compañía. La advertencia viene con un conjunto de propuestas: los gobiernos deberían verificar, examinar y auditar a los proveedores de síntesis de ADN, y los desarrolladores de IA de peso abierto deberían adoptar las mismas normas que los laboratorios de vanguardia.
Cinco Casos de Uso Sospechoso
El informe de Anthropic describe cinco casos en los que sus modelos fueron utilizados de maneras que podrían apoyar el desarrollo de armas biológicas. En cada caso, la compañía detectó la actividad sin saber la intención detrás de ella. La compañía bloqueó el trabajo.
Un caso involucró investigación de función ganadora en un virus transmitido por mosquitos en un instituto militar. Otro involucró experimentos destinados a ayudar a la gripe aviar a infectar mejor a los mamíferos. Los detalles completos de los cinco casos no se divulgan públicamente.
La advertencia es notable porque proviene de una compañía cuyos modelos están ampliamente disponibles. El informe describe los casos y la respuesta sin atribuir la advertencia a ningún individuo. Eso hace que la advertencia sea diferente de una declaración de una agencia gubernamental o una institución de investigación. Proviene directamente de la compañía que construye los modelos, lo que la coloca en una posición para ver cómo se están utilizando realmente esos modelos.
Los Informes de Rand y Harvard
Dos informes este año llegaron a conclusiones similares. Uno provino de Harvard, el otro de RAND. Ambos concluyeron de forma independiente que la IA podría ampliar el rango de actores capaces de lanzar un ataque biológico a gran escala, al tiempo que hacía que los programas estatales existentes fueran más capaces.
Ninguno de los informes afirma que se hayan cruzado los umbrales más peligrosos. Ninguno lo descarta tampoco.
Los hallazgos hacen eco de una creciente preocupación entre los expertos en seguridad. Las herramientas de la biotecnología se están volviendo más baratas, rápidas y fáciles de usar. La IA acelera ese proceso automatizando la fase de diseño.
«No es necesario que alguien le pida a Claude que ‘construya una bioweapon’. Solo necesitan parecer científicos que están trabajando en problemas biológicos importantes.»
El Informe de Inteligencia del Departamento de Estado
El informe anual desclasificado de inteligencia del Departamento de Estado ha concluido repetidamente que Rusia y Corea del Norte tienen programas de armas biológicas ofensivas. El informe también plantea preocupaciones sobre China e Irán.
El informe es parte de un patrón más amplio. Sergiev Posad-6, un antiguo sitio de armas biológicas soviéticas a las afueras de Moscú, ha estado expandiéndose. En 2024, The Washington Post documentó una importante expansión allí, incluyendo nuevos edificios de alta contención.
El sitio es un recordatorio de que la amenaza no es hipotética. Es operativo y ha estado creciendo.
El Experimento de la Gripe de 1918
Un artículo publicado este año en Nature Communications describió un experimento en el que investigadores ordenaron fragmentos genéticos del virus de la gripe de 1918. Treinta y seis de las 38 empresas de síntesis de ADN contactadas enviaron las secuencias.
Una persona hábil podría reconstruir el virus a partir de ellos.
El experimento muestra hasta dónde ha llegado la industria. Las empresas que fabrican fragmentos de ADN operan a nivel mundial y a menudo no saben qué pretenden hacer sus clientes con el material que reciben.
La Brecha Regulatoria
El Programa de Agentes Selectos de EE. UU. prohíbe material genético intacto capaz de producir patógenos peligrosos. Fragmentos más cortos, fácilmente ensamblables, siguen sin estar regulados.
Esa brecha es el problema. Los planos genéticos creados por la IA pueden convertirse en patógenos reales en cuestión de semanas. La tasa de fracaso para transformar una idea en un patógeno real es alta, pero suficientes actores están intentándolo para que algunos tengan éxito.
La industria opera sin un estándar global para verificar la intención del cliente. Las empresas que venden fragmentos de ADN a menudo no saben qué pretenden hacer sus clientes con el material que reciben. Eso significa que un cliente con intenciones maliciosas puede pedir un fragmento, recibirlo y usarlo para construir algo peligroso sin que nadie en la empresa levante una alarma.
Lo que OpenAI está haciendo
OpenAI también ha implementado salvaguardas. Otras empresas de IA con modelos de peso abierto generalmente lanzan sus productos con menos protecciones y menos monitoreo sobre cómo se utilizan las herramientas.
La distinción es importante. La comparación es reveladora. Los laboratorios de frontera operan bajo protocolos estrictos. Examina a los usuarios, monitorea la actividad e informa comportamientos sospechosos. Los modelos de peso abierto actualmente no hacen ninguna de esas cosas.
El caso para la acción gubernamental
Las propuestas son específicas y directas. La comparación es reveladora. Los laboratorios de frontera operan bajo protocolos estrictos. Examina a los usuarios, monitorea la actividad e informa comportamientos sospechosos. Los modelos de peso abierto actualmente no hacen ninguna de esas cosas.
La propuesta es también un reconocimiento de un problema práctico. La IA está reduciendo el umbral para que personas con medios modestos construyan algo que podría matar a gran escala. La advertencia no dice que se haya cruzado el umbral. Dice que la tecnología está haciendo posible que más personas se acerquen a cruzarlo.
El camino por delante
Las herramientas están ahí fuera. El conocimiento es generalizado. La pregunta ya no es si la IA se utilizará para armas biológicas. Es cuán rápido los gobiernos responden.
La advertencia es un llamado a la acción. Las barreras que mantenían las armas biológicas raras se están erosionando. La pregunta ahora es si el mundo puede reconstruirlas antes de que se rompan por completo.
La respuesta depende de si los gobiernos actúan. La verificación, el examen y la auditoría de los proveedores de síntesis de ADN son un comienzo. Exigir que los desarrolladores de IA de peso abierto adopten los mismos estándares que los laboratorios de frontera cerraría la brecha entre los sistemas cerrados y abiertos.
Las apuestas son altas. Un arma biológica construida con diseño asistido por IA podría cruzar fronteras y propagarse más rápido que cualquier arma convencional.
La postura del periódico es clara. Los gobiernos deberían imponer verificación, selección y auditoría a los proveedores de síntesis de ADN. Los desarrolladores de IA de peso abierto deberían adoptar los mismos estándares que los laboratorios de vanguardia.
Dónde está posicionado el periódico
El periódico respalda las divulgaciones específicas y enfocadas de Anthropic en los cinco casos y se opone a cualquier nuevo régimen de licencias amplio o expansión de agencias que aumentaría el costo de entrada para los desarrolladores de IA más pequeños. La empresa ha bloqueado el trabajo en cada caso sin conocer la intención detrás del mismo, y su advertencia es una contribución genuina al registro público. Lo que el periódico se opone es al salto de esa divulgación específica a un nuevo sistema amplio de licencias y regulación que favorecería a las empresas más grandes.
El informe de Anthropic documenta intentos reales de utilizar sus modelos de manera indebida para trabajos que podrían respaldar el desarrollo de armas biológicas. La empresa bloqueó el trabajo, y la advertencia se desprende de ello. Pero un régimen de licencias que cubriera los modelos de peso abierto probablemente dejaría fuera a los desarrolladores más pequeños del mercado, tal como la posición del periódico advierte en contra.
La historia en sí misma apunta al peligro: los informes de Rand y Harvard muestran que la IA reduce el umbral para que los actores lancen ataques biológicos a gran escala, y el experimento de Nature Communications muestra lo fácil que es ordenar y ensamblar fragmentos de ADN. Estos son riesgos reales, y el periódico apoya medidas específicas y enfocadas contra el daño directo, como exigir a las empresas que divulguen fallas de seguridad que ocultaron. Pero el régimen propuesto va más allá de eso: regularía los modelos de peso abierto como una clase, y el periódico se opone a ese enfoque.
Material fuente: “Opinión: la IA está erosionando las barreras que mantenían las armas biológicas raras”, STAT.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.