El informe reciente de Anthropic sobre el uso indebido detalló cinco casos en los que científicos extranjeros intentaron eludir las protecciones de Claude en consultas sobre “función ganadora”. Esa es una expresión eufemística para manipular los genes de un patógeno para hacerlo más infeccioso, más letal o más capaz de propagarse entre los mamíferos. La compañía negó a esos usuarios las respuestas que buscaban y cerró sus cuentas, incluso al tiempo que señaló que sus motivos podrían no haber sido siniestros. La ingeniería genética puede utilizarse tanto para el bien como para el mal, un problema de uso dual que precede a la IA.
El nuevo libro de Annie Jacobsen, Guerra Biológica: Un Escenario, continúa su trabajo anterior sobre la guerra nuclear. Tiene décadas de informes de seguridad nacional de alto nivel a sus espaldas y habla con funcionarios militares y gubernamentales actuales y anteriores sobre cómo podría ser un ataque biológico. El libro se publicó a fines de julio.
Función Ganadora y el Problema de Uso Dual
Los investigadores que trabajan con patógenos de alto riesgo a menudo optan por publicar sus hallazgos. Argumentan que es mejor comprender qué rasgos genéticos hacen que los organismos sean una amenaza para la humanidad. Eso ignora las consecuencias catastróficas de una liberación accidental o deliberada.
El libro de Jacobsen plantea la misma pregunta: ¿es realmente mejor para la humanidad llevar a cabo ese trabajo? La reacción honesta de la escritora es inquietud. La entrevista apunta a riesgos reales, no hipotéticos.
La Comparación Entre Armas Nucleares y Biológicas
En su libro, Jacobsen reproduce un documento del Departamento de Defensa que clasifica las armas de destrucción masiva por amenaza. Las armas nucleares se encuentran al final de la curva porque son las más destructivas. Pero las armas biológicas son un segundo lugar cercano, y ella cree que son la mayor amenaza en general porque el umbral de entrada es extremadamente bajo.
Para tener una arma nuclear, se necesita:
- Material fisible de grado de armas
- Un misil balístico intercontinental (ICBM)
- Un bombardero B-2
- O un submarino armado con armas nucleares
Usted tiene que ser un estado. Un terrorista con una bomba sucia es una amenaza completamente diferente.
¿Quién tiene acceso a agentes pandémicos?
La diferencia clave es quién posee los medios. Nueve estados con armas nucleares contienen sus arsenales. El resto del mundo tiene agentes pandémicos. La mayoría de la gente tiene acceso a ellos.
Eso se vuelve aterrador. Si usted fuera un diseñador de armas biológicas, ¿qué buscaría en un patógeno? Jacobsen lo plantea de forma contundente: un agente aéreo y un público que no comprende completamente la amenaza.
Liberación accidental versus ataque deliberado
El escenario de Jacobsen implica la liberación accidental de un patógeno weaponizado de un laboratorio de alta seguridad en Rusia. Los expertos con quienes habló sitúan la liberación accidental como una amenaza mucho mayor que alguien que despliega un arma biológica.
Existen serios esfuerzos de no proliferación en la CIA y otras agencias de inteligencia para interrumpir los programas de armas biológicas. Los programas de armas biológicas en manos de terroristas se han cerrado. Pero la gente dispuesta a desplegar un arma biológica en una comunidad, sabiendo que el retroceso crearía una pandemia en todo el mundo, es rara.
Muchos terroristas encajan en esa categoría, pero ese es un grupo más pequeño que la gente que podría liberar accidentalmente un patógeno de un laboratorio. Los expertos con quienes habló ubicaron el riesgo en ese orden.
El pensamiento inconcluso
El texto de la entrevista está incompleto al final, con el último pensamiento sobre todas las personas —científicos, estados nación, instituciones académicas— que están manipulando agentes pandémicos quedando inconcluso. El periódico señala que la conversación se corta a mitad de pensamiento.
Lo que sabemos
- El informe de uso indebido de Anthropic documentó cinco casos de científicos extranjeros eludiendo las salvaguardias de Claude en consultas sobre ganancia de función.
- Anthropic negó a esos usuarios las respuestas que buscaban y suspendió sus cuentas.
- El libro de Jacobsen, Guerra Biológica: Un Escenario, fue publicado a fines de julio.
- El documento del Departamento de Defensa califica las armas nucleares como las más destructivas, con las armas biológicas en un segundo lugar cercano.
- La CIA y otras agencias de inteligencia llevan a cabo esfuerzos contra la proliferación de programas de armas biológicas.
La conclusión es sombría. La tecnología existe. El acceso es amplio. La vía accidental es la más probable, y la entrevista presenta esa evaluación experta.
Material de origen: “Hay Muchas Razones para Preocuparse por el Desarrollo de Armas Biológicas, Incluso Sin IA”, WIRED.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.