Annie Jacobsen warnt, dass biologische Krieg die größte Gesamtforderung für die Menschheit darstellt. )

Anthropic’s jüngster Bericht über Fehlverwendungen detaillierte fünf Fälle, in denen ausländische Wissenschaftler versuchten, Claude’s Schutzmaßnahmen bei Anfragen zu „Funktionsgewinn“ zu umgehen. Das ist ein Euphemismus für das Basteln an den Genen eines Krankheitserregers, um ihn ansteckender, tödlicher oder besser in der Lage zu machen, sich unter Säugetieren auszubreiten. Das Unternehmen verweigerte diesen Nutzern die Antworten, die sie suchten, und sperrte ihre Konten, auch wenn es darauf hinwies, dass ihre Motive möglicherweise nicht bösartig waren. Gentechnik kann sowohl für gute als auch für böse Zwecke eingesetzt werden, ein Dual-Use-Problem, das der KI vorausgeht.

Annie Jacobsen’s neues Buch, Biological War: A Scenario, knüpft an ihre frühere Arbeit über Atomkrieg an. Sie verfügt über jahrzehntelange Erfahrung in der Berichterstattung über nationale Sicherheit auf hoher Ebene und spricht mit derzeitigen und ehemaligen Militär- und Regierungsbeamten darüber, wie ein biologischer Angriff aussehen könnte. Das Buch erschien Ende Juli.

Funktionsgewinn und das Dual-Use-Problem

Forscher, die mit hochriskanten Krankheitserregern arbeiten, publizieren ihre Ergebnisse oft standardmäßig. Sie argumentieren, es sei besser zu verstehen, welche genetischen Merkmale Organismen zu einer Bedrohung für die Menschheit machen. Das ignoriert die katastrophalen Folgen einer versehentlichen Freisetzung oder einer absichtlichen.

Jacobsen’s Buch wirft dieselbe Frage auf: Ist die Menschheit wirklich besser dran, diese Arbeit zu leisten? Die ehrliche Reaktion der Autorin ist Besorgnis. Das Interview weist auf echte Risiken hin, nicht auf hypothetische.

Der Vergleich zwischen Atom- und biologischen Waffen

In ihrem Buch reproduziert Jacobsen ein Dokument des Verteidigungsministeriums, das Massenvernichtungswaffen nach ihrem Bedrohungspotenzial einstuft. Atomwaffen liegen am Ende der Kurve, weil sie am zerstörerischsten sind. Aber biologische Waffen kommen dicht dahinter, und sie glaubt, dass sie die größte Bedrohung insgesamt darstellen, weil die Einstiegshürde extrem niedrig ist.

Um eine Atomwaffe zu haben, benötigt man:

1. Waffenwürdige spaltbares Material
2. Ein ICBM
3. Einen B-2 Bomber
4. Oder ein mit Atomwaffen ausgestattetes U-Boot

Sie müssen ein Staat sein. Ein Terrorist mit einer „Dirty Bomb“ ist eine völlig andere Bedrohung. (1)

Wer hat Zugang zu Pandemie-Agentien? (2)

Der entscheidende Unterschied besteht darin, wer die Mittel besitzt. Neun Staaten mit Atomwaffen sichern ihre Arsenale. Der Rest der Welt hält Pandemie-Agentien. Fast jeder hat Zugang dazu. (3)

Das wird beängstigend. Wenn Sie ein Biowaffen-Entwickler wären, wonach würden Sie in einem Krankheitserreger suchen? Jacobsen formuliert es unmissverständlich: ein luftübertragener Erreger und eine Bevölkerung, die die Bedrohung nicht vollständig erfasst. (4)

Versehentliche Freisetzung vs. vorsätzlicher Angriff (5)

Jacobsens Szenario beinhaltet die versehentliche Freisetzung eines waffenfertigen Krankheitserregers aus einem Hochsicherheitslabor in Russland. Die von ihr befragten Experten sehen eine versehentliche Freisetzung als eine weitaus größere Bedrohung als den Einsatz einer Biowaffe an. (6)

Es gibt ernsthafte Gegenfortpflanzungsbemühungen bei der CIA und anderen Geheimdiensten, um Biowaffenprogramme zu stören. Biowaffenprogramme in den Händen von Terroristen wurden bereits eingestellt. Aber die Menschen, die bereit wären, eine biologische Waffe in eine Gemeinschaft einzusetzen, in dem Wissen, dass der Blowback eine Pandemie auslösen würde, die sich weltweit ausbreitet, sind selten. (7)

Viele Terroristen passen in diese Kategorie, aber das ist eine kleinere Gruppe als die Menschen, die versehentlich einen Krankheitserreger aus einem Labor freisetzen könnten. Die von ihr befragten Experten ordnen das Risiko in dieser Reihenfolge ein. (8)

Der ungebeuchte Gedanke (9)

Der Interviewtext ist am Ende unvollständig, wobei der letzte Gedanke über all die Menschen – Wissenschaftler, Nationalstaaten, akademische Einrichtungen – die Pandemie-Agentien manipulieren, unvollendet bleibt. Die Zeitung weist darauf hin, dass das Gespräch mitten im Gedanken abbricht. (10)

Was wir wissen (11)

• AnthroPics Missbrauchsbericht dokumentierte fünf Fälle, in denen ausländische Wissenschaftler die Schutzvorkehrungen von Claude umgingen, um Funktionsveränderungsanfragen zu stellen. (12)
• Anthropic verweigerte diesen Nutzern die Antworten, die sie suchten, und sperrte ihre Konten.
• Jacobsen’s Buch, Biologische Kriegsführung: Ein Szenario, wurde Ende Juli veröffentlicht.
• Das Dokument des Verteidigungsministeriums stuft Atomwaffen als die zerstörerischsten ein, biologische Waffen folgen dicht auf dem Fuße.
• Die CIA und andere Geheimdienste betreiben Gegenverbreitungsmaßnahmen gegen Biowaffenprogramme.

Die Quintessenz ist ernüchternd: Die Technologie existiert. Der Zugang ist weit verbreitet. Die versehentliche Route ist der wahrscheinlichere Weg, und das Interview präsentiert diese Expertenbeurteilung.

Quelle: “There Are Plenty of Reasons to Be Concerned About Bioweapons Development—Even Without AI,” WIRED.