Anthropic hat fünf Fälle identifiziert, in denen Personen seine KI-Modelle für Arbeiten nutzten, die die Entwicklung biologischer Waffen unterstützen könnten. Die Fälle umfassen Hilfe bei der Vorbereitung eines Vorschlags für Funktionsveränderungsforschung an einem Mücken-getragenen Virus in einem Militärinstitut sowie die Planung von Experimenten, die darauf abzielen, die Übertragung von Vogelgrippe auf Säugetiere zu verbessern. Anthropic blockierte die Arbeit, ohne die Absicht dahinter zu kennen.
Das ist der Kern einer neuen Warnung des Unternehmens. Die Warnung geht mit einer Reihe von Vorschlägen einher: Regierungen sollten DNA-Syntheseanbieter überprüfen, prüfen und kontrollieren, und Open-Weight-KI-Entwickler sollten dieselben Standards wie führende Labore übernehmen.
Fünf Fälle von Verdächtiger Nutzung
Anthropics Bericht beschreibt fünf Fälle, in denen seine Modelle auf eine Weise verwendet wurden, die die Entwicklung biologischer Waffen unterstützen könnte. In jedem Fall erkannte das Unternehmen die Aktivität, ohne die Absicht dahinter zu kennen. Das Unternehmen blockierte die Arbeit.
Ein Fall betraf Funktionsveränderungsforschung an einem Mücken-getragenen Virus in einem Militärinstitut. Ein weiterer Fall betraf Experimente, die darauf abzielen, die Übertragung von Vogelgrippe auf Säugetiere zu verbessern. Die vollständigen Details der fünf Fälle werden nicht öffentlich bekannt gegeben.
Die Warnung ist bemerkenswert, weil sie von einem Unternehmen kommt, dessen Modelle weit verbreitet sind. Der Bericht beschreibt die Fälle und die Reaktion, ohne die Warnung einem einzelnen Individuum zuzuschreiben. Das unterscheidet die Warnung von einer Erklärung einer Regierungsbehörde oder einer Forschungseinrichtung. Sie kommt direkt von dem Unternehmen, das die Modelle baut, was es in die Lage versetzt zu sehen, wie diese Modelle tatsächlich verwendet werden.
Die Berichte von Rand und Harvard
Zwei Berichte dieses Jahres kamen zu ähnlichen Schlussfolgerungen. Einer stammte von Harvard, der andere von RAND. Beide kamen unabhängig zu dem Schluss, dass KI den Kreis der Akteure erweitern könnte, die in der Lage sind, einen groß angelegten biologischen Angriff zu starten, während sie gleichzeitig bestehende staatliche Programme leistungsfähiger macht.
Keiner der Berichte behauptet, dass die gefährlichsten Schwellenwerte überschritten wurden. Keiner schließt dies jedoch auch aus.
Die Ergebnisse spiegeln eine wachsende Besorgnis unter Sicherheitsexperten wider. Die Werkzeuge der Biotechnologie werden billiger, schneller und einfacher zu bedienen. KI beschleunigt diesen Prozess, indem sie die Designphase automatisiert.
„Es ist nicht nötig, Claude aufzufordern, eine ‚Biowaffe zu bauen‘. Sie müssen nur wie Wissenschaftler aussehen, die an wichtigen biologischen Problemen arbeiten.“
Der Geheimdienstbericht des Außenministeriums
Der jährlich entschärfte Geheimdienstbericht des Außenministeriums kam wiederholt zu dem Schluss, dass Russland und Nordkorea über offensive Programme für biologische Waffen verfügen. Der Bericht äußert auch Bedenken hinsichtlich Chinas und Irans.
Der Bericht ist Teil eines größeren Musters. Sergiev Posad-6, ein ehemaliges sowjetisches Biowaffen-Gelände außerhalb von Moskau, wird erweitert. Im Jahr 2024 dokumentierte The Washington Post eine umfassende Erweiterung dort, darunter neue Hochsicherheitsgebäude.
Das Gelände ist eine Erinnerung daran, dass die Bedrohung nicht hypothetisch ist. Sie ist operativ und wächst.
Das Experiment mit der Grippe von 1918
Eine in Nature Communications dieses Jahr veröffentlichte Arbeit beschrieb ein Experiment, bei dem Forscher genetische Fragmente des Influenza-Virus von 1918 bestellten. Von den 38 kontaktieren DNA-Syntheseunternehmen schickten 36 die Sequenzen.
Eine sachkundige Person könnte das Virus daraus rekonstruieren.
Das Experiment zeigt, wie weit die Industrie fortgeschritten ist. Unternehmen, die DNA-Fragmente herstellen, arbeiten weltweit und wissen oft nicht, was ihre Kunden mit dem Material vorhaben, das sie erhalten.
Die Regulierungs-Lücke
Das U.S. Select Agent Program verbietet intaktes genetisches Material, das gefährliche Krankheitserreger produzieren kann. Kürzere, leicht zusammenfügbare Fragmente bleiben unreguliert.
Diese Lücke ist das Problem. Durch KI erstellte genetische Blaupausen können innerhalb von Wochen zu tatsächlichen Krankheitserregern werden. Die Ausfallrate bei der Umwandlung einer Idee in einen tatsächlichen Krankheitserreger ist hoch, aber genügend Akteure versuchen es, dass einige erfolgreich sein werden.
Die Industrie operiert ohne einen globalen Standard zur Überprüfung der Kundenabsicht. Unternehmen, die DNA-Fragmente verkaufen, wissen oft nicht, was ihre Kunden mit dem Material vorhaben, das sie erhalten. Das bedeutet, dass ein Kunde mit böswilliger Absicht ein Fragment bestellen, es erhalten und verwenden kann, um etwas Gefährliches zu bauen, ohne dass bei dem Unternehmen jemand Alarm schlägt.
Was OpenAI tut
OpenAI hat ebenfalls Schutzmaßnahmen eingeführt. Andere KI-Unternehmen mit Open-Weight-Modellen veröffentlichen ihre Produkte in der Regel mit weniger Schutzvorkehrungen und weniger Überwachung darüber, wie die Werkzeuge verwendet werden.
Der Unterschied ist wichtig. Der Vergleich ist aussagekräftig. Frontier Labs operieren unter strengen Protokollen. Sie überprüfen Benutzer, überwachen Aktivitäten und melden verdächtiges Verhalten. Open-Weight-Modelle leisten derzeit nichts davon.
Die Notwendigkeit staatlicher Maßnahmen
Die Vorschläge sind spezifisch und zielgerichtet. Der Vergleich ist aussagekräftig. Frontier Labs operieren unter strengen Protokollen. Sie überprüfen Benutzer, überwachen Aktivitäten und melden verdächtiges Verhalten. Open-Weight-Modelle leisten derzeit nichts davon.
Der Vorschlag ist auch eine Anerkennung eines praktischen Problems. KI senkt die Hemmschwelle für Menschen mit bescheidenen Mitteln, etwas zu bauen, das potenziell in großem Maßstab töten kann. Die Warnung besagt nicht, dass die Hemmschwelle überschritten wurde. Sie besagt, dass die Technologie es mehr Menschen ermöglicht, sich dem Überschreiten zu nähern.
Der Weg vor uns
Die Werkzeuge sind da. Das Wissen ist weit verbreitet. Die Frage ist nicht mehr, ob KI für biologische Waffen eingesetzt wird. Es geht darum, wie schnell Regierungen reagieren.
Die Warnung ist ein Aufruf zum Handeln. Die Barrieren, die biologische Waffen selten machten, werden abgebaut. Die Frage ist nun, ob die Welt sie vor ihrem vollständigen Zusammenbruch wieder aufbauen kann.
Die Antwort hängt davon ab, ob Regierungen handeln. Die Überprüfung, die Prüfung und die Überwachung von Anbietern von DNA-Synthese sind ein Anfang. Die Verpflichtung von Open-Weight-KI-Entwicklern, die gleichen Standards wie Frontier Labs zu übernehmen, würde die Lücke zwischen geschlossenen und offenen Systemen schließen.
Der Einsatz ist hoch. Eine biologische Waffe, die mit KI-unterstütztem Design gebaut wurde, könnte Grenzen überwinden und sich schneller verbreiten als jede konventionelle Waffe.
Die Position der Zeitung ist klar: Regierungen sollten Verifizierungs-, Prüf- und Auditierungsmaßnahmen bei Anbietern von DNA-Synthese auferlegen. Entwickler von Open-Weight-KI sollten die gleichen Standards wie führende Labore anwenden.
Die Position der Zeitung
Die Zeitung unterstützt Anthropics enge, zielgerichtete Offenlegungen der fünf Fälle und ist gegen jedes breite neue Lizenzregime oder jede Ausweitung einer Behörde, die die Eintrittsbarrieren für kleinere KI-Entwickler erhöhen würde. Das Unternehmen hat die Arbeit in jedem Fall blockiert, ohne die Absicht dahinter zu kennen, und seine Warnung ist ein echter Beitrag zur öffentlichen Dokumentation. Was die Zeitung ablehnt, ist der Sprung von dieser spezifischen Offenlegung zu einem weitreichenden neuen System von Lizenzierung und Regulierung, das die größten Unternehmen begünstigen würde.
Anthropics Bericht dokumentiert echte Versuche, seine Modelle für Arbeiten zu missbrauchen, die die Entwicklung biologischer Waffen unterstützen könnten. Das Unternehmen blockierte die Arbeit, und die Warnung ergibt sich daraus. Ein Lizenzregime, das Open-Weight-Modelle abdeckt, würde kleinere Entwickler jedoch wahrscheinlich vom Markt verdrängen, wie die Position der Zeitung warnt.
Die Geschichte selbst weist auf die Gefahr hin: Die Berichte von Rand und Harvard zeigen, dass KI die Schwelle für Akteure senkt, groß angelegte biologische Angriffe zu starten, und das Nature Communications-Experiment zeigt, wie einfach DNA-Fragmente bestellt und zusammengebaut werden können. Dies sind reale Risiken, und die Zeitung befürwortet enge, zielgerichtete Maßnahmen gegen direkte Schädigungen, wie z. B. die Verpflichtung von Unternehmen, Sicherheitslücken offenzulegen, die sie verschwiegen haben. Aber das vorgeschlagene Regime geht darüber hinaus – es würde Open-Weight-Modelle als Klasse regulieren, und das lehnt die Zeitung ab.
Quellenmaterial: „Meinung: KI untergräbt die Barrieren, die biologische Waffen selten machten“, STAT.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.