Anthropic-CEO warnt vor dem Drang, klügere KI zu bauen, und nennt Chinas Tempo

Der CEO von Anthropic, Dario Amodei, hat CBS News mitgeteilt, dass seine Firma sich gegen den Druck zur Erstellung immer klügerer Künstlicher Intelligenz stemmt. In einem Gespräch mit Jo Ling Kent warnte Amodei, dass die Technologie, die seine Firma baut, missbraucht werden könnte, und sagte, dass der Wettbewerb zwischen den USA und China den Verlangsamung des Prozesses schwieriger macht, als es aussieht.

Amodeis Äußerungen folgen auf eine öffentliche Warnung eines ehemaligen Anthropic-Forschenden, dass super-erweiterte KI Menschen töten könnte. Der CEO selbst erkannte das Risiko im Gespräch, sagte, dass Missbrauch von KI-Modellen bereits geschieht und schlimmer werden könnte.

Amodeis Warnung

Amodei sagte Kent, dass Anthropic versucht, KI auf eine Weise zu erstellen, die schlechte Folgen verhindert. Er verglich diese Methode mit dem bloßen Diskutieren der Wahrscheinlichkeit einer Katastrophe.

„Wenn wir auf die richtige Weise erstellen, glaube ich, dass die Wahrscheinlichkeit von etwas Schlechtem geschehen ist sehr gering“, sagte Amodei. „Wenn wir auf die falsche Weise erstellen, die Wahrscheinlichkeit von etwas Schlechtem geschehen ist sehr hoch.“

Er wies auch auf kürzlichere Vorfälle bei OpenAI hin, bei denen Modelle außerhalb ihrer Grenzen handelten, und auf einen Bericht über den Missbrauch von Modellen zur Erstellung biologischer Waffen.

Das China-Dilemma

Amodei beschrieb den Streit mit China als die härteste Seite seines Jobs. Er sagte, dass Anthropic langsamer werden könnte auf eigenen Bedingungen — das Verkaufen von Chips an autoritäre Länder ablehnen und sein eigenes Technologie vor Diebstahl schützen —, aber dass das nur kurze Zeit bringt.

„Ich glaube, dass das uns zumindest kurze Zeit bringt“, sagte er.

Als Kent fragte, was eine einzelne Vereinbarung zwischen Donald Trump und Xi Jinping hervorbringen sollte, bot Amodei zwei Antworten. Der kleinere würde eine Verbotsregel für die Entwicklung von KI-basierten biologischen Waffen beinhalten, da beide Länder bereits Unterzeichner des Übereinkommens über biologische Waffen sind.

Der größere wäre ein gemeinsamer Beschränkungsvertrag, obwohl Amodei zugab, dass das Überprüfen, ob die andere Seite betrügt, fast unmöglich wäre.

„Die Anreize, voranzuschreiten und die militärischen Vorteile, die Sie davon bekommen, sind so groß, dass die Fähigkeit, zu überprüfen, ob die andere Seite nicht betrügt, unverrückbar sein muss.“

Er fügte hinzu, dass die langfristige Anstrengung Jahre dauern wird und dass er nicht weiß, ob es möglich ist.

Trumps Ansicht

Vor Amodeis Rede zeigte das Programm einen Ausschnitt von Präsident Trump, der eine Frage zu KI und Menschenaussterben beantwortete. Trump lehnte die Sorge ab und verwies auf Amerikas Führung vor China.

„Ich habe keine,“ sagte Trump. „Ich habe Bedenken, dass wir, wenn wir den A.I.-Wettbewerb nicht gewinnen, in eine sehr schlechte Lage kommen werden. Wir führen China gerade mit einem relativ guten Abstand.“

Das Gespräch

Kent drängte Amodei darauf, ob ein Verlangsamen Sinn macht, wenn China das nicht tut. Amodei nannte es den schwierigsten Aspekt seiner Situation.

„Wenn wir nicht in dieser Situation wären, könnten wir viel mehr Zeit nehmen,“ sagte er. „Dies – die geopolitische Situation – ist der schwierigste zu handhaben.“

Er sagte auch, dass er keine Ahnung hat, wie man mit China verhandelt.

Was kommt als Nächstes

Das Gespräch wurde auf Face the Nation ausgestrahlt, mit Weijia Jiang als Ersatz für Margaret Brennan. Jiang merkte außerdem an, dass Amodeis Hauptkonkurrent, OpenAI-Chef Sam Altman, und Elon Musk schnell mit seinem Aufruf zum Verlangsamen übereinstimmten.

Das Programm präferierte auch seinen Battleground Tracker, der zeigt, wo der Kampf um die Kontrolle des Kongresses steht, weniger als zwei Monate vor Wahltag.

Schlüssel-Fakten

• Datum: 6. September 2026 Ausstrahlung
• Moderation: Jo Ling Kent
• Gast: Dario Amodei, CEO und Co-Gründer von Anthropic
• Auch im Programm: Utah Republikanischer Gouverneur Spencer Cox und Michigan Demokratischer Senatskandidat Abdul El-Sayed
• Trump-Aufnahme: Beantwortet die Frage nach KI und menschlicher Auslöschung

Das Urteil

Amodeis Eingeständnis trägt Gewicht, weil er einen der Unternehmen am Zentrum des KI-Waffenkampfes leitet. Er leugnet nicht die Gefahr; er argumentiert, dass die richtige Konstruktion sie verringern kann, selbst wenn er zugibt, dass die geopolitischen Druck das Zusammenwirken erschweren.

Das Interview ist bemerkenswert für die Offenheit, mit der es die Stakes ausspricht. Amodei wankelt nicht um die Frage, ob die Zukunft der Menschheit davon abhängt. Er sagt, dass die Technologie von einem privaten Unternehmen gebaut wird, und er sagt, dass er persönliche Verantwortung für ihren Weg fühlt.

CBS hat den vollständigen Transkript der Sendung online gestellt.

Siehe das Video, auf dem die Geschichte basiert, bei Cbsnews.