Dario Amodei, CEO von Anthropic, hat seit Jahren vor dem KI-Wettrüsten zwischen den USA und China gewarnt und gesagt, ein Scheitern wäre katastrophal. Er will nun, dass beide Nationen Tempo machen, obwohl China offenbar nicht bereit ist zu kooperieren.
Am Samstag wurde ein Blogbeitrag von Amodei veröffentlicht, der mit „We Must Pace the Frontier“ betitelt ist, in dem er argumentierte, dass die beiden Nationen dringend zusammenarbeiten müssen, um die Entwicklung von KI zu steuern. Er schrieb: „Globale Steuerung erfordert eine Zusammenarbeit mit China, dem autokratischen Land mit den bei weitem fortschrittlichsten KI-Fähigkeiten.“
Regierungsbeamte, KI-Forscher und Kommentatoren in China haben ihre Position deutlich gemacht: Sie sehen ein schlechtes Angebot. Sie räumen ein, dass KI erhebliche Risiken birgt, weigern sich jedoch, die von Amodei aufgestellten Bedingungen zu akzeptieren.
Chinas Ablehnung
Kevin Xu, Gründer des Technologie-Hedgefonds Interconnected Capital und ehemaliger Mitarbeiter des Weißen Hauses unter Präsident Barack Obama, brachte die chinesische Position auf den Punkt. „Die KI-Sicherheitsgemeinschaft in China wächst und teilt viele der gleichen Bedenken, die auch amerikanische Labore haben“, sagte er. „Die Kluft liegt zwischen einer von Anthropic geführten Vision, die China zunächst unterwerfen und einschränken würde, um den Hebel zu maximieren, bevor überhaupt gesprochen wird. China würde jedoch nur dann sprechen, wenn es aus einer Position der Gleichheit behandelt wird.“
Amodei selbst schrieb, dass ein „Schlüsselteil“ der Strategie zur Verlangsamung darin bestehen sollte, sicherzustellen, dass die USA und andere Demokratien „so groß wie möglich“ einen Vorsprung in der KI-Entwicklung gegenüber Autokratien wie China halten. Er forderte die USA auf, auf Schmuggel von Chips zu achten und eine unbefugte Modell-Destillation durch chinesische Unternehmen zu verhindern.
„Sein Essay sagt ausdrücklich, dass die Steuerung der KI an die Erhöhung des Vorsprungs gegenüber China gebunden ist“, sagt Alvin Wang Graylin, ein Senior Fellow am Asia Society Policy Institute’s Center for China Analysis und ein Digital Fellow am Stanford Institute for Human-Centered AI. „Was dazu führt, dass der Vorschlag für chinesische Leser unecht wirkt.“
Amodei argumentierte außerdem, dass die Schwächung der chinesischen KI-Industrie den USA irgendwie mehr Einfluss verschaffen und „eine Einigung in der Zukunft wahrscheinlicher machen“ würde. Auf die Frage danach in einem Fernsehinterview gab er zu, er habe „keine Ahnung, wie man mit China verhandeln kann“.
Die Worte des Ministeriums )
Auf die Frage zu Amodeis Beitrag am Montag bei einer Pressekonferenz betonte Guo Jiakun, ein Sprecher des chinesischen Außenministeriums, seine Aussage nicht. Er beschrieb den Vorschlag als „Angstmacherei, Konfrontation und böslichen Wettbewerb“, der nur die globalen Bemühungen um KI-Kooperation behindern würde.
Am folgenden Tag veröffentlichte das Ministerium eine Erklärung, in der hinzugefügt wurde: „China lege bei KI gleichermaßen Wert auf Entwicklung und Sicherheit.“
Was Peking beunruhigt )
Die Angst der chinesischen Führungspersönlichkeiten betrifft nicht das existentielle Risiko durch künstliche Intelligenz, wie beispielsweise einen abtrünnigen Agenten, der jeden auf der Erde tötet. Stattdessen dreht sich ihre Besorgnis darum, die innenpolitische Stabilität aufrechtzuerhalten und den Einfluss der Kommunistischen Partei Chinas zu bewahren.
„Peking hat es schwer, diese Forderungen für bare Münze zu nehmen, da es skeptisch gegenüber der Möglichkeit der Erreichung von AGI ist und daran zweifelt, dass KI extreme Risiken für die Menschheit darstellt“, sagt Michelle Nie, eine Gastwissenschaftlerin am Center for a New American Security, die sich auf nationale Sicherheit und künstliche Intelligenz konzentriert. „Obwohl Peking beginnt, Kontrollverlustrisiken anzuerkennen, scheint das größte Bedenken Pekings die Bedrohung zu sein, die KI für die Herrschaft der KPCh darstellen könnte.“
Chinas Minister für Staatssicherheit, Chen Yixin, hat kürzlich gewarnt, dass künstliche Intelligenz zur Verbreitung politischer Desinformation, zum Starten von Cyberangriffen, zur Begehung von Spionage, zur Auslösung sozialer Unruhen und zur Schaffung neuer militärischer Gefahren eingesetzt werden könnte. Seine Bemerkungen konzentrierten sich hauptsächlich auf praktische Bedrohungen und nicht auf die Endausgangsszenarien, die in US-amerikanischen KI-Forschungslaboren dominieren.
„Chinesische politische Entscheidungsträger neigen dazu, die Forderungen von US-Unternehmen nach KI-Sicherheit als instrumental zu betrachten“, sagt Nie. „Sie glauben, dass US-Unternehmen versuchen, ihren eigenen Wert im Vorfeld möglicher Börsengänge zu erhöhen oder ihre Konkurrenten zu verlangsamen, die zum jetzigen Zeitpunkt hauptsächlich chinesische Unternehmen sind.“
Gegenbewegung der Industrie )
Abgesehen von Regierungsbeamten bezweifeln auch viele Menschen, die in Chinas KI-Industrie arbeiten, die Behauptungen. Dieser Sektor hat sich auf die Entwicklung günstigerer, offen zugänglicher Modelle konzentriert.
Ein Wissenschaftler, der bei DeepSeek arbeitet, argumentierte, dass KI das Potenzial hat, die Menschheit in eine von zwei Richtungen zu lenken. Eine Möglichkeit ist, dass fortschrittliche künstliche Intelligenz breit zugänglich wird und den Lebensstandard allgemein verbessert. Die andere Möglichkeit ist, dass nur wenige Technologieunternehmen die fortschrittlichsten Systeme sowie den damit einhergehenden Reichtum und Einfluss in ihren Händen halten, was es für alle anderen immer schwieriger macht, aufzuholen.
„Deshalb bin ich nach wie vor der Meinung, dass die fortschrittlichste Intelligenz für alle auf offene und kostengünstige Weise zugänglich sein sollte“, schrieb der DeepSeek-Ingenieur. „Ich vertraue Anthropic oder OpenAI nicht darauf. Und ich möchte Anthropic erst recht nicht die fortschrittlichste künstliche Intelligenz oder AGI kontrollieren lassen.“
Ein Deal, der nicht funktionieren wird
Was chinesische Leser an Amodeis Vorschlag unecht finden, ist, dass er das Tempo an die Steigerung der Vorreiterrolle der USA knüpft, was hier die zentrale strittige Frage ist.
Die Tatsache, dass Amodei zugibt, keine Ahnung zu haben, wie man mit China verhandeln kann, macht seine Bitte um Zusammenarbeit nur noch ironischer. Er fordert Zusammenarbeit, während er gleichzeitig offen Schritte vorschlägt, um eine Vorreiterrolle zu erhalten, und kann nicht erklären, wie dieses Ziel zu erreichen ist.
Es gibt keinen Grund anzunehmen, dass die Zusammenarbeit zwischen den USA und China in Bezug auf KI-Sicherheit abgeschlossen ist. Berichte zufolge finden bereits Gespräche zwischen den beiden Nationen statt, im Vorfeld von Staatschef Xi Jinpings geplanter Reise nach Washington später in diesem Monat, wo er sich mit US-Präsident Donald Trump treffen wird.
Es ist ungewiss, ob beide Seiten eine gemeinsame Position erreichen können, ohne dass eine Seite Bedingungen stellt, die die andere Seite nicht akzeptieren möchte.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.