Trump wies Warnungen vor KI-Gefahren als Hoax ab und lehnt Forderungen nach stärkerer Aufsicht ab.

Donald Trump hat die Befürchtungen über die Sicherheit von KI als „Schwindel“ bezeichnet und Forderungen nach mehr Schutzvorkehrungen für die rasch voranschreitende Technologie abgelehnt, wie er es bereits in einer Reihe von Posts am Montag getan hatte. Seine Äußerungen erfolgen nach einer Warnung eines Mitbegründers von Anthropic, dass ein „Not-Aus“ für gefährliche KI möglicherweise obligatorisch sein könnte.

Jack Clark, einer von Anthropic’s sieben Gründern, sagte der BBC, die Gesellschaft „möge möglicherweise irgendwann Regeln für eine Möglichkeit aufstellen, KI-Software vollständig abzuschalten, falls sie zu gefährlich wird“. Er sagte, die meisten Labore, einschließlich Anthropic, hätten bereits verschiedene Möglichkeiten, „den Stecker zu ziehen“, aber Gesetzgeber könnten möglicherweise die Einführung einer solchen Maßnahme durchsetzen.

Trumps Posts über KI

In einem weiteren Post schrieb Trump: „Es gibt eine KRANKE Verschwörung gegen KI und Datenzentren am Werk, und der Einzige, der darüber glücklich ist, ist China. WER KI GEWINNT, GEWINNT!“ Zuvor am Montag postete er, dass die einzigen „Schutzvorkehrungen“, die KI benötigt, ein „starker und intelligenter“ Präsident seien.

Die Diskussion hat sich auf die Frage konzentriert, ob KI einer stärkeren Aufsicht unterzogen werden sollte. Clark machte seine Äußerungen nach Warnungen über die Gefahren, die die Technologie für die Menschheit darstellen könnte, von mehreren Führungskräften und Mitarbeitern bei führenden KI-Unternehmen.

Am Montag veranlassten Bedenken hinsichtlich des Wachstums von KI Investoren, Aktien bestimmter Technologieunternehmen zu verkaufen, wobei Händler bewerteten, wie ein möglicher Abschwung in der KI-Entwicklung diese Unternehmen beeinflussen könnte.

Die Debatte über den Not-Aus

Am Montag stieg Microsoft AI in die breitere Branchenunterhaltung über die öffentliche Besorgnis ein, indem es ein Exposé über das veröffentlicht, was es „humanistische KI“ nennt, und folgte damit dem Muster von Unternehmen, die Bedenken hinsichtlich der Modelle äußern, die sie entwickeln. Clarks Forderung nach einem Not-Aus kommt nach dieser Welle von Diskussionen aus dem gesamten Sektor.

Mustafa Suleyman, der Geschäftsführer des Unternehmens, sprach mit dem Wirtschaftsnachrichtenkanal CNBC über die neuen Richtlinien und sagte, diese seien schon seit Monaten in der Entwicklung und würden jetzt veröffentlicht, da die aktuelle Debatte über die Technologie stattfinde.

Wer fordert noch Schutzmaßnahmen?

Steve Bannon, der ehemalige Chefstratege von Präsident Donald Trump, und Senator Bernie Sanders, ein langjähriger progressive Politiker, werden beide am Dienstag dieselbe Veranstaltung in Washington besuchen. Die Veranstaltung, bekannt als „Pro-Human Assembly“, bringt zwei prominente Figuren aus gegenüberliegenden Enden des politischen Spektrums der USA zusammen, die für eine Neubewertung der KI-Politik werben.

Die eigene Webseite der Veranstaltung gibt an, dass sie „darauf abzielt, eine gemeinsame Vision zu definieren und einen besseren, menschenzentrierten Weg für die KI-Entwicklung zu formulieren.“ Sanders sagte letzte Woche in der BBC-Sendung Newsnight, dass „wir unbedingt etwas unternehmen müssen, um das unkontrollierte Wachstum von KI zu stoppen.“

Er sagte: „Es besteht die existenzielle Bedrohung, dass die Menschheit aus der Existenz gewischt werden könnte.“

Die Kette der Warnungen, die die Debatte auslösten

Ein Beitrag von Jacob Coxon, einem Forscher, der Anthropic aufgrund von Bedenken verließ, dass KI die Menschheit zerstören könnte, entfachte eine verstärkte Diskussion. Daraufhin äußerte sich Anthropic-Wissenschaftler Evan Hubinger und erklärte, er glaube, die Wahrscheinlichkeit, dass KI die menschliche Auslöschung „innerhalb des nächsten Jahrzehnts“ verursacht, liege über 10 %.

Der Leiter von Anthropic, Dario Amodei, hat erneut darum gebeten, das Tempo der KI-Entwicklung zu verlangsamen und genauer zu überwachen. Das Unternehmen hat bereits zuvor solche Forderungen gestellt. Einige haben Zweifel geäußert, warum er dies tut.

Amodei sagte auch, dass alle Maßnahmen zur Eindämmung von KI „ohne den kommerziellen Vorteil zu beeinträchtigen“ durchgeführt werden sollten. Die Chefs von zwei konkurrierenden KI-Unternehmen, Sam Altman von OpenAI und Elon Musk von xAI, haben ebenfalls gesagt, dass sie Amodeis Vorschlag für eine branchenweite Verlangsamung und Regulierung sowie eine unabhängige Überwachung der KI-Modellentwicklung unterstützen.

Der Internationale Kontext

Wie chinesische Staatsmedien berichteten, haben Fachleute gewarnt, dass „Washingtons wachsende Besorgnis über Chinas rasche KI-Entwicklung zunehmend seine politischen Prioritäten verzerren.“

„Sie wissen, dass China zu einem starken Wettbewerber in der KI geworden ist, und befürchten, dass die USA, wenn sie die Entwicklung verlangsamen oder die Regulierung verschärfen, China möglicherweise noch schneller aufholen könnte“, sagte Xin Qiang, ein Professor für Amerikanistik an der Fudan University, der Global Times.

Am Dienstag wird die Pro-Human Assembly Bannon und Sanders zusammenführen, zwei Personen, die stark divergierende Positionen vertreten.

Investoren beobachteten am Montag genau, wie die Aktien von Technologieunternehmen fielen, und überlegten, wie eine mögliche Verlangsamung der KI-Entwicklung den Markt beeinflussen könnte.