Anthropic-Chef Dario Amodei veröffentlichte am Samstag einen ausführlichen Essay, in dem er argumentiert, dass die Entwicklung von KI verlangsamt werden sollte, und die Reaktion aus dem Silicon Valley und Washington ist schnell und vielfältig gewesen. Sam Altman, Elon Musk und mehrere Politiker äußerten sich, während US-Präsident Donald Trump die Gelegenheit nutzte, um gegen die ganze Idee zu schimpfen.
Amodeis Essay mit dem Titel „We Must Pace the Frontier“ enthält drei Hauptvorschläge: eingebettete Drittanbieter-Evaluatoren zur Überprüfung der Sicherheitspraktiken von Unternehmen, Koordinierung zwischen führenden KI-Firmen in demokratischen Ländern und globale Koordinierung zwischen diesen Regierungen und autoritären Regimen. Er sagte, Anthropic „verpflichte sich einseitig zu dem ersten dieser Schritte.“
Was Amodei tatsächlich sagte
Amodei achtete darauf, seine Begriffe zu definieren. Er schrieb, dass „Pacing nicht bedeutet, das Training von Modellen oder den technischen Fortschritt zu stoppen.“ Stattdessen sollten Unternehmen angemessene Zeit damit aufwenden, ihre Modelle auszurichten und zu schützen, wobei Drittanbieter-Evaluatoren diese Arbeit bestätigen sollten.
Sein Essay kam im Rahmen einer breiteren Diskussion über die Risiken von KI zustande. Amodei stellte die Frage als eine des Gleichgewichts dar: wie man vorankommt, ohne dass die Technologie die Fähigkeit übersteigt, sie zu verstehen.
Altman stimmt zu, wenn auch nur so
Der OpenAI-Chef Sam Altman reagierte schnell und postete auf X, dass er Amodei zustimme. „Dies ist ein Hauptthema unserer Diskussionen bei OpenAI in den letzten Wochen gewesen“, sagte Altman.
Er verpflichtete sich auch zu unabhängigen Evaluatoren in seinem eigenen Unternehmen und bezeichnete dies als „große Idee“. Am Sonntag ging Altman noch weiter und begrüßte „ein bundesweites Framework, das einheitliche Sicherheitsanforderungen für führende KI festlegt“. Er forderte andere Unternehmen auf, aus den Ansätzen von OpenAI zu lernen und gemeinsame Standards für Fehljustierung, Überwachung und Sicherheit vorzuschlagen.
Wie Amodei betonte Altman, dass Pacing nicht bedeutet, aufzuhören. Der Fortschritt sollte lediglich „langsamer sein, als er es sonst sein könnte.“
Musk nickt, Trump trifft es
Der Mitbegründer und Vorsitzende von Google DeepMind, Demis Hassabis, antwortete freundlich auf Amodeis Essay. „Die Details müssen ausgearbeitet werden, aber die Richtung ist richtig, um diesen kritischen Moment zu meistern“, sagte Hassabis.
Elon Musk stimmte direkter zu. „Dario hat Recht“, postete Musk und teilte Amodeis Essay.
Trump verfolgte einen anderen Ansatz. Sein Geschwafel am Montagmorgen auf Truth Social war eine wirre Mischung aus politischen Argumenten, persönlichen Angriffen und großbuchstabenartigem Geschrei. Er wies die Idee von Schutzmaßnahmen zurück und bestand darauf, dass der „STÄRKE UND KLUGHEIT (Hoher IQ!) PRÄSIDENT“ die einzige Kontrolle für KI benötigt. Er verspottete Amodei als jemanden, der „jetzt so tut, als wäre er ein perfekter kleiner Engel“ und warnte vor einer „KRANKEN Verschwörung gegen KI und Rechenzentren.“
Vances Skepsis
US-Vizepräsident JD Vance wandte sich gegen die Idee, dass Unternehmen zu der Regierung kommen, um um Vorschriften zu betteln. Er nannte es „ein bisschen seltsam“ und sagte, es „fühlt sich ein bisschen wie ein Trojanisches Pferd an.“
Er wies auch auf die Darstellung des Wettbewerbs mit China durch den Präsidenten hin. „Wir wissen, dass China an diesem langfristigen KI-Wettlauf gegen die Vereinigten Staaten beteiligt ist“, sagte Vance.
Johnson Möchte ein Treffen
Der Mehrheitsführer des Repräsentantenhauses Mike Johnson sagte in einem am Sonntag mit Jake Tapper auf CNN geführten Interview, dass er möchte, dass frontier AI-Unternehmen sich mit dem Kongress treffen. „Sie müssen zusammenkommen und sich mit uns zusammensetzen, um herauszufinden, welches Gleichgewicht richtig ist“, sagte Johnson.
Er schloss eine Moratorium ab. „Wir können kein Moratorium dafür verhängen, weil China uns überholt“, sagte er. Er betonte jedoch auch die nationale Sicherheit und die Sicherheit der Modelle. „Es ist nationale Sicherheit, ausgeglichen mit der unmittelbaren Sicherheit, um sicherzustellen, dass die Modelle sicher sind“, sagte er.
Es ist unklar, ob und wann dieses Treffen stattfinden wird. Johnson sagte, er würde es „morgen“ tun.
Sanders Stimmt Noonan zu
Senator Bernie Sanders verbündete sich mit einer überraschenden Verbündeten: Peggy Noonan, der Kolumnistin der Wall Street Journal und ehemaligen Redenschreiberin von Ronald Reagan. Sanders sagte, er stimme Noonans Artikel mit dem Titel „KI für das Wohl der Menschheit anhalten“ zu.
| Sprecher | Position |
|---|---|
| Dario Amodei | Veröffentlichte einen Essay, in dem er eine Verlangsamung fordert |
| Sam Altman | Stimmt Amodei zu, unterstützt unabhängige Gutachter |
| Donald Trump | Lehnt eine Verlangsamung ab, verspottet Amodei |
| JD Vance | Bezeichnet Unternehmensforderungen nach Regulierung als „eine Art Troja-Pferd“ |
| Mike Johnson | Möchte ein Treffen, lehnt Moratorium ab |
| Bernie Sanders | Stimmt Nooans Aufruf zu einer Pause zu |
Zwischen den Zeilen lesen ()
Die Kluft zwischen Trump und dem Rest des Feldes ist enorm. Alle anderen Redner behandelten die Thematik als ein ernstes technisches Problem, das Koordination erfordert. Trump behandelte sie als politisches Werkzeug. ()
Sein Beitrag ist der unterhaltsamste Teil einer ansonsten trockenen Debatte. Er ist aber auch ausschweifend und abweisend. Trump besteht darauf, dass der Präsident die einzige Kontrolle für KI benötigt, während er gleichzeitig vor einer Verschwörung gegen Datenzentren und China warnt. Er droht „Verschwörungstheoretikern, Verrätern und Enthüllungs-Leuten“, ohne zu erklären, was diese Kategorien im Kontext der KI-Politik bedeuten. ()
Der Vergleich zwischen Trump und dem Rest des Feldes zeigt, wie tief das politische System noch mit der Technologie ringt. CEOs und Politiker sprechen gleichermaßen über Koordination und Standards, aber der Präsident bietet einen starken Anführer als einzige Lösung an. ()
Was kommt als Nächstes ()
Amodeis Essay löste eine Kettenreaktion aus. Altman verpflichtete sich Evaluatoren, Musk stimmte zu, und Trump tobte. Vance und Sanders stellten Fragen nach den Motiven hinter dem Vorstoß zur Regulierung. Johnson möchte ein Treffen. ()
Ob dies zu tatsächlichen Maßnahmen führt, ist ungewiss. Amodeis einseitiges Bekenntnis ist ein Anfang, aber die Koordination, die er wünscht, erfordert, dass alle anderen ihm folgen. ()
Die Debatte wird wahrscheinlich weitergehen. Die Diskussion über KI-Sicherheit bleibt ungelöst. ()
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.