Jacob Coxon trat letzte Woche aus Anthropic zurück und erzählt nun dem Publikum genau, warum er ging. In einem Interview mit ABC News‘ „This Week“-Moderator George Stephanopoulos lobte Coxon, ein ehemaliger Sicherheitsforscher bei Anthropic und OpenAI, die Aufforderung des Anthropic-Chefs Dario Amodeis zu einem langsameren Tempo der AI-Entwicklung.
„Ich finde es großartig. Es ist sehr aufregend,“ sagte Coxon. „Ich denke, das ist ein substantieller Schritt in Richtung dessen, worüber ich gesprochen habe – dass es eine Art Verlangsamung zwischen den verschiedenen AI-Buildern gibt.“
Coxons Resignationsbeitrag
Sein Abgang war nicht leise. Er postete letzte Woche auf X, dass weder Anthropic noch OpenAI „verantwortungsbewusst agierten. Sie rennen geradewegs auf eine selbstverbessernde Superintelligenz zu und wetten mit unserem Leben.“
Der Beitrag adressierte auch die Angst innerhalb der Branche. „Die Menschen, die AI bauen, glauben aufrichtig, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte,“ schrieb Coxon.
Seine Abdankung löste einen starken Rückhall online aus. Coxon sagte Stephanopoulos, die Ausmaße der Beteiligung überraschten ihn.
„Ich hatte gar nicht groß gehofft auf eine große Reaktion,“ sagte er. „Es war außerordentlich überraschend zu sehen die Ausmaße der Beteiligung … und ich denke, es war wirklich bezeichnend für den Moment, dass er reif für diese Art von Diskussion ist.“
Amodeis Brief
Amodeis Aufforderung zu einem langsameren Tempo kam in einem Brief mit dem Titel „Wir müssen den Horizont eindämmen“. Er schrieb, dass er glaube, dass Menschheit es sich schuldig sei zu versuchen.
„Ich glaube, wir schulden es der Menschheit zu versuchen,“ schrieb Amodei.
Coxon sagte, dass Amodeis Position mit seinen eigenen Sorgen übereinstimme.
„Ich finde es großartig. Es ist sehr aufregend,“ wiederholte Coxon. „Ich denke, das ist ein substantieller Schritt in Richtung dessen, worüber ich gesprochen habe – dass es eine Art Verlangsamung zwischen den verschiedenen AI-Buildern gibt.“
Was Coxon hörte im Innern von Anthropic
Coxon sprach darüber, ob es in den Unternehmen, bei denen er arbeitete, einen wachsenden Eindruck gäbe, dass KI-Technologie zunehmend schwerer zu kontrollieren wird. Seine Antwort war direkt.
„Es gibt nicht genug Zeit, um sich ständig Gedanken über die Risiken zu machen, aber sicherlich habe ich in den letzten Monaten bemerkt, dass es häufiger und häufiger kommt,“ sagte Coxon. „Also egal, wo du dich innerhalb des Unternehmens aufhältst, vermutlich zwei- oder dreimal pro Woche, nehme ich an, gibt es irgendwelche Gespräche um die großen Risiken der Technologie.“
Die Gespräche finden regelmäßig statt, auch wenn die Arbeit am Bau von KI-Systemen schnell voranschreitet.
Der Zeitplan des Ankündigens
| Datum | Ereignis |
|---|---|
| Letzte Woche | Coxon kündigt von Anthropic ab |
| Letzte Woche | Coxon teilt seine Kündigung auf X mit |
| Samstag | Amodei veröffentlicht das Schreiben „We Must Pace the Frontier“ |
| Sonntag | Coxon wird von Stephanopoulos interviewt |
Was Coxon Jetzt Wünscht
Sein Bedenken ist klar. Er glaubt, dass die Unternehmen zu schnell vorgehen und möchte, dass sie langsamer werden. Er sieht die Angst unter den Bauten als Beweis für das Problem.
„Die Menschen, die KI bauen, sind ehrlich davon überzeugt, dass sie uns alle bis zum Ende des Jahrzehnts töten könnten,“ schrieb Coxon.
Seine Abreise ist bemerkenswert, da er bei zwei der prominentesten KI-Labors der Welt gearbeitet hat. Sein Entschluss, öffentlich zu sprechen, trägt Gewicht.
Der Gesprächskontext ändert sich
Sein Beitrag breitete sich schneller aus, als er erwartet hatte. Er sagte Stephanopoulos, dass die Beteiligung zeigte, dass der Moment für diese Art Diskussion bereit war.
„Ich denke, es war wirklich ein Zeichen dafür, dass der Moment reif für diesen Art Chat war,“ sagte Coxon.
Die größere Frage ist, ob die Unternehmen zuhören werden. Coxons Botschaft ist einfach: langsamer machen.
Die Warnung lautet, dass die Unternehmen auf einen selbstverbessernden Superintelligenz zulaufen. Coxon glaubt, dass sie mit unserem Leben wetten. Das ist kein hypothetisches Bedenken. Es ist eine Position, die von jemandem vertreten wird, der Jahre innerhalb der Labors verbracht hat.
Die Unterhaltung wandelt sich. Coxons Beitrag zeigt das. Die Reaktion, die er erhielt, zeigt das. Amodeis Brief zeigt das.
Die Frage jetzt ist, ob die Unternehmen auf die Warnungen reagieren, die sie hören. Coxon hat seinen Teil getan. Er trat zurück. Er sprach aus. Er gab der Öffentlichkeit einen Blick auf eine Welt, in der die Menschen, die das Gerät bauen, wirklich fürchten, was es werden könnte.
Was als Nächstes geschieht, ist nicht klar. Aber die Richtung des Wegs ist festgelegt. Die Bauten sprechen über die Gefahren häufiger. Coxon ist nicht mehr im Raum. Aber seine Stimme ist noch laut.
Hier ist, wie die Reihe der Ereignisse ablief:
- Coxon trat letzte Woche von Anthropic zurück.
- Er veröffentlichte seine Rücktrittserklärung auf X letzte Woche.
- Amodei veröffentlichte seinen „Wir müssen den Horizont eindämmen“ Brief am Samstag.
- Coxon sprach mit Stephanopoulos am Sonntag.
Jeder Schritt folgte dem vorherigen in rascher Folge. Der Rücktritt, der Beitrag, der Brief, das Gespräch – sie alle weisen in dieselbe Richtung.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.