David Robinson verfasste früher die Sicherheitsberichte, die jedem wichtigen Modell-Release bei OpenAI beilagen. Nun hat er seine Position verlassen und nutzt The Atlantic, um Alarm zu schlagen.
Robinsons Ausscheiden ist bemerkenswert, weil er zu den Personen gehörte, deren Aufgabe es war, die Risiken der Systeme zu bewerten, die er nun kritisiert. Seine Warnung hat das Gewicht von jemandem, der an den Entscheidungsprozessen des Unternehmens teilgenommen hat, und seine Botschaft ist unmissverständlich: Die Kultur bei OpenAI und in der gesamten KI-Branche sei „gebrochen“.
Robinsons Warnung
Robinson sagt, dass Silicon Valley mit „extremer Zuversicht“ und „ständigen Sprints“ agiere. Unternehmen hätten größere und bessere Modelle mit „unbehindertem Optimismus“ entwickelt, so Robinson, während potenzielle Probleme ignoriert oder unterschätzt würden.
Das Problem, argumentiert er, liege tiefer als ein paar neue Regeln oder Vorschriften. Es sei systemisch. Die Technologiebranche habe schnell gehandelt und Dinge zerstört, und das ohne genügend Demut.
Seine Empfehlung ist dramatisch. Er sagt, KI-Unternehmen müssten Schutzmaßnahmen auf dem Niveau von Atomkraftwerken einführen:
„Angesichts der heutigen Risiken müssen Spitzenlabore wie Atomkraftwerke oder belebte Flughäfen betrieben werden, mit mehreren Redundanzebenen und sorgfältiger, zeitaufwändiger Planung, damit der gelegentliche und unvermeidliche menschliche Fehler keine Tür zu einer Katastrophe öffnet.“
Die Abgangsparade
Robinson ist bei weitem nicht der erste Sicherheitsexperte, der eine große KI-Firma verlässt. Der Trend hat sich zu einer Parade von Rücktritten entwickelt, die jeweils öffentliche Warnungen über die Gefahren der Technologie bringen, an deren Aufbau sie mitgewirkt haben.
Jacob Coxon scheint den Exodus ausgelöst zu haben, als er Anthropic verließ und dann öffentlich sagte, KI „könnte uns alle noch vor Ende des Jahrzehnts vernichten“. Robert O’Callahan, Bilal Chughtai und Josh Engels folgten Coxon aus Google DeepMind. Joe Benton verließ ebenfalls Anthropic. Jeder Abschied brachte eine weitere öffentliche Warnung über die Richtung der KI-Entwicklung.
Ein Muster Öffentlicher Warnungen
Menschen, die einst hinter verschlossenen Türen Sicherheitsberichte verfassten und an internen Sitzungen teilnahmen, treten nun vor und sprechen direkt mit der Öffentlichkeit. Ihre Botschaft ist konsistent: Die Branche sei zu schnell unterwegs, und die Risiken würden ignoriert.
Robinsons Warnung ist Teil dieses selben Themas. Er ist nicht der Erste, der Alarm schlägt, und er wird nicht der Letzte sein. Das Muster ist sichtbar, obwohl es bisher nur wenige Ausgänge umfasst.
Der Fall des Skeptikers
Es ist verständlich, wenn man angesichts der Tatsache, dass plötzlich alle aus dem Schrank kommen, um vor der Gefahr dessen zu warnen, was sie mitgeholfen haben zu bauen, etwas zynisch gestimmt ist. Sie haben diesen Scherbenhaufen ja auch erst angerichtet. Aber das bedeutet nicht, dass wir ihre Warnungen ignorieren sollten.
Wie Demut aussieht
Robinsons Aufruf zu Demut bildet den Kern seines Arguments. Er möchte, dass KI-Unternehmen aufhören, mit ungebremster Optimismus zu arbeiten, und stattdessen sorgfältig planen. Er möchte, dass sie gelegentliche menschliche Fehler als etwas betrachten, das zu einer Katastrophe führen könnte.
Der Vergleich mit Kernkraftwerken und stark frequentierten Flughäfen ist aussagekräftig. Diese Branchen arbeiten mit mehrfachen Redundanzsystemen und sorgfältiger Planung.
Robinson möchte den gleichen Ansatz für KI. Er möchte, dass die Branche die Geschwindigkeit reduziert, sich nach außen orientiert und Systeme aufbaut, die menschlichen Fehlern standhalten können.
Die Risiken sind real
Robinsons Warnung ist nicht abstrakt. Er weist auf die heutigen Risiken hin und sagt, dass Frontier-Labore ihre Arbeitsweise ändern müssen. Der gelegentliche menschliche Fehler sollte keine Tür zu einer Katastrophe öffnen, argumentiert er.
Die Risiken sind nicht hypothetisch. Die Abfolge von Abgängen zeigt, dass Mitarbeiter der Branche sich öffentlich gemeldet haben, um vor ihnen zu warnen. Die Frage ist, ob die Branche zuhört.
Das Ergebnis
Robinsons Rücktritt ist bedeutsam, weil er zu den Personen gehörte, deren Aufgabe es war, die Risiken einzuschätzen. Seine Warnung hat Gewicht gerade deshalb, weil er in einer Position war, zu wissen, worüber er sprach.
Die Branche steht vor einer Wahl. Sie kann weiterhin schnell vorankommen und Dinge kaputt machen, oder sie kann die Geschwindigkeit reduzieren und Systeme aufbauen, die wirklich sicher sind. Robinson hat seine Wahl getroffen. Nun muss der Rest der Branche seine Wahl treffen.
Kasten mit den wichtigsten Fakten
- David Robinson verfasste Sicherheitsberichte für jede größere Veröffentlichung von OpenAI-Modellen
- Er trat von seiner Position bei OpenAI zurück und veröffentlichte einen Leitartikel in The Atlantic
- Jacob Coxon verließ Anthropic und warnte, dass KI bis zum Ende des Jahrzehnts uns alle vernichten könnte
- Robert O’Callahan, Bilal Chughtai und Josh Engels verließen Google DeepMind
- Joe Benton verließ Anthropic
- Robinson fordert, dass KI-Unternehmen wie Kernkraftwerke oder geschäftige Flughäfen betrieben werden
Robinsons Warnung ist ein Aufruf zum Handeln. Die Branche arbeitet mit extremem Selbstvertrauen und ständigen Sprints. Es ist an der Zeit, innezuhalten und sich umzusehen. Die Risiken sind real, und gelegentliche menschliche Fehler sollten keine Tür zu einer Katastrophe öffnen.
Quellenmaterial: „Ein Sicherheitsmitarbeiter von OpenAI ist ausgeschieden und schlägt Alarm“, The Verge.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.