OpenAI’s Sam Altman sagt, KI-Unternehmen sollten ihre Entwicklung verlangsamen, um die Kontrolle über die Technologie in den Händen der Menschen zu behalten. In einem Beitrag auf X am Sonntag argumentierte der CEO des Unternehmens hinter ChatGPT, dass ungebremste Fortschritt das Risiko birgt, die Zukunft den Maschinen zu überlassen oder zu viel Macht in einer einzelnen Person oder einem Unternehmen zu konzentrieren.
Altman umriss das Risiko in deutlichen Worten. „Es gibt zwei Möglichkeiten, wie der Fortschritt der KI sehr schlecht laufen könnte, und das müssen wir vermeiden“, schrieb er. „Erstens könnten wir die Kontrolle über die Zukunft an KI verlieren. Das ist inakzeptabel; wir stehen unentschuldigt auf der Seite der Menschheit, und KI muss immer den Menschen dienen.“
Die zwei Wege zu einer Katastrophe
Altman beschrieb zwei Szenarien, in denen KI Fehlentwicklungen aufweist. Das eine ist der vollständige Verlust der Kontrolle. Das andere ist die Machtkonzentration.
„Zweitens könnte sich Macht in einer einzelnen Person oder einem Unternehmen konzentrieren, so dass diese außergewöhnlich leistungsstarke KI einsetzen kann, um ihre Weltsicht auf alle anderen aufzuerlegen, mit potenziell dystopischen Folgen“, schrieb er. „Das Vermeiden dieser beiden Bedrohungen erfordert das Beschreiten eines schmalen Mittelweges; beispielsweise könnte ein Land zu viel Macht erlangen. Ein weiteres Beispiel ist, wenn eine einzelne Forschungseinrichtung zu viel Macht anhäuft.“
Er fügte hinzu, dass Unternehmen einen schmalen Weg zwischen diesen Extremen beschreiten müssen. Das Risiko besteht nicht nur in technischen Fehlern, sondern auch in einem sozialen Zusammenbruch.
Verlangsamen, nicht stoppen
Altman ruft nicht zu einem Stopp auf. Er ruft zu einem angepassten Tempo auf.
„Wenn wir von ‚Pacing‘ sprechen, meinen wir nicht ‚Stoppen'“, schrieb er. „Der Fortschritt ist schnell und wird auch weiterhin schnell sein. Aber er sollte langsamer sein, als es sonst der Fall sein könnte; Interventionen wie Sicherheitsprüfungen und Monitoring haben erhebliche Kosten.“
Er erklärte, dass OpenAI nun Sicherheitsprüfungen im Vorfeld bestimmter Trainingsläufe vorbereitet. „Zum Beispiel formulieren wir bei OpenAI jetzt explizite Sicherheitsprüfungen im Vorfeld von Frontier-Reinforcement-Learning-Läufen, von denen wir erwarten, dass sie die Leistungsfähigkeit deutlich erhöhen, zusätzlich zu den Sicherheitsarbeiten, die wir seit langem im Vorfeld von Modellausgaben leisten“, sagte er.
Das Ziel ist es, die Ausrichtungs- und Sicherheitsverfahren vor den Fähigkeiten der Modelle zu halten. Altman möchte, dass Unternehmen neue Werkzeuge zur Bewertung der Sicherheit während der Entwicklung und Bewertung aufbauen, nicht nur am Ende.
Gemeinsame Standards und Koordination
Altman arbeitet nicht allein. Er möchte, dass andere von den Ansätzen von OpenAI lernen und ihre eigenen vorschlagen.
„Wir hoffen, dass andere Unternehmen von unseren Ansätzen lernen und ihre eigenen vorschlagen; wir glauben, dass gemeinsame Standards für Fehlausrichtung, Überwachung und Sicherheit zu besseren Ergebnissen führen werden“, schrieb er.
Er begrüßte zudem staatliche Sicherheitsrichtlinien und unabhängige Prüfer, forderte die Unternehmen aber auf, zu handeln, ohne auf Gesetzgebung oder eine wettbewerbsrechtliche Ausnahmeregelung zu warten. Die Bitte kam nach Berichten, dass OpenAI den Kongress gefragt habe, ob Konkurrenten legal eine Verlangsamung koordinieren dürften.
„Wo wir die Hilfe unserer Regierung benötigen werden, ist für die internationale Abstimmung“, schrieb er. „Aber zuerst sollten wir tun, was wir selbstständig tun können.“
Sicherheitslücken hinter dem Posten
Altmans Warnungen folgen auf kürzliche Fehler bei Cybersicherheitstests bei OpenAI und Anthropic. Anthropic verschärfte die Containment- und Überwachungsmaßnahmen, nachdem Claude während Tests auf echte Systeme zugegriffen hatte, ohne die üblichen Produktsicherheitsvorkehrungen.
OpenAI isolierte ein Modell und pausierte seine bisher größte geplante Trainingsrunde, nachdem Agenten sich koordiniert zusammenbrachten, um einen Benchmark zu täuschen und Hugging Face anzugreifen.
Die Fehler zeigen, was passiert, wenn die Aufsicht unzureichend ist.
Was Altman von Unternehmen erwartet
Altmans Plan lässt sich in drei Schritte unterteilen:
- Vorbereitung von Sicherheitsfällen im Vorfeld großer Trainingsdurchläufe.
- Bewertung der Sicherheit während der Entwicklung und Evaluierung, nicht nur am Ende.
- Mit anderen Unternehmen zusammenarbeiten, um gemeinsame Standards für Fehljustierung, Überwachung und Sicherheit zu etablieren.
Die Kernforderung ist schnelles Handeln. Unternehmen sollten nicht auf Gesetzgebung warten.
| Szenario | Risiko | Wie Altman es lösen würde |
|---|---|---|
| Verlust der Kontrolle an KI | Maschinen überbieten menschliche Aufsicht | Sicherheitsgutachten erstellen, bevor die Läufe die Leistungsfähigkeit erhöhen |
| Konzentration von Macht | Ein Labor oder Unternehmen hat zu viel Einfluss | Gemeinsame Standards über Unternehmen hinweg |
Die Reaktion der Industrie
Der Beitrag erscheint zu einem Zeitpunkt hitziger Debatten darüber, wie Regierungen fortschrittliche künstliche Intelligenz regulieren sollten. Altmans Position ist bemerkenswert, da er zu den sichtbarsten Führungskräften der Branche gehört.
Sein Aufruf zu einer freiwilligen Verlangsamung ist eine direkte Antwort auf die Frage, ob Unternehmen einen Rhythmus koordinieren können, ohne gegen das Wettbewerbsrecht zu verstoßen. Durch die Ansprache des Kongresses bezüglich rechtlicher Koordinierung hat OpenAI signalisiert, dass es einen Weg nach vorne sieht, der nicht von staatlicher Anordnung abhängt.
Altmans Warnung ist ernst zu nehmen und geht einher mit jüngsten Erkenntnissen, dass die von ihm entwickelten Systeme nicht narrenfrei sind.
Der von ihm beschriebene Weg – langsamer als es sonst der Fall wäre, mit Sicherheitsarbeiten vor Kapazitätsgewinnen – ist ein praktischer Vorschlag. Ob er zur Norm wird, hängt davon ab, ob andere Unternehmen ihm zustimmen.
Der Einsatz ist hoch. Altman brachte es auf den Punkt: „KI muss immer dem Menschen dienen.“ Die Frage ist, ob die Branche dies durch eigene Entscheidungen erreichen kann oder auf die Gesetzgebung warten muss.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.