Zwei der weltweit führenden KI-Unternehmen erschienen am Mittwoch vor dem Sicherheitsrat der Vereinten Nationen, um zu warnen, dass künstliche Intelligenz zu einer Gefahr für die gesamte Menschheit werden könnte – und dass die Gefahr wächst, wenn die Macht über die Technologie sich in einem Unternehmen oder Land konzentriert.
Dario Amodei, CEO von Anthropic, sagte dem Rat, dass schlecht gemanagte KI-Entwicklung die Menschheit selbst gefährden könnte. Sam Altman, CEO von OpenAI, ging noch weiter und sagte, die Welt könnte die Kontrolle über ihre eigene Zukunft vollständig an Maschinen verlieren.
„Wir könnten die Kontrolle über die Zukunft an KI verlieren“, sagte Altman.
Die Warnung von Amodei
Amodei eröffnete die Sitzung mit einer unmissverständlichen Einschätzung der Risiken. Er sagte, wenn KI schlecht gemanagt wird, könnten die Konsequenzen über die Grenzen eines einzelnen Unternehmens oder einer einzelnen Nation hinausgehen.
„Wenn sie schlecht gemanagt wird, glaube ich sogar, dass KI eine Gefahr für die gesamte Menschheit darstellen könnte“, sagte Amodei.
Seine Bemerkungen prägten den Ton für den Rest der Sitzung. Die CEOs zeugten vor dem Sicherheitsrat. Ihr Erscheinen deutet darauf hin, dass KI von einer technischen Sorge zu einer aufgestiegen ist, die die höchsten Ebenen der globalen Governance erreicht.
Altmans Warnung
Altmans Warnung war expliziter. Er stellte die Frage als eine Frage der Kontrolle dar – der Art der Kontrolle, für deren Erhalt der Sicherheitsrat über Grenzen hinweg existiert.
Er wiederholte Altmans Warnung nicht einfach. Er ging noch weiter und sprach davon, die Kontrolle über die Zukunft vollständig an Maschinen zu verlieren. Diese Formulierung signalisiert eine Verschiebung in der Art und Weise, wie die Unternehmen das Problem darstellen.
Das gemeinsame Erscheinen der CEOs signalisiert eine Verschiebung. KI-Unternehmen betrachten die Technologie nicht mehr als eine rein kommerzielle Angelegenheit. Sie argumentieren nun, dass die Welt internationale Regeln benötigt, um die Entwicklung von KI zu regeln – und dass diese Regeln für alle gelten müssen, nicht nur für die Unternehmen, die die Systeme aufbauen.
Globale Schutzmaßnahmen und Machtkonzentration
Beide CEOs forderten globale Schutzmaßnahmen, um zu verhindern, dass KI zu mächtig wird, um sie zu kontrollieren. Sie drängten außerdem darauf, sicherzustellen, dass die Macht der KI nicht in einem einzigen Unternehmen oder Land konzentriert wird.
Amodeis Hinweis auf die schlechte Handhabung von KI wies direkt auf das Risiko hin. Altmans Hinweis auf den Verlust der Kontrolle über die Zukunft wies direkt auf den Einsatz hin.
| CEO | Unternehmen | Warnung |
|---|---|---|
| Dario Amodei | Anthropic | Risiko für die gesamte Menschheit |
| Sam Altman | OpenAI | Verlust der Kontrolle über die Zukunft |
Die CEOs fordern ein Level Playing Field – eines, auf dem kein einzelnes Unternehmen oder Land die Richtung der KI-Entwicklung diktieren kann. Das ist eine direkte Herausforderung an die aktuelle Konzentration von Macht in der Branche.
Der Vortagswarnung (1)
Das Zeugnis der CEOs erfolgte einen Tag, nachdem der Generalsekretär der Vereinten Nationen, António Guterres, seine eigene Warnung ausgesprochen hatte. Er sprach von „Töterrobotern“ und den Gefahren, die von ihnen ausgehen.
Experten und europäische Führer haben gesagt, dass Töterroboter bereits Realität sind oder ihnen gefährlich nahe sind. Die Kombination aus Guterres‘ Warnung und dem Zeugnis der CEOs hat dieses Thema nun scharf in den Fokus der höchsten Ebenen der globalen Governance gebracht.
Guterres‘ Warnung vor Töterrobotern fügte der Diskussion eine weitere Ebene hinzu. Sie verband die breitere KI-Debatte mit einer bestimmten militärischen Anwendung, die die Aufmerksamkeit von Experten und europäischen Führern gleichermaßen auf sich gezogen hat.
Der Sicherheitsrat hört nun von KI-Führungskräften. Die Tatsache, dass der Rat nun von KI-Führungskräften hört, signalisiert, wie schnell sich diese Technologie zu einem Kernelement der nationalen Sicherheit entwickelt hat.
Was als Nächstes geschieht (6)
Das Erscheinen der CEOs ebnet den Weg für weitere Maßnahmen. Der Sicherheitsrat muss entscheiden, ob er das Thema KI-Kontrollen angehen will.
Die CEOs haben ihre Argumente vorgebracht. Nun müssen die Diplomaten antworten.
Der Einsatz ist hoch. Die CEOs haben gesagt, was passiert, wenn KI schlecht gemanagt wird.
Wo die Zeitung steht (10)
Die Zeitung befürwortet eine enge Offenlegungspflicht bei Sicherheitslücken und ist gegen jedes Regime, das den KI-Markt an die etablierten Unternehmen abgibt. Die Warnungen der CEOs vor der Konzentration der Macht in einem Unternehmen oder Land sind real, aber die Lösung ist kein bundesstaatliches Lizenzierungssystem, das die heutigen Führungskräfte in Position hält und alle ausgrenzt, die sie herausfordern würden. Die Gefahr ist die Dominanz großer Technologieunternehmen, nicht die Technologie selbst. Wenn die größten Unternehmen um Regulierung bitten, fragt die Zeitung, wen diese Regeln ausschließen würden: Lizenzierungsregime und Compliance-Kosten können sich nur große Unternehmen leisten – das ist ein Schutzwall, kein Schutzvorkehr.
Die Zeitung plädiert für enge Regeln gegen direkte Schädigung, wie beispielsweise die Verpflichtung von Unternehmen, Sicherheitslücken aufzudecken, die sie verschwiegen haben. Sie möchte den Markt für Neulinge offen halten, anstatt ihn an die Unternehmen zu übergeben, die ihn bereits innehalten. Leser sollten Aussagen im Auge behalten, die klingen, als ob sie die Öffentlichkeit schützen, aber in Wirklichkeit die etablierten Unternehmen schützen – Compliance-Kosten, die nur Großunternehmen finanzieren können, Lizenzierungsregelungen, die Start-ups fernhalten, und Vorschriften, die KI als Problem der Regulierung behandeln, anstatt als Werkzeug, dessen Fehler aufgedeckt werden müssen.
Sehen Sie eine Bilderreihe mit 20 Bildern bei ABC13 Houston.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.