Eine Koalition von 20 Nationen, angeführt von Norwegen und Finnland, hat die Vereinten Nationen aufgefordert, eine internationale Einrichtung zur Überwachung der Entwicklung und Nutzung von fortschrittlichen KI-Modellen zu schaffen. Die Erklärung, die im Vorfeld der dieswöchigen UN-Generalversammlung in New York City angenommen wurde, fordert die UN auf, die Schaffung „einer internationalen Einrichtung zu prüfen, die Standards festlegen, Verifizierungen ermöglichen und Staaten zusammenrufen kann, wenn Schwellenwerte der Leistungsfähigkeit überschritten werden.“
Der Aufruf kommt, während mehrere große Technologieunternehmen Warnungen über KI ausgesprochen haben. Die Erklärung spiegelt auch einen Vorschlag wider, den der CEO von Anthropic, Dario Amodei, kürzlich vorgebracht hat.
Die Forderung der Koalition
Die Erklärung wurde von 20 Nationen unterzeichnet, darunter Deutschland und Kanada, sowie von der Europäischen Kommission. Sie trägt den Titel „Ein Aufruf zur Kontrolle fortschrittlicher KI-Modelle“.
Das Kernempfehlung des Dokuments ist, dass die UN die Schaffung einer internationalen Einrichtung prüfen sollte, um Standards festzulegen, Verifizierungen zu ermöglichen und Staaten zusammenzuführen, wenn Schwellenwerte der KI-Leistungsfähigkeit überschritten werden. Die Empfehlung wird als Reaktion auf die wachsende Macht von KI-Systemen präsentiert.
Die Erklärung enthält auch eine separate Empfehlung, die Regierungen und regionale Organisationen auffordert, „gemeinsame Standards“ zu entwickeln und zu koordinieren, um sicherzustellen, dass Länder in allen Regionen Zugang zu wissenschaftlicher Kapazität, Fachwissen und vertrauenswürdiger Bewertung haben. Diese Empfehlung scheint auf das Problem der technologischen Ungleichheit zwischen den Nationen abzuzielen.
Der Aufruf gewann an Schwung, als die UN-Generalversammlung in New York City eröffnet wurde.
Die Ähnlichkeit mit Amodeis Vorschlag
Die Empfehlung der Erklärung weist einige Ähnlichkeiten mit einer globalen Struktur auf, die der CEO von Anthropic, Dario Amodei, kürzlich vorgebracht hat. Der Aufruf der Koalition an eine internationale Einrichtung, die Standards festlegt und Fähigkeiten verifiziert, stimmt mit der Richtung überein, in die Amodei weist.
Die Vergleichbarkeit ist bemerkenswert, da sie den Vorschlag eines einzelnen Unternehmens in den Mittelpunkt eines multilateralen diplomatischen Ansturms stellt. Die Koalition befürwortet Amodeis Arbeit nicht einfach nur; sie zitiert sie als Ausgangspunkt für ihre eigene Forderung.
„eine internationale Einrichtung, die Standards festlegen, Verifizierungen ermöglichen und Staaten zusammenrufen kann, wenn Schwellenwerte der Leistungsfähigkeit überschritten werden“
Was die Erklärung fordert (
Die zentrale Empfehlung der Erklärung lautet, dass die Vereinten Nationen die Schaffung einer internationalen Einrichtung prüfen sollten. Die Einrichtung hätte drei Kernfunktionen: (
- Standards für die Entwicklung und Nutzung von wegweisenden KI-Modellen festlegen (
- Die Überprüfung dieser Standards ermöglichen (
- Staaten einberufen, wenn KI-Fähigkeitsschwellen überschritten werden (
Die Formulierung der Schwellenwerte ist von Bedeutung. Sie deutet darauf hin, dass die Koalition eine Einrichtung sucht, die nicht nur die KI-Entwicklung beobachtet, sondern auch Maßnahmen ergreift, wenn Systeme bestimmte Leistungsniveaus erreichen. (
Die Erklärung fordert die Regierungen und regionalen Organisationen außerdem auf, gemeinsame Standards zu entwickeln und zu koordinieren. Diese Empfehlung zielt darauf ab, sicherzustellen, dass wissenschaftliche Kapazitäten, Fachwissen und vertrauenswürdige Bewertung in allen Regionen verfügbar sind. (
Das Framing der Koalition deutet auf den Wunsch hin, eine Zukunft zu vermeiden, in der nur wenige wohlhabende Nationen Zugang zu den fortschrittlichsten KI-Systemen haben. Die Autoren der Erklärung wollen sicherstellen, dass die Vorteile der Technologie gleichmäßig verteilt werden. (
Der Zeitpunkt des Vorstoßes (
Die Erklärung der Koalition erfolgt zur Eröffnung der Generalversammlung der Vereinten Nationen in New York City. Die Generalversammlung ist das jährliche Treffen der Staats- und Regierungschefs. (
Der Zeitpunkt ist bewusst gewählt. Indem die Koalition die Erklärung zu Beginn der Versammlung vorlegt, setzt sie das Thema der KI-Überwachung auf die globale diplomatische Agenda. Der Vorstoß folgt auch einer Welle von Warnungen von Technologieführern. (
Was die Koalition nicht fordert (
Die Erklärung der Koalition fordert keinen einzelnen globalen Regulierer mit Durchsetzungsbefugnis. Sie fordert die Vereinten Nationen auf, die Schaffung einer Institution zu prüfen, die Standards festlegt, die Einhaltung überprüft und Staaten einberuft, wenn Schwellenwerte überschritten werden.
Der Unterschied ist von Bedeutung. Ein Regulierer mit Durchsetzungsbefugnis würde einen rechtlichen Rahmen erfordern, den die Vereinten Nationen derzeit nicht haben. Der Vorschlag der Koalition ist bescheidener: Sie fordert eine Institution, die Staaten einberuft und zusammenbringt, um Standards festzulegen.
Die Überprüfungsfunktion ist ebenfalls wichtig. Sie deutet darauf hin, dass die Koalition nicht nur an der Festlegung von Standards interessiert ist, sondern auch daran, zu prüfen, ob diese eingehalten werden.
Warum die Koalition wichtig ist
Die Zusammensetzung der Koalition ist bedeutsam. Norwegen und Finnland führten die Erklärung an, und die 20 Unterzeichner umfassen Deutschland und Kanada sowie die Europäische Kommission.
Der Ansatz der Koalition ist multilateral. Sie fordert die Vereinten Nationen auf, eine Institution zu prüfen, anstatt eine einseitig zu schaffen. Das bedeutet, dass die Koalition innerhalb des bestehenden Rahmens der internationalen Diplomatie arbeitet.
Die Koalition ist auch pragmatisch. Sie ruft weder ein vollständiges Verbot von KI noch ein Moratorium aus. Sie fordert Standards, Überprüfung und die Befugnis, Staaten zusammenzurufen.
Der Vergleich mit Amodeis Vorschlag ist ebenfalls erwähnenswert. Die Koalition befürwortet nicht einfach die Arbeit eines privaten Unternehmens; sie zitiert sie als Ausgangspunkt für ihre eigene Forderung. Das deutet darauf hin, dass der Vorschlag in diplomatischen Kreisen an Bedeutung gewonnen hat.
Die nächsten Schritte der Koalition
Die Erklärung der Koalition ist ein Aufruf zum Handeln. Es wird erwartet, dass die Vereinten Nationen den Vorschlag prüfen werden, und die Koalition wird wahrscheinlich darauf drängen, konkrete Schritte zu unternehmen.
Die Mitgliedschaft der Koalition verleiht ihr Einfluss. Die 20 Unterzeichner repräsentieren eine Reihe von Regionen und Interessen.
Die Autoren der Erklärung werden ebenfalls beobachten, wie die Vereinten Nationen reagieren. Wenn die Vereinten Nationen mit vorbereitenden Arbeiten vorankommen, könnte die Koalition zu einer treibenden Kraft bei der Gestaltung des Aufbaus der Institution werden.
Die Forderung der Koalition nach gemeinsamen Standards ist ebenfalls von Bedeutung. Sie deutet darauf hin, dass die Koalition an einem gemeinsamen globalen Rahmen interessiert ist, anstatt an einem Flickenteppich nationaler Vorschriften.
Die Erklärung der Koalition ist ein Aufruf zum Handeln. Es wird erwartet, dass die U.N. den Vorschlag prüfen und die Koalition wahrscheinlich auf konkrete Schritte drängen wird. Die Mitgliedschaft der Koalition verleiht ihr Einfluss, und ihr pragmatischer Ansatz macht es schwieriger, sie zu ignorieren.
Wo die Zeitung steht
Die Zeitung befürwortet eine enge, gezielte Regulierung gegen direkte Schäden durch KI-Unternehmen, wie z. B. die Verpflichtung zur Offenlegung von Sicherheitslücken, die sie verborgen haben, und ist gegen eine umfassende internationale Aufsicht und Lizenzierung, die die heutigen Führungskräfte einfrieren und diejenigen ausschließen würde, die sie herausgefordert hätten. Die Zeitung lehnt Regeln ab, die die Eintrittskosten für kleine Unternehmen erhöhen, und das Streben der Koalition nach einer U.N.-Institution mit handlungsähnlichen Befugnissen birgt die Gefahr, genau das zu tun.
Die Koalition zitiert den Vorschlag eines einzelnen Unternehmens als Ausgangspunkt für einen multilateralen diplomatischen Vorstoß. Eine U.N.-Institution mit Standardschreib- und Verifizierungsbefugnissen könnte leicht zu einem Graben werden, nicht zu einem Schutz – einem Lizenzregime und einer Einhaltungskosten, die sich nur die größten Unternehmen leisten können, und das die heutigen Führungskräfte einfrieren würde. Die Position der Zeitung ist, dass die Regulierung direkt auf Schäden abzielen sollte, anstatt ein System aufzubauen, das den Markt den etablierten Unternehmen übergeben würde.
Die nächsten Schritte der Koalition werden zeigen, ob sie auf eine echte Institution oder ein Almosen aus ist. Die Zeitung wird beobachten, wie die U.N. reagiert, und ob die pragmatische Ausrichtung der Koalition Bestand hat oder zu einem System verhärtet, das diejenigen ausschließt, die die heutigen Führungskräfte herausgefordert hätten.
Siehe eine Reihe von 14 Bildern bei der Washington Examiner.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.