Donald Trump hat eine Vereinbarung mit zwei Dutzend Technologieunternehmen geschlossen, um diese selbst zur Einhaltung von Sicherheitsstandards im Bereich KI zu verpflichten, ein Plan, der auf freiwilligen Vereinbarungen anstatt auf neuen Gesetzen basiert. Die Unternehmen unterzeichneten einen Brief, in dem sie sich zu unabhängigen Sicherheitsprüfungen, regelmäßigen Treffen zum Austausch von Best Practices und der Zusicherung verpflichten, gemeinsam an KI-Standards zu arbeiten. Die am Dienstag angekündigte Vereinbarung hat keine Rechtskraft – Trump bezeichnete sie jedoch trotzdem als „moralisch bindend“.
Die Vereinbarung umfasst ein breites Spektrum von Risiken, von der Cybersicherheit über die Biosecurité bis hin zu chemischen Bedrohungen. Sie behandelt auch unbeabsichtigte Modellaktionen, die Art von Verhalten, die entstehen kann, wenn ein KI-System außerhalb seiner vorgesehenen Grenzen agiert. Die Unternehmen haben zugestimmt, zu testen, ob ihre internen Kontrollen, Überwachungs- und Erkennungssysteme tatsächlich funktionieren.
Wer hat die Vereinbarung unterzeichnet
Zu den Unterzeichnern gehören einige der einflussreichsten Persönlichkeiten der Technologiebranche:
- Dario Amodei, von Anthropic
- Sam Altman, von OpenAI
- Elon Musk, über SpaceXAI
- Jensen Huang, von Nvidia
- Mark Zuckerberg, von Meta
- Sundar Pichai, von Alphabet und Google
Diese sechs Führungskräfte repräsentieren die Unternehmen, die die KI-Industrie vorantreiben. Ihre Unterschriften haben Gewicht, aber die Frage bleibt: Gewicht von was?
Was die Vereinbarung tatsächlich aussagt
Das Schreiben verpflichtet die Unternehmen zu einigen Schlüsselschritten. Sie werden unabhängige Sicherheitsprüfungen durchführen, die testen, ob interne Kontrollen tatsächlich funktionieren. Sie werden regelmäßige Treffen abhalten, um Best Practices auszutauschen und gemeinsame KI-Sicherheitsstandards und -Benchmarks festzulegen. Und sie werden prüfen, ob die Empfehlungen später kodifiziert werden sollen.
Das Abkommen besagt, dass es „Sinn machen könnte, die Empfehlungen zu kodifizieren“. Das ist ein Zögern, keine Zusage. Das Abkommen ist freiwillig, und die Unternehmen können jederzeit aussteigen.
Einige Unternehmen haben bereits mit dem Center for AI Standards and Innovation zusammengearbeitet, das freiwillige staatliche Sicherheitsprüfungen vor der Bereitstellung durchführt. Viele Unternehmen haben sich freiwillig hochgeheimen staatlichen Sicherheitsprüfungen unterzogen. Das Abkommen formalisiert lediglich, was einige bereits taten.
Die Grenzen der Selbstregulierung
Das Problem ist, dass das Abkommen keine Zähne hat. Es gibt keinen Durchsetzungsmechanismus. Es gibt keine Strafen. Es gibt keine rechtliche Verpflichtung zur Einhaltung. Die Unternehmen haben zugestimmt, diese Dinge zu tun, aber es gibt nichts, das sie davon abhalten kann, dies nicht zu tun.
Trump nannte das Abkommen „auf eine Art und Weise fast wie eine Verfassung.“ Er sagte Reportern im Weißen Haus: „Die größten Leute der Welt haben das unterzeichnet, und ich habe es als Präsident unterzeichnet, und es ist wirklich eine Form des Schutzes.“
Das ist eine seltsame Art, ein freiwilliges Abkommen zu beschreiben. Eine Verfassung ist das höchste Gesetz eines Landes. Sie hat Rechtskraft. Sie kann durchgesetzt werden. Das Abkommen, das Trump beschrieb, ist das nicht.
Einige KI-Unternehmen sind sich unsicher, was sich als Drittanbieter-Tester qualifiziert. Der Auswahlprozess scheint politisiert zu sein, so Bloomberg. Es ist unklar, wen Trump auswählen möchte, um Spitzenmodelle zu prüfen.
Die Unternehmen sind bereits verpflichtet
Nicht alle Unterzeichner sind neu in diesem Geschäft. Einige Unternehmen hatten bereits vor der Ankündigung dieses Abkommens Zusage zu externen Prüfungen gemacht. Anthropic, Google und OpenAI gehörten zu denjenigen, die zuvor öffentliche Zusagen abgegeben hatten.
Das wirft eine Frage auf: Was fügt dieses Abkommen also tatsächlich hinzu? Die Unternehmen, die bereits ihre eigenen Sicherheitsprüfungen durchführen, unterzeichnen nun ein Schreiben, das verspricht, damit fortzufahren, was sie bereits getan haben. Für sie ist das Abkommen größtenteils symbolisch.
Für Unternehmen, die sich noch nicht für externe Prüfungen entschieden haben, schafft das eine Norm. Wenn genügend Firmen sich auf dieselben Standards einigen, bewegt sich die Branche in eine bestimmte Richtung. Ob diese Bewegung schneller oder effektiver ist als eine Regulierung, ist eine offene Frage.
Ein Vergleich der Zusagen
| Unternehmen | Externe Prüfungen | Neue Zusage |
|---|---|---|
| Anthropic | Bereits zugesagt | Unterzeichnetes Schreiben |
| OpenAI | Bereits zugesagt | Unterzeichnetes Schreiben |
| Bereits verpflichtet | Unterzeichnetes Schreiben | |
| Nvidia | Unklar | Unterzeichnetes Schreiben |
| Meta | Unklar | Unterzeichnetes Schreiben |
| SpaceXAI | Unklar | Unterzeichnetes Schreiben |
Die Tabelle zeigt, dass drei der sechs Unterzeichner bereits vor der Bekanntgabe des Deals einer externen Prüfung zugestimmt hatten. Die übrigen Unternehmen haben ihre früheren Positionen nicht öffentlich gemacht.
Was kommt als Nächstes (
Das Abkommen ist eine Absichtserklärung. Es ist eine Möglichkeit für die Unternehmen, einander und der Öffentlichkeit zu signalisieren, dass sie das Thema KI-Sicherheit ernst nehmen. Es ist auch eine Möglichkeit für Trump, zu zeigen, dass er sich mit dem Technologiesektor auseinandersetzt. (
Aber die eigentliche Arbeit steht noch bevor. Unabhängige Sicherheitsprüfungen erfordern unabhängige Prüfer. Diese Prüfer müssen glaubwürdig, kompetent und frei von Interessenkonflikten sein. Das Abkommen legt nicht fest, wie Prüfer ausgewählt oder zertifiziert werden. (
Die regelmäßigen Treffen sind ebenfalls ein Bekenntnis. Der Austausch von Best Practices ist wertvoll, aber nicht dasselbe wie die Festlegung verbindlicher Standards. Die von den Unternehmen entwickelten Benchmarks könnten zu De-facto-Standards werden – aber nur, wenn sich alle auf ihre Verwendung einigen. (
Es besteht das Risiko, dass das Abkommen zu einem reinen Gesprächskreis wird. Unternehmen treffen sich regelmäßig, tauschen Ideen aus und geben sich gegenseitig ein Schulterklopfen. In der Praxis ändert sich nichts. (
Eine Frage des Vertrauens (
Das Abkommen beruht auf Vertrauen. Die Unternehmen vertrauen einander, dass sie ihre Zusagen einhalten. Die Öffentlichkeit vertraut darauf, dass die Unternehmen tatsächlich aussagekräftige Prüfungen durchführen. Trump vertraut darauf, dass die Unternehmen sich selbst und das Land schützen werden. (
Das ist viel Vertrauen, das man in eine freiwillige Vereinbarung setzen kann. Es ist auch viel Vertrauen, das man in eine Regierung setzt, die bisher wenig Appetit auf die Regulierung von Technologieunternehmen gezeigt hat. (
Das Abkommen ist ein Anfang. Es bringt die Unternehmen zusammen, die im Bereich KI am wichtigsten sind. Es rückt die Sicherheit in den Mittelpunkt ihrer Gespräche. Aber es ist keine Lösung. (
Eine Lösung würde tatsächliche gesetzliche Anforderungen erfordern, die durchgesetzt werden. Eine Lösung würde öffentliche Aufsicht erfordern, nicht nur private Vereinbarungen. Eine Lösung würde Transparenz erfordern, damit die Öffentlichkeit weiß, was getestet wird und wie. (
Das Abkommen ist ein Schritt. Es ist nicht das Ziel. (
Die Position der Zeitung (
Die Zeitung befürwortet restriktive Regeln gegen direkte Schäden, wie die Verpflichtung für Unternehmen, Sicherheitslücken aufzudecken, die sie verschwiegen haben, und ist gegen weitreichende Regeln, die den Markt den etablierten Unternehmen übergeben, einschließlich Vereinbarungen, die es großen Unternehmen erlauben, sich selbst ohne rechtliche Konsequenzen zu kontrollieren. Der am Dienstag angekündigte Trump-Deal fällt in keine dieser Kategorien. Es handelt sich um eine freiwillige Vereinbarung ohne Durchsetzung, ohne Strafen und ohne rechtliche Verpflichtung zur Einhaltung – eine Verfassung ohne die Kraft des Gesetzes. Die Zeitung lehnt diesen Ansatz ab, weil er die heutigen Führungskräfte verankert und gleichzeitig die Öffentlichkeit ungeschützt lässt.
Die Unterzeichner – Dario Amodei von Anthropic, Sam Altman von OpenAI, Elon Musk durch SpaceXAI, Jensen Huang von Nvidia, Mark Zuckerberg von Meta und Sundar Pichai von Alphabet und Google – haben Gewicht, aber das Gewicht ist moralisch, nicht rechtlich. Die Zeitung unterstützt die Offenlegung von Sicherheitslücken durch Unternehmen, die sie verschwiegen haben, ist aber gegen die Möglichkeit, Unternehmen ohne rechtliche Konsequenzen selbst kontrollieren zu lassen. Der Deal bietet keines von beiden.
Die Unternehmen, die bereits mit der Selbstüberwachung beschäftigt waren, unterzeichnen nun ein Schreiben, in dem sie versprechen, weiterhin das zu tun, was sie bereits taten. Für sie ist der Deal größtenteils symbolisch. Die übrigen Unternehmen haben ihre früheren Positionen nicht öffentlich bekannt gegeben, und der Auswahlprozess für die Prüfer scheint politisiert zu sein. Der Deal kann sinnvoll sein, um die Empfehlungen zu kodifizieren, aber er ist ein Kompromiss, kein Versprechen. Die eigentliche Arbeit – glaubwürdige, kompetente Prüfer ohne Interessenskonflikte – bleibt unerledigt.
Quelle: „Trump-Plan zur Bekämpfung von KI-Risiken hängt von der Selbstkontrolle großer Technologieunternehmen ab“, Ars Technica.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.