Spitzen-Technologieunternehmen unterzeichnen Abkommen zur Überwachung ihrer eigenen KI-Entwicklung. )

Präsident Donald Trump sagte, führende Technologieunternehmen hätten eine freiwillige Vereinbarung unterzeichnet, um die Entwicklung von KI („Artificial Intelligence“) „selbst zu regulieren“, ein Schritt, der darauf abzielt, die öffentliche Angst vor der Technologie zu beruhigen und gleichzeitig jegliche Beschränkungen ihres Wachstums abzulehnen.

Das Treffen fand im Weißen Haus statt und brachte Führungskräfte von einigen der größten KI-Unternehmen der Welt zusammen. Trump sagte zu Reportern: „Ich glaube, ich sehe eine enorme Selbstregulierung. Und sie verstehen, dass sie sich selbst regulieren müssen.“

Wer unterzeichnete die Vereinbarung

Die Vereinbarung wurde von Trump selbst sowie von Führungskräften großer Unternehmen unterzeichnet:

• Dario Amodei, CEO von Anthropic
• Sundar Pichai, CEO von Google
• Mark Zuckerberg, CEO von Meta
• Greg Brockman, Präsident von OpenAI
• Jensen Huang, CEO von Nvidia
• Elon Musk, Gründer von xAI, das jetzt Teil von SpaceX ist

Die Vereinbarung wurde am späten Dienstag auf Trumps Social-Media-Seite, Truth Social, veröffentlicht. Sie konzentriert sich auf vier freiwillige Schritte:

• Einführung von „robusten internen Kontrollen“.
• Die Zusammenarbeit mit einem „unabhängigen externen Prüfer“ (1)
• Einsetzung eines ausschuss-ebenen Komitees zur Bewertung von Prüfungen (2)
• Eröffnung der Tür für zukünftige Regulierungen (3)

Das Abkommen besagt: „Mit der Zeit kann es sinnvoll sein, diese Schritte in Gesetze und Vorschriften zu kodifizieren.“ Amodei sagte: „Die Technologie birgt sehr reale Risiken“ und fügte hinzu: „Der Mechanismus, wie wir diese Risiken angehen, ist noch in der Diskussion.“ (4)

Trump schlug vor, etwa 10 Personen zu einem Komitee ernennen zu wollen, das „über das gesamte Unternehmen wacht“, und sagte, das Abkommen sei „moralisch bindend“. Er sagte, er würde in den kommenden Tagen jemanden ernennen, der die Vereinbarung unter Berücksichtigung der Industrie beaufsichtigt. (5)

Die Kritiker (6)

Nicht alle stimmen darin überein, dass Selbstregulierung der richtige Ansatz ist. Einige der im Abkommen enthaltenen Maßnahmen spiegeln Maßnahmen wider, die Unternehmen bereits ergreifen oder bereits zugesagt haben. (7)

Shri Narayanan, Professor für Ingenieurwesen an der USC, sagte, das Abkommen Innovation mit Regulierung in Einklang bringt und Modellverbesserungen in Bezug auf Sicherheit und Schutz beinhaltet. Robin Jia, Professor für Informatik an der USC, nannte das Setzen von „so viel Vertrauen in die Selbstregulierung“ skeptisch und sagte, die Absichten der Labore müssen mit dem öffentlichen Interesse übereinstimmen. (8)

Alex Pascal, Executive Director des Berkman Klein Center, sagte, robuste rechtliche Haftung, Regulierung und sich ändernde Kostenstrukturen der Entwickler seien erforderlich, um die mit KI verbundenen Risiken für Amerikaner zu verringern. (9)

Trumps Position (10)

Am Dienstag sagte Trump zuvor, die US-Regierung werde die KI-Entwicklung nicht einschränken oder Forderungen nach „Sicherheitsvorkehrungen“ oder anderen Beschränkungen unterstützen. „Ich werde niemals das Wachstum einer Technologie ersticken, die größer sein wird als die industrielle Revolution“, sagte Trump bei der Enthüllung eines KI-Chatbots, America.gov. (11)

Der Chatbot soll Amerikanern helfen, staatliche Dienstleistungen zu nutzen. Beamte der Trump-Regierung feierten ein „Goldenes Zeitalter“, das durch das angetrieben wird, was Trump „Superintelligenz“ nennt. (12)

Außenminister Marco Rubio hob hervor, dass der Chatbot das Potenzial habe, erste Reisepassanträge online zu bearbeiten, ohne dass ein persönlicher Besuch erforderlich ist. Trump sagte außerdem, dass die Führungskräfte sich darauf geeinigt hätten, lokale Schulen zu unterstützen oder Energiekosten zu senken, um der Basis-, parteiübergreifenden Opposition gegen Datenzentren entgegenzuwirken.

„Sie werden sehen, Datenzentren werden sehr beliebt sein“, sagte Trump. Wenn die Opposition anhält, schlug er vor, die Einrichtungen „werden ins Ausland oder an andere Standorte verlegt werden müssen“.

Der CEO von OpenAI, Sam Altman, sagte in einem Fernsehinterview, dass sich das Unternehmen zunehmend auf Sicherheit konzentriere und fügte hinzu: „Wir passen unser Tempo an, was manchmal bedeutet, ein Modell nicht zu trainieren.“

Das Fazit

Das Abkommen ist sowohl ein politisches Manöver als auch ein technisches. Trump stützt sich auf die Selbstregulierung von Unternehmen, um die öffentliche Angst vor KI zu bewältigen, während er Schutzmaßnahmen und Grenzen ablehnt und argumentiert, dass die Technologie das Wirtschaftswachstum ankurbeln werde.

Das Weiße Haus ist davon überzeugt, dass moralischer Druck ausreicht. Ob diese Wette aufgeht, hängt davon ab, ob die Unternehmen tatsächlich ihre Zusagen einhalten und ob die Öffentlichkeit ihnen vertraut, dies zu tun.

Das Misstrauen ist real. So viel Vertrauen in die Selbstkontrolle zu setzen, ist ein Glücksspiel. Die Technologie birgt sehr reale Risiken, und der Mechanismus zur Bewältigung dieser Risiken befindet sich noch in der Diskussion.

Aber das Abkommen ist nicht wertlos. Es setzt einen Ausgangspunkt für freiwillige Maßnahmen fest, auf den sich Unternehmen beziehen können, wenn Kritiker fragen, was sie tun. Es lässt auch die Tür für zukünftige Vorschriften offen, die dringlicher werden könnten, wenn die Risiken real werden.

Im Moment liegt das Abkommen auf dem Tisch. Die Frage ist, ob es Bestand hat.

Die Position der Zeitung

Die Zeitung befürwortet die restriktive Offenlegungspflicht, die Unternehmen dazu zwingt, verborgene Sicherheitslücken offenzulegen, und steht gegen die freiwillige Selbstregulierung, die es den größten Unternehmen ermöglicht, ihre Fehler zu verbergen. Trumps Abkommen ist ein politisches Manöver, das als Lösung verkleidet ist, und es unternimmt nichts, um das Risiko der Machtkonzentration bei den beteiligten Unternehmen zu adressieren.

Die freiwilligen Maßnahmen der Vereinbarung – interne Kontrollen, unabhängige Wirtschaftsprüfer, ein Ausschuss auf Vorstandsebene – klingen wie echte Aufsicht. Aber sie sind freiwillig. Unternehmen können davon Abstand nehmen, und die Vereinbarung lässt ausdrücklich Raum für zukünftige Vorschriften, während alles selbstregulierend bleibt. Das ist das Problem. Die größten Unternehmen dürfen ihre eigenen Regeln festlegen und sich selbst überwachen, und die Öffentlichkeit soll ihnen vertrauen.

Die Öffentlichkeit sollte beobachten, ob die Unternehmen die freiwilligen Maßnahmen tatsächlich umsetzen. Die Zeitung würde lieber eine schlanke Regelung bevorzugen, die Unternehmen dazu verpflichtet, Sicherheitslücken aufzudecken, die sie verschwiegen haben, anstatt ein freiwilliges System, das Geheimhaltung belohnt. Die Vereinbarung ist nicht bedeutungslos, aber sie bildet eine schwache Grundlage für die Bewältigung echter Risiken.

Quelle: „Trump sagt, führende Technologieunternehmen hätten eine Vereinbarung unterzeichnet, um die Entwicklung von KI „selbst zu überwachen“, NPR.