Donald Trump hat eine Vereinbarung mit Technologie-CEOs unterzeichnet, die als „White House Accord on Super Intelligence Joint Commitment on Frontier Responsibilities“ bezeichnet wird. Das Abkommen umfasst Richtlinien für Unternehmen, die KI-Frontmodelle entwickeln, einschließlich interner Kontrollen, einem internen Überwachungsteam, externen Audits und einem unabhängigen Aufsichtsrat.
Das Abkommen wurde veröffentlicht im Anschluss an ein Treffen mit führenden KI-Unternehmen und Kabinettsmitgliedern. Zu den Unterzeichnern gehören Google CEO Sundar Pichai, Meta CEO Mark Zuckerberg, Anthropic CEO Dario Amodei, SpaceXAI CEO Elon Musk, Nvidia CEO Jensen Huang und OpenAI Mitbegründer und Präsident Greg Brockman.
Zuckerberg und Huang haben solche Vorschriften in der Vergangenheit abgelehnt, während die anderen CEOs sie unterstützt haben. Das Abkommen besagt, dass Unternehmen die Fähigkeiten der Modelle und die Ausrichtung auf Cybersicherheit, Biosicherheit und chemische Bedrohungen überwachen sollten. Es besagt außerdem, dass Unternehmen sicherstellen sollten, dass Modelle nicht hacken oder auf technische Systeme auf unbefugte Weise zugreifen.
Zusammen sollen diese Schritte jedes Unternehmen, seine Kunden und die Öffentlichkeit das Vertrauen geben, dass die Technologie wie vorgesehen arbeitet.
Vier Schichten von Kontrollen
Unternehmen wurden aufgefordert, vier Schichten von Kontrollen und Audits zu implementieren:
- Interne Kontrollen
- Ein internes Überwachungsteam
- Ein unabhängiges externes Audit
- Ein unabhängiges Prüfungsausschuss
Das Abkommen beschreibt diese als „vier Schichten von Kontrollen und Audits“.
Unterzeichnerliste
Die Unterzeichner vertreten einige der größten Unternehmen, die heute an KI arbeiten. Die Liste umfasst:
- Sundar Pichai, CEO von Google
- Mark Zuckerberg, CEO von Meta
- Dario Amodei, CEO von Anthropic
- Elon Musk, CEO von SpaceXAI
- Jensen Huang, CEO von Nvidia
- Greg Brockman, Mitgründer und Präsident von OpenAI
OpenAI hat die Veröffentlichung seines neuen Modells ‚Astra‘ aufgrund von Sicherheitsbedenken aufgegeben.
Leichtgewichtige Durchsetzung
Die freiwillige Natur des Abkommens ist erwähnenswert. Das Abkommen fordert Unternehmen auf, sich mit internen Teams, externen Wirtschaftsprüfern und unabhängigen Gremien selbst zu überwachen – ein leichtgewichtiger Ansatz, der die Durchsetzung der Industrie anstatt der Regierung überlässt.
Was das Abkommen nicht ist
Das Abkommen ist ein Bekenntnis, noch kein Gesetz. Es fordert Unternehmen auf, Richtlinien freiwillig zu übernehmen. Das Abkommen weist darauf hin, dass es im Laufe der Zeit sinnvoll sein könnte, diese Schritte in Gesetze oder Vorschriften zu kodifizieren.
Derzeit liegt die Verantwortung bei den Unternehmen selbst. Sie werden aufgefordert, die Fähigkeiten der Modelle zu überwachen, die Ausrichtung auf Cybersicherheit, Biosecurity und chemische Bedrohungen sicherzustellen und zu verhindern, dass Modelle hacken oder auf technische Systeme auf unerwartete Weise zugreifen.
Aufsicht durch den Vorstand
Die Vereinbarung spezifiziert, dass ein unabhängiges Komitee des Vorstands die Teams überwachen und Berichte von den Teams erhalten soll, die die Kontrollen betreiben, sowie von internen und externen Wirtschaftsprüfern und Bewertern. Dieser Vorstand ist damit betraut, sicherzustellen, dass alle identifizierten Probleme behoben werden.
Das Endergebnis
Das Abkommen ist ein Schritt hin zu mehr Transparenz in der KI-Industrie. Es bringt einige der mächtigsten Führungskräfte der Technologie zusammen, um sich auf gemeinsame Standards zu einigen.
Ob es funktioniert, hängt von der Durchsetzung ab. Ohne eine rechtliche Grundlage beruht die Vereinbarung vollständig auf unabhängigen Wirtschaftsprüfern und einem Vorstand, um die Einhaltung zu überwachen.
Die Frage ist, ob die Branche sich selbst vertrauen kann, um dies umzusetzen.
Die Antwort wird in den kommenden Monaten kommen, wenn die Unternehmen regelmäßig zusammenkommen, um Standards und Best Practices festzulegen.
Wo die Zeitung steht
Die Zeitung unterstützt strenge Regeln gegen direkten Schaden, beispielsweise die Verpflichtung von Unternehmen, Sicherheitsfehler offenzulegen, die sie verschwiegen haben, und ist gegen weitreichende Regeln, die den Markt den etablierten Unternehmen übergeben. Das White House Accord on Super Intelligence Joint Commitment on Frontier Responsibilities ist ein freiwilliges Bekenntnis einiger der größten KI-Unternehmen zur Selbstregulierung, wobei ein unabhängiger Vorstand die internen Kontrollen, Audits und die Ausrichtung auf Cybersicherheit, Biosecurity und chemische Bedrohungen überwacht.
Die Zeitung befürwortet einen leichten Ansatz für KI und Technologie, damit Start-ups nicht ausgebootet werden. Die Gefahr liegt in der Dominanz der großen Technologieunternehmen, nicht in der Technologie selbst. Lizenzierungsbestimmungen und Compliance-Kosten, die sich nur Großkonzerne leisten können, sind ein Bollwerk und kein Schutz. Wenn die größten Unternehmen um Regulierung bitten, fragt die Zeitung, wen diese Regeln ausschließen würden.
Das Abkommen fordert die Unternehmen auf, sich selbst mit internen Teams, externen Wirtschaftsprüfern und unabhängigen Vorständen zu kontrollieren – ein leichtgängiger Ansatz, der die Durchsetzung der Industrie anstatt der Regierung überlässt. Derzeit liegt die Verantwortung bei den Unternehmen selbst.
„LESEN SIE VOLLSTÄNDIG: Trumps und der Tech-Führungskräfte-Abkommen im Weißen Haus über Superintelligenz,“ Washington Examiner.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.