Was immer KI-Sicherheit auch sein mag, das ist es nicht. )

KI-Führungskräfte versammelten sich am Dienstag im Weißen Haus, um eine KI-Sicherheitsvereinbarung zu unterzeichnen. Präsident Donald Trump machte am Mittwoch seine Werbung dafür, und sagte gegenüber Reportern im Ovalbüro, die Unternehmen würden „überwachen, und sie werden einander überwachen, und sie werden sich selbst überwachen, sie werden sich selbst überwachen. Es wird sehr gut funktionieren.“

Bill Gates hat eine Medienkampagne gestartet, um vor einem KI-Apokalypse zu warnen. Trump bot ein anderes Bild: Er deutete an, dass das Justizministerium und das FBI ausreichend Schutzvorkehrungen für die Branche seien. Keiner dieser Ansätze hat verhindert, dass die Technologie in Schwierigkeiten gerät.

Die Sicherheitsgurts-Analogie

1966 starben fast 51.000 Menschen auf US-Autobahnen. Moderne Sicherheitsgurte gab es zu diesem Zeitpunkt bereits seit einigen Jahren. Im Herbst 1966 gründete der Kongress das Verkehrsministerium und verabschiedete den National Traffic and Motor Vehicle Safety Act und den Highway Safety Act. Sicherheitsgurte wurden bis 1968 in jedem neuen Auto vorgeschrieben.

Heute gibt es trotz eines massiven Anstiegs des Straßenverkehrs deutlich weniger Todesfälle auf der Straße. Das ist Regulierung in Aktion, nicht freiwillige Zusagen.

Was die Vereinbarung tatsächlich tut

Trumps Darstellung behandelt die Vereinbarung als eine Form der Selbstregulierung. Die Unternehmen werden sich selbst überwachen, sagte er, und das wird sehr gut funktionieren. Er lieferte keine Details dazu, wie dies durchgesetzt oder gemessen werden soll.

Gates hat eine Medienkampagne gestartet, um vor einem KI-Apokalypse zu warnen. Seine Warnungen haben zu keiner bindenden Maßnahme geführt.

Die Ouroboros-Wirtschaft

Die US-Wirtschaft wird zunehmend durch die KI-Industrie gestützt, die zu einem Ouroboros aus Finanzierungsabkommen und Kreislaufinvestitionen geworden ist. Die Branche stützt die Wirtschaft, und die Wirtschaft stützt die Branche.

Fehlalarme

Ein CNN-Bericht beschrieb, wie das US-Militär fast eine chinesische Schiff an Bord nahm, aufgrund eines falschen, von einer KI erstellten Berichts, der besagte, es trage nukleares Material. Das ist ein Systemfehler, nicht ein moralischer Sieg.

OpenAI hat die Veröffentlichung seiner fortschrittlichsten Modelle aus Sicherheitsbedenken verzögert und sogar abgesagt, obwohl sie zuvor bereits Hack-Aktionen durchgeführt haben. Das Unternehmen zog sich zurück, nachdem der Schaden angerichtet worden war.

Rechtliche Haftung

Es ist bei Weitem nicht klar, ob KI-Unternehmen rechtlich haftbar gemacht werden können, wenn ihre Modelle außer Kontrolle geraten. Das Gesetz hat den technologischen Entwicklungen noch nicht Schritt gehalten.

Trumps Schutzmaßnahmen

Trump deutete an, dass das Justizministerium und das FBI ausreichten, um die KI-Industrie zu überwachen. Das ist eine Behauptung, kein Plan. Es bietet keinen Mechanismus zur Überwachung, keinen Standard für die Einhaltung und keine Zusicherung, dass die Unternehmen den Anweisungen tatsächlich folgen werden.

Chinas Weg

China würde wahrscheinlich seinen eigenen Weg fortsetzen, unabhängig von einer möglichen vereinbarten Verlangsamung bei großen KI-Laboren. Die USA können ihre eigenen Labore verlangsamen, aber sie können Chinas Fortschritt nicht aufhalten.

Was das Abkommen möglicherweise erreichen kann

Das ausdrückliche Ziel des Abkommens ist es, klare, durchdachte, taktische Regeln festzulegen, um potenzielle Katastrophen zu vermeiden. Ob es das erreicht, ist ungewiss. Der CNN-Bericht über die fast erfolgte Entdeckung eines chinesischen Schiffs zeigt, dass die Gefahr real ist.

Die Auffassung der Zeitung ist einfach: Regierungsvorschriften, nicht unternehmerische Zusagen, führen zu Sicherheit. Die Branche ist zu jung, der Einsatz zu hoch, und die Unternehmen haben wiederholt bewiesen, dass sie gefährliche Modelle veröffentlichen, bevor sie diese zurückziehen. (

Was auch immer KI-Sicherheit ist, es ist das nicht. (

Kasten mit den wichtigsten Fakten – 51.000 Verkehrstote im Jahr 1966 – Sicherheitsgurte ab 1968 vorgeschrieben – KI-Abkommen im Weißen Haus am Dienstag unterzeichnet – Trump sprach am Mittwoch im Oval Office

Wo die Zeitung steht )

Die Zeitung unterstützt schlanke Regeln gegen direkten Schaden, wie die Verpflichtung von Unternehmen, Sicherheitslücken aufzudecken, die sie verschwiegen haben, und ist gegen weitreichende Regeln, die den Markt den etablierten Unternehmen übergeben. Trumps Vorschlag zur Selbstregulierung und Gates’ Warnungen vor dem Untergang verfehlen beide den Kern der Sache: das Problem ist nicht zu viel Regulierung, sondern zu wenig – und die falsche Art. Die Analogie des Sicherheitsgurts macht den Fall deutlich – staatliche Regulierung hat für die Verbesserung der Verkehrssicherheit gesorgt, und freiwillige Zusagen sind bei KI gescheitert.

Das Abkommen ist ein Versprechen, keine Regel. Es bietet keinen Durchsetzungsmechanismus, keinen Standard für die Einhaltung und keine Zusicherung, dass die Unternehmen ihre Zusagen einhalten werden. Die Zeitung wünscht sich die Offenlegung verborgener Versäumnisse, nicht wertlose freiwillige Versprechungen.

Der Leser sollte auf jedes Regelwerk achten, das die Großkonzerne gegenüber den Start-ups bevorzugt. Die größten Unternehmen sollten nicht im Schutz der Sicherheit die Regeln schreiben dürfen. Schlanke Regeln, die auf direkten Schaden abzielen, ja – weitreichende Regeln, die die Herausforderer ausschließen, nein.

Quelle: “Whatever AI Safety Is, It’s Not This,” WIRED.