Rep. Ro Khanna (D-CA), der ranghöchste Demokrat im House Select Committee on China und ein potenzieller Präsidentschaftskandidat, hat Schreiben an chinesische KI-Unternehmen und US-Geheimdienste geschickt und um Zusicherungen bezüglich der KI-Sicherheit gebeten. Die Briefe wurden exklusiv mit The Verge geteilt.
Khanna übt Druck auf chinesische Unternehmen in Bezug auf ihre Verfolgung von „Superintelligenz“ und rekursivem Selbstverbesserung (RSI) aus, dem hypothetischen Punkt, an dem eine KI sich selbst schneller verbessert, als Menschen Schritt halten können. Er möchte wissen, ob sie Kill Switches haben, ob sie Inspektionen akzeptieren würden und ob sie der Idee eines US-China-Vertrags zustimmen, der RSI verbietet und die Aktivitäten führender KI-Labore überwacht.
Khannas Fragen an chinesische Unternehmen
Khanna forderte DeepSeek, Alibaba und Moonshot AI auf, Dokumente über ihre Superintelligenz-Ambitionen vorzulegen. Er wollte wissen:
- Ob sie Superintelligenz oder RSI verfolgen
- Ob sie Schutzmaßnahmen oder Kill Switches implementiert haben
- Ob sie Inspektionen durch eine nichtstaatliche Einrichtung im Rahmen eines Vertrages akzeptieren würden
Die Unternehmen haben öffentlich nicht auf The Verge’s Anfragen nach Kommentaren reagiert.
ODNI erhält ebenfalls eine Anfrage
Khanna schrieb auch an das Office of the Director of National Intelligence (ODNI). Er bat die Behörde, zu beurteilen, wie effektiv die USA reagieren könnten, wenn ein KI-Labor die Kontrolle über seine Bots verliert – ein Szenario, das in jüngster Zeit zunehmend häufig geworden ist.
Er bat ODNI außerdem, die Herangehensweise der chinesischen Regierung bei der Bewertung katastrophaler KI-Risiken zu bewerten. ODNI-Direktor Jay Clayton war der Empfänger dieses Schreibens.
Der Vertragspush
Khanna fordert einen US-China-Vertrag, der RSI verbieten und die Überwachung von KI-Forschungslaboren an der Grenze vorsieht. Er schlägt eine Arbeitsgruppe mit Experten aus beiden Ländern vor, um Sicherheitsvorschläge zu unterbreiten und die Einhaltung zu gewährleisten.
Sen. Bernie Sanders (I-VT) hat ebenfalls für einen KI-Vertrag zwischen den Ländern aufgerufen.
Warum chinesische Unternehmen möglicherweise nicht antworten werden
Khanna räumt ein, dass chinesische Unternehmen unwahrscheinlich seien, vollständig zu antworten. Sie hatten nicht auf ein früheres Schreiben reagiert, das eine Verpflichtung zur Verlangsamung der KI-Entwicklung parallel zu OpenAI und Anthropic forderte.
Sein erklärtes Ziel ist es, sie zu „beschämen“ und eine „Debatte“ unter chinesischen KI-Unternehmen über Sicherheit anzustoßen. Er sagt, er sei auch kritisch gegenüber US-KI-Unternehmen, weist jedoch darauf hin, dass „zumindest sie sich an Sicherheitsgesprächen beteiligen“.
Khannas Einschätzung der Diskrepanz
Khanna sagt, die beiden Länder „könnten nicht unterschiedlicher sein, in vielen Fragen“. Er schrieb in seinem Schreiben an Direktor Jay Clayton des ODNI, dass „es dem Interesse weder des einen noch des anderen Landes dient, wenn die Menschheit die Kontrolle über unser Schicksal verliert.“
Er argumentiert auch, dass Staats- und Regierungschefs der Welt „keinen Bezug zu den Wissenschaftlern und Technologieexperten in ihren eigenen Ländern haben“. Er glaubt, viele chinesische Modelle seien von US-Modellen abgeleitet.
Republikanische Zweifel
Republikaner wie John Moolenaar (R-MI), der Vorsitzende des China-Ausschusses des Repräsentantenhauses, haben skeptisch geäußert, ob die chinesische Regierung ihre Zusagen einhalten würde. Trump und seine Verbündeten haben sich gegen die meisten Vorschriften oder Abkommen ausgesprochen.
Khannas Ansatz beinhaltet eine nichtstaatliche Inspektionsrolle.
Trumps Beitrag auf Truth Social
Vor seinem Treffen mit Xi postete Trump auf Truth Social: „Super Intelligence (SI) wird ein großes Thema der Diskussion sein, aber ich möchte es genau so belassen, wie es jetzt ist. Das ist auch Chinas Position.“
Was kommt als Nächstes
Die Unternehmen und das ODNI haben Khannas Fragen noch nicht beantwortet. Die Anfrage von The Verge blieb von allen Beteiligten unbeantwortet.
Khanna räumt ein, dass ein Vertrag in absehbarer Zeit unwahrscheinlich ist. Er nutzt die Briefe jedoch, um chinesische Unternehmen zu warnen und die Sicherheitslücke zwischen den USA und China ins Licht zu rücken.
Der Einsatz ist hoch. Der Verlust der Kontrolle über Bots durch ein KI-Labor ist kein theoretisches Risiko mehr. Es ist ein Szenario, das immer häufiger vorkommt.
Khannas Briefe sind ein ungeschliffenes Werkzeug. Er versucht, Unternehmen in die Pflicht zu nehmen, und er versucht, eine Diskussion zu erzwingen, die viele mächtige Leute lieber vermeiden würden.
Die Fragen liegen auf dem Tisch. Die Antworten liegen noch nicht vor.
| Ereignis | Datum |
|---|---|
| Trump trifft Xi im Weißen Haus | Letzte Woche |
| Khanna schickt Briefe an chinesische Unternehmen und das ODNI | Kürzlich |
| Khannas Interview mit The Verge | Montag |
| Trump postet auf Truth Social | Vor dem Treffen mit Xi |
| Treffen im Weißen Haus mit Technologie-Führungskräften | Dienstag |
Quelle: „Werden chinesische KI-Unternehmen die Entwicklung verlangsamen? Ein ranghöchster Abgeordneter des Repräsentantenhauses will Antworten“, The Verge.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.