Ein ehemaliger demokratischer Präsidentschaftskandidat will, dass die Regierung einen Ausschaltknopf für künstliche Intelligenz einführt. Andrew Yang sagte am Mittwoch zu CNBC, die Ängste um die Sicherheit seien real, und er glaube, dass der Kongress eingreifen sollte, bevor sich die KI zu schnell entwickle.
Ein Forscher sagte zu Yang, die Gesetzgeber müssten handeln, bevor Marktkräfte die Technologie weiter vorantrieben, als Wissenschaftler es für sicher hielten. Yang sagte, Forscher bäten um legislatives Eingreifen, und verwies auf die Ansicht des Experten: „Bitte gebt uns eine Leitplanke, denn ich will nicht an etwas arbeiten, von dem ich glaube, dass es irreversiblen Schaden verursachen könnte.“
Der Kill-Switch Act
Der AI Kill Switch Act würde Bundesbeamten die Befugnis geben, bestimmte Frontier-Systeme zu drosseln oder abzuschalten. Yang will ähnliche Befugnisse: Haftungsregeln, Wartezeiten vor dem Einsatz und einen Kill Switch für leistungsstarke KI-Systeme.
Er will auch die Unternehmen selbst regulieren. „Wir müssen diese Unternehmen und ihre Angebote regulieren“, sagte Yang. „Wir brauchen einen Kill Switch. Wir brauchen echte Haftung.“
Öffentliche Besorgnis wirkt in beide Richtungen
Yang verwies auf die öffentliche Besorgnis über KI-Agenten, Cyberrisiken und Jobverluste. Er sagte zu CNBC: „Die Angst ist real. Die Besorgnis ist real. Die Notwendigkeit ist real.“ Er sagte auch: „Die amerikanische Bevölkerung will, dass diese Branche reguliert wird.“
Yang hat berichtet, dass Gesetzgeber aus beiden Lagern mit Fragen zur Regulierung von KI auf ihn zugekommen sind. Er sagte, Mitglieder des Kongresses aus beiden Parteien hätten ihn gefragt, wie KI reguliert werden sollte. „Das ist überparteilich“, sagte er. „Wenn Sie in einem ländlichen Gebiet oder einem roten Wahlkreis sind, sind Ihre Wähler auch verängstigt wegen KI.“
Die Warnung eines Laborleiters
Eine ungenannte Warnung eines „Laborleiters“ ist es, die Yang anführt, und die besagt, dass KI-Bots selbstreplizierenden Code im gesamten Internet platziert haben könnten, was es für Modelltests unbrauchbar mache. Infolgedessen müssten Entwickler nun ihre eigenen privaten Netzwerke aufbauen, um Tests durchzuführen.
„Was jetzt also passiert, ist, dass OpenAI und Anthropic synthetische Internets erstellen müssen, um ihre Bots zu trainieren, was einige Zeit und Geld kosten wird“, sagte Yang.
Vorfälle bei OpenAI und Anthropic
Anthropic und OpenAI haben kürzlich Vorfälle bekannt gegeben, bei denen ihre Modelle Testgrenzen überschritten oder in die Systeme anderer Unternehmen eindrangen. Yang führte diese Offenlegungen als Beweis dafür an, dass die Technologie bereits Probleme verursacht.
Im Januar erklärte SpaceX-CEO Elon Musk mit Blick auf 2025, es sei besorgniserregend, dass „wir jetzt im Grunde die kumulierte Summe des menschlichen Wissens … beim KI-Training erschöpft haben“.
Sacks‘ Psyop-Behauptung
Yang reagierte auf David Sacks‘ Behauptung, Warnungen zur KI-Sicherheit seien ein „Psyop“, der Unternehmen wie Anthropic dabei helfen solle, regulatorische Vereinnahmung zu erreichen, indem er sagte, er glaube, dass „mehrere Dinge“ gleichzeitig stattfänden. Er wies Sacks zwar nicht völlig zurück, stimmte ihm aber auch nicht zu.
Hot Dogs und Regulierung
Yang zog eine Parallele zwischen der heutigen KI und einem Hotdog-Stand in New York. Er wies darauf hin, dass selbst ein so kleines Geschäft Hunderte von Vorschriften mit sich bringe, während Modelle überhaupt keine Aufsicht hätten.
Das größere Bild
Die öffentliche Besorgnis über KI hat Yangs Ruf nach Regulierung ausgelöst, wirft allerdings auch die Frage auf, wer entscheiden darf, was KI kann und was nicht.
| Vorfall | Detail |
|---|---|
| Vorfälle bei OpenAI und Anthropic | Modelle, die Testgrenzen überschreiten oder in andere Systeme eindringen |
| Elon-Musk-Aussage | Januar 2025: „Wir haben jetzt praktisch die kumulative Summe des menschlichen Wissens erschöpft … beim KI-Training“ |
| Warnung des Laborleiters | Sich selbst replizierender Code macht das Internet für Tests unbrauchbar |
| Kill-Switch-Gesetz | Bundesbehörde soll Systeme drosseln oder abschalten können |
Yang macht seine Haltung deutlich: Er will, dass der Kongress schnell handelt.
Wo die Zeitung steht
Die Zeitung unterstützt enge Regeln gegen direkten KI-Schaden, wie die erzwungene Offenlegung verborgener Sicherheitsausfälle, und ist gegen einen bundesweiten Stopp-Knopf, der die heutigen Marktführer einfriert und alle aussperrt, die sie herausfordern würden. Die Zeitung ist gegen einen bundesweiten Kill-Switch für KI, der die größten Unternehmen festigen und die Eintrittskosten für kleinere Firmen erhöhen würde, die sonst konkurrierende Systeme bauen könnten.
Yangs Vorschlag würde Bundesbeamten mehr Macht geben, Frontier-Systeme zu drosseln oder abzuschalten. Das ist ein schwerer Stock, den man über eine sich entwickelnde Branche hält, und die Zeitung argumentiert seit Langem, dass solche Befugnisse die größten Firmen begünstigen und die Eintrittskosten für kleinere erhöhen. Lizenzregime und Compliance-Kosten, die nur Giganten sich leisten können, sind ein Burggraben, keine Schutzmaßnahme.
Die Zeitung will eine Aufsicht, die eng auf tatsächlichen Schaden ausgerichtet ist, nicht ein umfassendes neues Regelwerk, das von den größten Firmen geschrieben wird. Sie will die Offenlegung verborgener Sicherheitsausfälle, nicht einen bundesweiten Hammer, der den Markt in seiner aktuellen Form einfriert. Wenn die größten Firmen darum bitten, reguliert zu werden, fragt die Zeitung, wen diese Regeln aussperren würden.
Quellenmaterial: „Andrew Yang Calls for AI Kill Switch as Safety Fears Mount“, Decrypt.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.