König Charles führte am Donnerstag ein privates Gipfeltreffen im Dumfries House ein, einem Anwesen aus dem 18. Jahrhundert in Ayrshire, das seiner gemeinnützigen Stiftung gehört, zusammen mit Führungskräften von Nvidia, OpenAI, Anthropic, dem neuen britischen AI-Minister Kanishka Narayan, dem Leiter des britischen Auslandsnachrichtendienstes und Paolo Benanti, der den Papst in AI-Fragen berät. Der König machte seine Position deutlich: Er will die Kontrolle über künstliche Intelligenz erlangen, bevor es zu spät ist.
Der König forderte die Teilnehmer auf, einen Weg zu finden, KI „bevor es zu spät ist“ zu kontrollieren, wobei er die rasche Entwicklung der Technologie und ihre „Substanz“ sowohl „fesselnd als auch zutiefst besorgniserregend“ nannte. Er führte Medizin und Wissenschaft als Beispiele für KI an, die Leben verbessert und rettet, warnte aber davor, dass Schöpfer zunehmend vor den Risiken warnen, dass KI dunklere Fähigkeiten entwickeln könnte, möglicherweise sogar die Fähigkeit, Leben zu nehmen.
Ein Anthropic-Forscher trat Tage zuvor zurück und schrieb online, dass KI-Unternehmen „rennen, um Maschinen zu bauen, die intelligenter sind als jeder Mensch“ und dass die Menschheit „dies möglicherweise nicht überleben wird“. Der König reagierte direkt auf diese Angst. Er sagte, es sei dringend erforderlich, die existenziellen Gefahren zu berücksichtigen, wenn KI in die falschen Hände gerate und auf „potenziell katastrophale Weise“ eingesetzt werde.
Er fragte: „Sollten wir nicht vor allem zu spät ausreichende Kontrollmöglichkeiten haben?“
Beim Abschluss forderte er die Führungskräfte auf, das Gute der KI zu nutzen und internationale Zusammenarbeit und Konsens aufzubauen.
OpenAI entsandte CFO Sarah Friar und Anthropic entsandte Tino Cuéllar, der globale Angelegenheiten leitet. Cuéllar sagte, sein Unternehmen sei geehrt, teilnehmen zu können, und dankte dem König dafür, dass er „Branchenführer und Vertreter aus der gesamten Gesellschaft zusammenbringt, um die Rolle der KI bei der Förderung des öffentlichen Interesses zu diskutieren“.
Das Gipfeltreffen folgt der Sperrung des Zugangs von Anthropic zu seinen Fable- und Mythos-Modellen auf Kunden in den USA, was die europäische Tech-Szene schockierte. König Charles hatte bereits 2023 und 2024 über KI gesprochen.
In diesem Monat forderten OpenAI’s Sam Altman, Elon Musk und Anthropic’s Dario Amodei eine Verlangsamung der KI-Entwicklung. Nvidia’s Jensen Huang und Präsident Donald Trump lehnten diese Forderungen ab; der Präsident sagte, die USA lägen China in KI voraus und wollten diese Position beibehalten.
OpenAI und Anthropic haben im vergangenen Jahr den Start von Blockbuster-Börsengängen angedeutet, obwohl OpenAI kürzlich mitteilte, dass die Börsengangspläne dieses Jahr aufgrund von Sicherheitsbedenken im Bereich KI auf Eis liegen. Medienberichten zufolge blieb der König für etwa 20 Minuten und verließ dann die Gäste, um unter sich zu diskutieren.
Der König über KI
Charles hat bereits zweimal öffentlich über KI gesprochen. Seine Sprache in Dumfries House war direkt. Er verbot KI nicht oder stellte Forschung ein. Er forderte Kontrolle und forderte sie dringend.
Zu den Teilnehmern des Gipfels gehörten einige der mächtigsten Figuren im Bereich KI. Der neue britische KI-Minister war anwesend, ebenso wie der Leiter des britischen Nachrichtendienstes. Paolos Benantis Anwesenheit verleiht der Argumentation, dass Religion und Wissenschaft eine gemeinsame Verantwortung für die Entwicklung von KI tragen, Gewicht.
Was kommt als Nächstes
Der Gipfel war privat und kurz. Der König blieb für etwa 20 Minuten, bevor er die Gäste zum Gespräch unter sich freigab. Ob dieses Gespräch zu konkreten Schritten geführt hat, ist noch nicht bekannt.
Was bekannt ist, ist die Richtung der Entwicklung. Der König hat nun dreimal über KI gesprochen und jedes Mal Fragen nach Kontrolle und Risiko aufgeworfen. Das Gipfelformat brachte die Menschen, die die Technologie entwickeln, mit der Person zusammen, die den Staat repräsentiert.
Ob das Vereinigte Königreich in der Lage ist, in der KI-Race mitzuhalten, ist eine separate Frage. Der König fordert Kontrolle, bevor es zu spät ist, und stellt sich damit den Technologieunternehmen entgegen, die eine schnellere Entwicklung vorantreiben.
Die Position des Königs ist nicht gegen KI gerichtet. Er nannte Medizin und Wissenschaft als Beispiele dafür, wie KI Leben verbessert und rettet. Seine Besorgnis gilt der Kontrolle, nicht der Technologie selbst.
Die Tagesordnung
- Der Warnhinweis des Königs: „Bevor es zu spät ist“
- Die Einschätzung des Königs: Die Entwicklung von KI ist „faszinierend und zutiefst besorgniserregend“
- Die Sorge des Königs: KI könnte dunklere Fähigkeiten entwickeln, vielleicht sogar bis hin zur Lebensentzugung.
- Die Frage des Königs: „Sollten wir nicht ausreichende Kontrollmöglichkeiten schaffen, bevor es zu spät ist?“
- Der abschließende Aufruf des Königs: Nutzen Sie das Gute der KI und bauen Sie internationale Zusammenarbeit auf.
Das Gipfeltreffen war eine Bekundung der Absicht. Der König hat gesprochen. Nun stellt sich die Frage, ob jemand zuhört.
Wo die Zeitung steht
Die Zeitung befürwortet strenge Regeln gegen direkte Schäden, wie die Verpflichtung von Unternehmen, Sicherheitslücken aufzudecken, die sie verschwiegen haben, und ist gegen eine bundesstaatliche Zulassung von KI, die die heutigen Führungskräfte in ihrem Amt gefangen hält und diejenigen ausschließt, die sie herausgefordert hätten. Das Gipfeltreffen im Dumfries House war eine Bekundung der Absicht, nicht ein Regulierungsblueprint. Die wiederholten Warnungen des Königs vor Kontrollverlusten, bevor es zu spät ist, werfen echte Fragen auf, lassen sie aber nicht unbeantwortet.
Die Teilnehmer – Nvidia, OpenAI, Anthropic, der neue KI-Minister des Vereinigten Königreichs, der Leiter des britischen Geheimdienstes und Paolo Benanti – vertreten die Menschen, die diese Technologie aufbauen. Ihre Unternehmen machen Fortschritte, wobei Anthropic den Zugriff auf seine Fable- und Mythos-Modelle nur noch U.S.-Kunden erlaubt. OpenAIs CFO und Anthropics globaler Leiter für globale Angelegenheiten waren anwesend, und letzterer bedankte sich beim König dafür, dass er Branchenführer und Vertreter aus der gesamten Gesellschaft zusammenbrachte.
Die Sorge der Zeitung ist die gleiche wie immer: Wenn die größten Unternehmen um Regulierung bitten, fragt die Zeitung, wen diese Regeln ausschließen würden. Lizenzierungsregime und Compliance-Kosten, die sich nur Giganten leisten können, sind ein Schutzwall, kein Schutzschild. Das Gipfeltreffen schlug keinen Schutzwall vor. Es schlug Dringlichkeit, Kontrolle und Zusammenarbeit vor.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.