Trumps „moralisch bindendes“ KI-„Abkommen“, der Aufstieg von KI-Agenten und Extremisten auf dem Wahlzettel )

Präsident Trump veranstaltete am Dienstag einen Mittagessen im Weißen Haus und verließ das Gebäude mit einem unterzeichneten Dokument namens „White House Accord on Super Intelligence“. Das Abkommen, das als „moralisch bindend“ beschrieben wird, fordert Technologieunternehmen auf, sich selbst zu regulieren.

Das Abkommen, das in diesem Wochenpodcast „Uncanny Valley“ diskutiert wurde, bringt Sundar Pichai, Elon Musk, Dario Amodei, Mark Zuckerberg, Jensen Huang und den Präsidenten von OpenAI, Greg Brockman, zusammen. OpenAI-CEO Sam Altman fehlte auffällig. Die Unternehmen versprechen, ihre Modelle vier Schichten von Kontrollen und Audits durchlaufen zu lassen, darunter interne Bewertungen, externe Audits und Vorstandsprüfungen.

Das Mittagessen, das ein Abkommen hervorbrachte

Trump lud die Führungskräfte zu einem Treffen in das Weiße Haus ein. Die Gruppe umfasst Führungskräfte aus großen Technologieunternehmen, kleineren Unternehmen und KI-Laboren. Die Zusammenkunft wurde als Diskussion über KI-Sicherheit angekündigt, das Endprodukt ist jedoch eine Absichtserklärung.

Der Name des Abkommens, „Super Intelligence“, ist ein Regierungsbegriff für KI. Das Dokument fordert die Unternehmen auf, ihre Modelle vier Schichten von Kontrollen und Audits zu unterziehen. Diese Schichten umfassen interne Bewertungen, externe Audits und Vorstandsprüfungen.

Trump lobte die Vereinbarung während der Veranstaltung. Die Moderatoren von „Uncanny Valley“ merkten an, dass die Botschaft aus dem Weißen Haus einfach sei: „Wir haben das im Griff. Wir nehmen es ernst. Machen Sie sich keine Sorgen.“

Darios Amodeis unbeholfener Moment

Ein Moment vom Mittagessen hat online Aufmerksamkeit erregt. Trump bat Amodei, nach vorne zu treten und zu sprechen, lobte ihn und sagte: „Alles, was er sagt, ist in Ordnung.“ Die Moderatoren merkten an, dass Amodei nicht unbedingt bereit war, im Vordergrund zu stehen.

Der Austausch ist ein kleines Detail, erfasst aber den Ton der gesamten Angelegenheit. Eine vom Präsidenten gelobte Führungskraft ist nicht unbedingt eine willige Teilnehmerin.

OpenAI’s Ankündigung des Developer Days

Im selben Zeitraum veranstaltete OpenAI seinen Developer Day. CEO Sam Altman stellte die neuen KI-Agenten des Unternehmens für normale Nutzer vor, die die Moderatoren „KI-Agenten für Normalos, oder Dots, genannt“ nennen. Die Agenten sind dafür konzipiert, zusammen mit Menschen in alltäglichen Situationen zu arbeiten.

Arbeitgeber drängen KI-Agenten in den Arbeitsplatz

Da KI-Agenten immer häufiger werden, drängen Arbeitgeber darauf, dass sie mit menschlichen Mitarbeitern zusammenarbeiten. Die Moderatoren weisen darauf hin, dass der Prozess bereits im Gange ist und die Chancen, dass Bots in den Arbeitsmarkt eintreten, hoch sind.

Die Frage, wie gut Menschen und KI-Agenten zusammenarbeiten werden, ist offen. Die Moderatoren sehen die Situation darin, wie groß die Chancen sind, dass wir alle sehr bald einige Roboter-Kollegen begrüßen müssen.

Extremisten kandidieren für Ämter

Die Zwischenwahlen rücken näher, und der Podcast betrachtet einige der extremen Kandidaten, die für Ämter kandidieren. Die Moderatoren weisen darauf hin, dass es nicht nur politische Kandidaten sind, die sich ermutigt fühlen, was sie wollen zu sagen. Auch Personen, die derzeit oder erst kürzlich für die Regierung gearbeitet haben, äußern sich.

Ein Beispiel, das genannt wird, ist ein ehemaliger Armeekolonel, der zum Pentagon-Influencer wurde, der Lob für Diktatoren veröffentlichte und einen Plan hat, jedem ohne Kinder das Wahlrecht zu nehmen. Die Moderatoren beschreiben dies als Teil eines Musters von ermutigten Äußerungen unter Regierungsbeamten.

Was das Abkommen tatsächlich tut

Das Weißhaus-Abkommen ist eine freiwillige Vereinbarung. Die Unternehmen schreiben unter, aber die Moderatoren von Uncanny Valley sind skeptisch gegenüber der Vereinbarung.

Die Moderatoren weisen darauf hin, dass das Wort „freiwillig“ das Schlüsselwort ist. Sie fragen sich laut, ob nichts davon echt ist, und nennen es alles falsch.

Der Skeptizismus hinter dem Abkommen

Die Moderatoren von Uncanny Valley sind eindeutig daran zweifelnd, dass Selbstregulierung funktionieren wird. Die freiwillige Natur des Abkommens bedeutet, dass Unternehmen es ignorieren können.

Der Skeptizismus beruht auf der Geschichte freiwilliger Vereinbarungen. Unternehmen haben Anreize, Abstriche zu machen, und es gibt keine externe Kraft, die sie zur Rechenschaft zieht.

Der Zweifel der Moderatoren ist die zentrale Spannung der Episode. Sie stellen das Abkommen als eine Geste ohne Substanz dar, ein Versprechen mit kleinem Finger, das kein Gewicht hat.

Schlüsselinformationen-Box

• Ereignis: Weißer-Haus Mittagessen am Dienstag
• Vereinbarung: Weißes-Haus-Abkommen über Superintelligenz
• Unterzeichner: Sundar Pichai, Elon Musk, Dario Amodei, Mark Zuckerberg, Jensen Huang, Greg Brockman
• Nicht anwesend: Sam Altman, CEO von OpenAI
• Kontrollschichten: Interne Bewertungen, externe Audits, Prüfung durch den Aufsichtsrat
• Status: Freiwillig

Das Weißes-Haus-Abkommen ist eine Absichtserklärung, die als Regulierung getarnt ist. Es fordert Unternehmen auf, das Richtige zu tun, und vertraut ihnen, dies umzusetzen. Die Moderatoren von Uncanny Valley sind nicht überzeugt, dass dieses Vertrauen Bestand haben wird.

Die Episode endet mit einem Hinweis auf die Live-Aufnahme des Podcasts am Donnerstag, den 8. Oktober, um 19:00 Uhr im The Commons in San Francisco. Tickets sind auf kqed.org erhältlich.

Für die Zuhörer ist die Botschaft klar: Die KI-Zukunft kommt schnell, und die Regeln werden noch erfunden.

Quellenmaterial: „Trumps ‚moralisch bindendes‘ KI-‘Abkommen’, der Aufstieg von KI-Agenten und Extremisten auf dem Wahlzettel“, WIRED.