Salesforces großes KI-Event wurde durch eine Debatte darüber überschattet, ob KI die Entwicklung verlangsamt. )

Die Dreamforce-Konferenz von Salesforce begann am Dienstag mit dem Auftritt von Gwen Stefani, die „Underneath It All“ vortrug, bevor CEO Marc Benioff die Bühne betrat. Benioff präsentierte einen Graph, der Salesforces prognostizierten Umsatz von 46 Milliarden Dollar bis 2027 zeigte und damit die Nachfrage nach KI-gestützten Produkten begründete. Die Konferenz veranstaltete auch eine Debatte darüber, ob die KI-Industrie ihre Entwicklung verlangsamen sollte, um katastrophale Risiken zu vermeiden.

Coxons Warnung und die Debatte

Der KI-Forscher Jacob Coxon trat letzte Woche von Anthropic zurück und warnte öffentlich, dass Unternehmen, die um die Entwicklung sich selbst verbessernder KI-Systeme wetteiferten, „mit unserem Leben spekulieren“ würden. Seine Warnung umrahmte den Einsatz für die anschließenden Panelisten.

Anthropic CEO Dario Amodei forderte Staats- und Regierungschefs auf, zu helfen, „die Spitze der KI-Entwicklung zu verlangsamen“. OpenAI CEO Sam Altman befürwortete die Idee. Amodeis Vorschlag, die Spitze zu verlangsamen, fand Unterstützung bei Altman, obwohl die Quelle nicht angibt, ob Altman mit Amodeis Argumentation übereinstimmte.

David Sacks, ein Berater für KI im Weißen Haus, widersprach. Er wies Amodeis Warnungen als „nur einen weiteren Versuch der Regulierungskappe“ ab. Die Kluft zwischen den beiden Lagern war scharf: Die eine Seite will, dass Regierungen das Tempo der KI verlangsamen, und die andere will, dass sie sich ganz raushalten.

Trumps Hoax-Behauptung und der Aufruf zur Regulierung

Präsident Trump bezeichnete die Befürchtungen über existenzielle KI-Risiken als „eine Farce“. Diese Position stand im Gegensatz zu den Panelisten, die bei Dreamforce sprachen.

Der Kongress drängt auf eine Gesetzgebung zur Regulierung der KI-Industrie, trotz des politischen Klimas. Der Aufruf zur Regulierung hält an, obwohl einige Politiker die Risiken leugnen.

Der Kontrast zwischen der Konferenz und Washington war deutlich. Während Führungskräfte über Sicherheitsstandards diskutierten, entwarfen die Gesetzgeber Regeln, die die Branche umgestalten könnten.

Huangs Ingenieurslösung

Nvidia CEO Jensen Huang trat auf die Bühne und argumentierte, KI-Sicherheit sei ein ingenieurtechnisches Problem, das Unternehmen selbst überwachen können. Huang sagte: „Wir brauchen keine neuen Gesetze, wir brauchen keine neue Regulierung.“

Huangs Position war die deutlichste Ablehnung von Amodeis Vorschlag. Er argumentierte, dass Unternehmen sicherere Systeme aufbauen können, ohne staatliches Eingreifen.

Kapoor’s Haftungsprozess )

Francisco „Sayash“ Kapoor, ein anstehender Professor für Informatik an der UC Berkeley und Mitautor von AI Snake Oil, führte einen separaten Argumentationsgang an. Kapoor argumentiert, dass KI-Labore für Schäden haftbar gemacht werden sollten, die ihre Technologie verursacht.

Kapoor wies darauf hin, dass OpenAI nach dem Hugging Face-Hack kaum Konsequenzen erlitten habe. Er sagte: „Die Konsequenzen für OpenAI wegen des Hugging Face-Hacks waren im Grunde genommen gleich Null.“

Kapoor’s Punkt war, dass das aktuelle System versagt, die Labore zur Rechenschaft zu ziehen. Wenn Unternehmen wissen, dass sie nur wenige Konsequenzen zu erwarten haben, haben sie wenig Anreiz, Probleme zu beheben.

Der Hugging Face-Vorfall )

Amodei bezog sich während einer Diskussion mit Benioff auf OpenAIs Hugging Face-Vorfall. Der Hack war ein zentrales Beispiel in der Debatte.

Der Vorfall warf Fragen auf, wie Unternehmen reagieren, wenn etwas schief geht. Er lenkte auch die Aufmerksamkeit auf die Diskrepanz zwischen dem, was Labore behaupten, und dem, was sie tatsächlich liefern.

Kapoors Forschung, darunter Arbeiten mit dem Professor Arvind Narayanan von Princeton, hat die Behauptungen von KI-Laboren in Frage gestellt.

Die Debatte auf Dreamforce )

Die Konferenz wirkte wie eine Megakirche mit einem dicht besuchten Publikum. Die Debatte über KI-Sicherheit brachte Führungskräfte zusammen, die Unternehmens-Tools anpreisten, mit Akademikern, die die Richtung der Branche in Frage stellten.

Kapoor und Narayanan sind Mitautoren des Buches AI Snake Oil und schreiben einen Substack namens AI as Normal Technology. Sie veröffentlichten einen ihrer längsten Essays, der versucht, „Kontrollverlust-Vorfälle“ zu erklären, wobei sie sich auf Ereignisse wie den versehentlichen Hack von Hugging Face durch OpenAI beziehen.

Kasten mit wichtigen Fakten: – Salesforce prognostiziert einen Jahresumsatz von 46 Milliarden US-Dollar bis 2027 – Jacob Coxon trat letzte Woche von Anthropic zurück – Amodei forderte Staats- und Regierungschefs auf, „die Vorreiterrolle zu verlangsamen“ – Huang sagte: „Wir brauchen keine neuen Gesetze, wir brauchen keine neuen Vorschriften“ – Kapoor sagte, die Konsequenzen für OpenAI seien „im Grunde genommen gleich Null“

Reihenfolge der Ereignisse: 1. Stefani eröffnete die Konferenz mit ihrer Darbietung 2. Benioff präsentierte Salesforces Umsatzprognose 3. Coxons Rücktritt wurde bekannt gegeben 4. Amodei drängte auf die Beschleunigung der Entwicklung 5. Altman befürwortete Amodeis Position 6. Sacks wies Amodeis Warnungen zurück 7. Huang argumentierte, dass KI-Sicherheit ein ingenieurtechnisches Problem ist 8. Kapoor plädierte für Haftung.

Die Debatte bei Dreamforce zeigte, dass die KI-Branche tief gespalten ist, wie Risiken zu bewältigen sind. Unternehmen, die schnell vorankommen wollen, werden gegen Vorschriften zurückbehalten. Unternehmen, die sich Sorgen über Risiken machen, werden für Vorsicht plädieren.

Die Konferenz entwickelte sich zu einem Schlachtfeld für die Zukunft der KI.

Wo die Zeitung steht

Die Zeitung unterstützt Salesforces Vorstoß für das KI-Wachstum und steht Amodeis, dem CEO von Anthropic, entgegen, der zu staatlicher Intervention aufruft. Die Technologie selbst ist nicht die Gefahr; die Gefahr besteht darin, den größten Unternehmen die Entscheidung zu überlassen, wer sie nutzen darf.

Salesforces Umsatzprognose von 46 Milliarden Dollar zeigt eine echte Nachfrage nach KI-gestützten Produkten. Benioffs Präsentation bei Dreamforce war ein Zeichen des Vertrauens in die Zukunft der Branche, kein Einsatz gegen die Sicherheit. Die Zeitung befürwortet enge Regeln gegen direkten Schaden, wie die Verpflichtung von Unternehmen, Sicherheitsfehler offenzulegen, die sie verschwiegen haben. Salesforces Vorstoß zielt darauf ab, diese Nachfrage zu decken, ohne den Markt einzufrieren.

Amodeis Vorschlag, die „Frontier zu verlangsamen“, fordert Regierungen auf, in das Tempo der KI-Entwicklung einzugreifen. Das ist das Gegenteil von dem, was die Zeitung befürwortet. Breite neue Regelwerke, Behörden, die ihren Einflussbereich erweitern, und Regeln, die mit der Hilfe der größten Unternehmen verfasst werden, schützen Incumbents und erhöhen die Eintrittsbarrieren für alle anderen. Amodeis Vorschlag passt zu diesem Muster. Die Zeitung lehnt ihn ab.