Ein junger Forscher veröffentlichte Anfang September auf X eine Warnung über die großen KI-Labore, die um die Entwicklung von Superintelligenz wetteifern. Der Thread erreichte innerhalb eines Tages mehr als 100 Millionen Aufrufe. Innerhalb einer Woche forderte der Geschäftsführer von Anthropic eine Verlangsamung des Tempos der KI-Fortschritte. Die Leiter von OpenAI und xAI äußerten ihre Zustimmung. Am 14. September fiel der Hauptindex der Chipaktien in einer einzigen Sitzung um 5,9 %.
Die Warnung, die alles auslöste
Der Forscher, 27 Jahre alt, schrieb, dass die großen KI-Labore „geradezu auf selbstverbessernde Superintelligenz zusteuern und mit unserem Leben spielen“. Seine Posts zogen schnell große Aufmerksamkeit auf sich. Der Thread erreichte eine enorme Reichweite und löste eine Kettenreaktion in der Branche aus.
Reaktion des Geschäftsführers von Anthropic
Der Geschäftsführer von Anthropic reagierte schnell auf die Warnung. Er forderte eine Verlangsamung des Tempos der KI-Fortschritte. Die Maßnahme erfolgte innerhalb einer Woche, nachdem die Posts viral gegangen waren.
OpenAI und xAI folgen
Die Leiter von OpenAI und xAI schlossen sich der Forderung an. Beide Unternehmen äußerten ihre Unterstützung für die Bemühungen, die Entwicklung zu verlangsamen.
Der Kursverfall der Chipaktien
Am 14. September fiel der Hauptindex der Chipaktien in einer einzigen Sitzung um 5,9 %. Der Zeitpunkt war bemerkenswert, obwohl die Quelle keinen direkten Zusammenhang zwischen der Forderung und dem Kursverfall feststellte.
Was sich geändert hat
Die Technologie selbst hat sich nicht geändert. Die Stimmung hat sich geändert.
Das Geschäftsmodell dahinter
Die Warnung schuf Panik. Diese Panik führte zu einer Reaktion von den Laboren, die wiederum eine Marktreaktion auslöste.
Wer profitiert von Angst
Diejenigen, die davon profitieren, sind diejenigen, die Angst verkaufen. Sie profitieren von der Stimmung, nicht von der Technologie selbst.
Die Kosten der Panik
Der Aktienmarkt reagiert auf die Stimmung genauso wie auf fundamentale Faktoren. Ein Rückgang von 5,9 % in einer einzigen Sitzung zeigt, wie schnell eine Veränderung der öffentlichen Meinung Geld bewegen kann.
Wo diese Zeitung steht
Diese Zeitung unterstützt die Warnung des Forschers vor der Richtung der KI-Labore selbst und ist gegen den Aufruf der Branchenführer, die Entwicklung von KI zu verlangsamen, was wahrscheinlich die sehr Giganten zementieren würde, vor denen diese Zeitung warnt. Die Warnung selbst war ein Schrei gegen die Labore, die ohne Rücksicht auf menschliche Risiken auf übermenschliche Intelligenz zusteuern; die Reaktion von Anthropic’s Geschäftsführer und die Unterstützung von OpenAI und xAI verwandelte diese Warnung in eine Forderung, das Tempo des Fortschritts einzufrieren. Diese Forderung ist das Problem, nicht die Warnung.
Die Sorge dieser Zeitung besteht darin, dass eine Verlangsamung der KI-Entwicklung den Markt den etablierten Unternehmen überlassen würde. Lizenzbestimmungen und Compliance-Kosten, die sich nur die Giganten leisten können, sind ein Schutzwall, kein Schutz. Die Forscher, die Alarm schlagen, verdienen es, gehört zu werden, aber die Unternehmen, die mit der Bitte um eine langsamere Entwicklung antworten, bitten um Erlaubnis, ihre dominante Position zu behalten. Diese Zeitung würde lieber enge Regeln gegen direkten Schaden sehen, wie z. B. die Verpflichtung von Unternehmen, Sicherheitslücken preiszugeben, die sie verborgen haben, als breit gefächerte Regeln, die jeden ausschließen, der die Giganten herausfordern würde.
Leser sollten die nächsten Schritte der Labore beobachten. Wenn die größten Unternehmen um Regulierung bitten, fragt diese Zeitung, wen diese Regeln ausschließen würden.
Kasten mit wichtigen Fakten
- Ein 27-jähriger Forscher veröffentlichte im frühen September eine Warnung auf X.
- Der Thread erzielte innerhalb von etwa einem Tag mehr als 100 Millionen Aufrufe.
- Der Vorstandsvorsitzende von Anthropic forderte innerhalb einer Woche eine Verlangsamung des Tempos des KI-Fortschritts.
- Die Leiter von OpenAI und xAI äußerten ihre Unterstützung für die Forderung nach einer Verlangsamung.
- Der Haupt-Chip-Aktienindex fiel am 14. September in einer einzigen Sitzung um 5,9 %.
Die Warnung löste Panik aus. Die Panik führte zu einer Reaktion. Die Reaktion bewegte die Märkte.
Sehen Sie eine Reihe von 14 Bildern beim Washington Examiner.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.