Sam Altman von OpenAI und Elon Musk haben beide mit Anthropics Boss übereingestimmt, der möchte, dass die gesamte AI-Industrie langsamer vorgeht. Das ist ein erheblicher Schritt. Doch niemand hat bisher erklärt, wie eine solche Verlangsamung in Praxis umgesetzt werden sollte.
Die Stimme des Bedauerns wird lauter. Samstag rief Dario Amodei, der Leiter von Anthropic, auf die Beschleunigung der Entwicklung aufmerksam. Sonntag berichtete Jacob Coxon, ein AI-Forscher, der Anthropic verlassen hatte, für die BBC, dass Mitarbeiter, die die Systeme entwickeln, „wirklich erschrocken“ seien für die Zukunft des Menschengeschlechts. Die Botschaft ist konsistent: die Technologie bewegt sich schneller, als irgendwer weiß, was damit anzufangen ist.
Was fehlt, ist das Konzept.
Amodeis Dreipunktplan
Amodei legte einen dreigliedrigen Plan vor: unabhängige Überwachung von AI-Modellen während der Entwicklung, geteilte Regeln über den ganzen Industriezweig, weltweite Kontrolle. Der Vorschlag deckt viel Abstand ab. Er hinterlässt auch viele offene Fragen.
Wer würde eine Verlangsamung durchsetzen, ist die primäre Frage. Würden die AI-Gesellschaften ihre eigene Inaktivität melden sollen? Das würde eine riesige Menge an Vertrauen erfordern, das die Technologiebranche wohl nie aufgebaut hat.
Es gibt auch einen echten Grund, Modelle nicht zu pausieren. Wenn Unternehmen ihre AI-Systeme nicht mehr weiterentwickeln, werden diese Systeme zu einfachen Zielen für Konkurrenten. Die Grenze könnte steigen, doch die Technologie selbst bleibt eingefroren, studiert und kopiert von chinesischen Laboren. Preise müssten sich ändern. Niemand kann sagen, wie sich das alles entfaltet.
Warum Niemand Will Erster Sein
Der Wettkampf geht weit über technische Überlegenheit hinaus. Die Vereinigten Staaten gelten allgemein als besorgt, in der AI-Kontrolle hinter China zurückzufallen. Zum Ende Sonntags äußerte Präsident Trump seine eigene Position dazu, dass die USA China in der AI-Wette führt, und behauptete: „Wer immer AI gewinnt, gewinnt.“
Niemand will Nummer Zwei in China sein. Jeder, mit dem ich rede, sagt, dass selbst wenn ihr eigenes Unternehmen aufhört, Konkurrenten nicht aufhören werden, und sie einfach zurückfallen werden. Diese Situation erinnert mich an den Höhepunkt des Streites um nukleare Abrüstung. Damals war die Frage, dass niemand erster sein wollte.
Was eine Verlangsamung für das Vereinigte Königreich bedeuten würde
Der UK hat die KI in vielen Bereichen durchdrungen, darunter Gesundheitsversorgung, wo Pläne bestehen, ihre Nutzung innerhalb der NHS zu erweitern, um Patienten zu unterstützen. Die Technologie gab dem britischen Wirtschaft auch im Sommer einen bemerkbaren Aufschwung, während Menschen zunehmend aufgefordert werden, sie für Arbeit, Bildung und den täglichen Lebens zu übernehmen.
Das Antrieb der wirtschaftlichen Entwicklung steht am Herzen der UK-Strategie, und diese Industrie spielt eine zentrale Rolle dabei. „Es gibt kein Plan B“ sagte ein ehemaliger Regierungsratgeber zu mir. Die Frage ist, ob eine Verlangsamung die Zukunftsperspektiven des Sektors hier in Großbritannien beschädigen könnte.
Der KI-Sektor verbraucht immense Mengen an Geld und natürlichen Ressourcen. Er hat noch nicht nahezu gleichwertige Rückzahlungen generiert. Eine Reihe von Berichten deutet darauf hin, dass mehrere Unternehmen, die die Technologie umarmen, sie enttäuschend finden.
Die Blasefrage
Ökonomen spekulieren weitgehend, dass selbst die aktuellen Giganten nicht alle überleben werden. Ein gewisser „Ebenbürtigwerden“ kommt, auch bekannt als Blasenplatze. Aber die Firmen, die es schaffen, könnten sich zu den mächtigsten Mega-Konzerren der Welt entwickeln, und das bringt seine eigenen Probleme mit sich.
Das Verhindern seines Vorstoßes auf den Börsenmarkt kann wie ein Zeichen dafür wirken, dass OpenAI endlich Verantwortung für öffentliche Sicherheit übernimmt. Oder es kann sich um die Bewegung eines Unternehmens handeln, das realisiert hat, dass es den lukrativen Ausgleich vielleicht nicht erhält, solange sein gesamtes Produkt als tödlich angesehen wird.
Die Unbekannten voranschreiten
Alexander Voica, von der UK-KI-Firma Synthesia, sagt, dass einer der wahrscheinlich größten Herausforderungen, denen wir heute gegenüberstehen, ist, dass niemand präzise voraussagen kann, wohin diese Technologie geht. „Wir wissen, dass diese Systeme stärker werden, aber wir wissen nicht, wo und wie sie verwendet werden, und wir haben nicht herausgefunden, eigentlich eine Möglichkeit, ihrem vollem Potenzial zu nutzen.“
„Meine einzige Sorge beim Eilen, jetzt zu regulieren, wo noch viele offene Fragen existieren, ist, dass es tatsächlich zurückschlagen könnte.“
Investoren-Geld unterliegt alles
Der Gründer von Sustainable AI ist Sasha Luccioni, laut „Ich mache mich nicht über die Existenzrisiken der KI Sorgen, ich mache mich über die Firmengier der Unternehmen, die sie erschaffen, Sorgen.“
Professor Dame Wendy Hall, eine führende Informatikerin, die die UN zu KI beraten hat, argumentiert, dass der jetzige Krisenherd von Unternehmen herrührt, die sich nicht verantwortungsbewusst verhalten. Sie vergleicht das mit einem Farmer, dessen Stier sein Gehege entkommt und Schaden anrichtet, wobei der Farmer dann dem Tier die Schuld gibt, statt dem zugrunde liegenden Problem zu begegnen.
„Natürlich ist es nicht der Schuld des Stiers — es ist der des Farmers,“ sagt sie. Die Zaunverstärkungen waren offensichtlich nicht robust genug, und das ist genau das, was sie jetzt mit den KI-Gefahrsicherungen sieht.
Die Gefahr einer KI-regulierten Zerstörung
Einige glauben, dass es einen geheimnisvolleren, politisch motivierten Druck für ein regelbasiertes Abtasten gibt, um „KI in die Zerstörung zu regulieren.“ Parker Thayer, ein erforschender Analyst am rechtsgerichteten Kapital Research Centre Denkwerkstatt, brachte es auf X diese Woche vor.
Der Beitrag erhielt nahezu acht Millionen Aufrufe. Er drückt eine weit hergeholte Behauptung aus, die keinen Beweis hinterlässt, zeigt aber, dass nicht jeder damit einverstanden ist, dass Regulierung alles beheben kann.
Der Schluss
Es gibt reichlich ernsthafte Worte, die nach einem langsameren Tempo rufen. Doch die gleichen Stimmen haben noch keinen Konsens darüber erzielt, wie ein langsames Tempo tatsächlich aussehen würde.
Ed Zitron, Geschäftsführer von EZ Primary Research, sprach es direkt aus: „Niemand hat eine substantielle Erklärung für ‚langsam machen‘ gegeben.“ Er fragte sich, wie Amodeis Plan in der Praxis funktionieren würde, bemerkte, dass das Einführen eines Pflanzen von METR, wo einer der Jungs, die von Anthropic kamen, abgetreten war, in jede KI-Firma schwierig zu koordinieren wäre. „Demokratischer und globaler ‚Koordinierung‘? Das bedeutet mir nichts.“
Diejenigen, die die Alarmanlage läuten, sind zufrieden mit der Aufmerksamkeit, obwohl das Schema, das sie vorschlagen, viel zu wünschen übrig lässt.
Tatsachenbox
- Dario Amodei, Leiter von Anthropic, forderte am Samstag einen langsameren Tempo
- Sam Altman von OpenAI und Elon Musk sagten, sie seien einverstanden
- Jacob Coxon, ehemaliger Anthropic-Forscher, sagte der BBC, dass die Mitarbeiter „wirklich erschrocken“ waren.
- Alexander Voica ist vom britischen AI-Unternehmen Synthesia.
- Sasha Luccioni ist Gründerin von Sustainable AI.
- Professor Dame Wendy Hall hat der UN bei Fragen des AI-Gebrauchs beraten.
- Parkers Thayers Beitrag auf X wurde fast acht Millionen Mal angesehen.
Die Warnleuchten sind eingeschaltet. Der Sektor investiert auf einer Ebene, die zu seinen Zielen passt. Die Gefahren werden ohne Versteckspiel besprochen. Dennoch ist der Weg nach vorn nicht festgelegt.
Eine langsamer werdende Wirtschaft könnte den Bubble platzen lassen. Sie könnte auch das Gewerbe schwächer machen, weniger fähig, mit Konkurrenten umzugehen, die weiter voranschreiten. Zu diesem Zeitpunkt wissen wir fast nichts über das, was ein „Abklingen“ tatsächlich bedeutet.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.