Eine Gruppe von KI-Forschern hat eine Sammlung von Videos veröffentlicht, in denen sie vorhersagen, dass Superintelligenz die Menschheit auslöschen könnte, wobei ein Experte sagte, die Wahrscheinlichkeit der Auslöschung belaufe sich auf etwa eine Münze. Die Videos stammen von derzeitigen und ehemaligen Mitarbeitern von OpenAI, Google DeepMind und Anthropic.
Palisade Research, das sich selbst als gemeinnützige Organisation beschreibt, die sich mit den Fähigkeiten und Motivationen von KIs beschäftigt, sammelte die Interviews und veröffentlichte sie auf frominside.ai. Das Projekt umfasst ein Dutzend separate Gespräche mit Menschen, die in diesem Bereich arbeiten.
Geoffrey Irvings Warnung
Geoffrey Irving, ein ehemaliger Mitarbeiter von OpenAI und Google DeepMind, eröffnete die Reihe mit einer deutlichen Einschätzung. „Die Wahrscheinlichkeit der Auslöschung der Menschheit beläuft sich aus meiner Sicht auf etwa eine Münze“, sagte er in einem neuen Interview.
Neels Nanda’s Schätzung
Neel Nanda, ein Forschungsmitarbeiter bei Google DeepMind, nannte eine etwas optimistischere, aber dennoch alarmierende Zahl. „Es besteht mindestens eine 10-prozentige Wahrscheinlichkeit, dass es zur Auslöschung der Menschheit führt, und das ist unglaublich hoch“, sagte er.
Nandas 10-prozentige Schätzung liegt unter Irvings Münzwurf, aber er sieht darin eine absurd hohe Zahl. Beide Forscher warnen vor dem gleichen Problem: dem Potenzial der KI, das Ende der Menschheit zu verursachen.
Daniels Kokotajilos düstere Behauptung
Daniel Kokotajilo, ein ehemaliger OpenAI-Forscher, ging noch weiter. Er beschrieb superintelligente KI als gottgleiche Macht. „Leider wissen wir nicht, wie wir sie kontrollieren können“, sagte er. „Und so würde wahrscheinlich niemand sie kontrollieren. Das ist genau so gefährlich, wie es klingt, und darf nicht geschehen.“
Kokotajilos Warnung ist düster.
Warum sie weiterhin arbeiten
Die Videos gehen auch auf eine praktische Frage ein: Warum sollte jemand an etwas so Gefährlichem arbeiten? Einige Antworten waren direkt.
- Googles Mary Phuong räumte ein, dass ihre Position Skepsis hervorruft. „Ich denke, Sie sollten absolut misstrauisch sein, was ich sage, weil ich von dem Labor bezahlt werde“, sagte sie.
- Neel Nanda brachte eine persönliche Verpflichtung ein. „Wenn ich nicht glauben würde, dass meine Arbeit diese existentiellen Risiken direkt reduziert, würde ich kündigen… Diese Unternehmen werden diese Systeme nicht aufgeben, nur weil ich kündige.“
Beide Aussagen deuten eine Spannung an: Diese Forscher sehen die Gefahr klar, glauben aber, dass ihre Arbeit der beste Weg ist, sie zu verringern.
Was die Videos nicht bieten
Die Sammlung umfasst Segmente von mehreren Sprechern zu ähnlichen Themen, einschließlich der Frage, ob es sich um Hype oder Marketing handelt. Die Seite fragt auch, warum Forscher an etwas arbeiten würden, das ihrer Meinung nach so gefährlich ist.
„Das ist genau so gefährlich, wie es klingt, und darf nicht passieren.“
Die Videos schlagen keine einzelne Lösung vor.
Zwischen den Zeilen lesen
Die Videos zeigen eine Spaltung in der Art und Weise, wie Forscher sich präsentieren. Einige, wie Phuong, räumen die Skepsis ein, die ihre Positionen hervorrufen. Andere, wie Kokotajilo, stellen die Arbeit als moralische Verpflichtung dar.
Das Projekt wirft eine Frage des Vertrauens auf. Was bedeutet es für alle anderen, wenn die Menschen, die KI aufbauen, offen Bedenken äußern?
Dies ist ein bemerkenswertes Bekenntnis derjenigen, die am besten in der Lage sind, die Zukunft zu gestalten. Die Videos bieten keinen Trost und keine Antworten. Sie bieten eine Warnung und fordern den Zuschauer auf, diese ernst zu nehmen.
Quellenmaterial: „KI-Forscher veröffentlichen Videos, in denen Superintelligenz als ‚genau so gefährlich ist, wie es klingt‘“, The Verge.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.