Timnit Gebru, die KI-Forscherin, die Google nach einer Auseinandersetzung über eine von ihr mitverfasste Arbeit verließ, sagt, dass die Diskussion über existenzielle Risiken in der Industrie von den eigentlichen Schäden künstlicher Intelligenz ablenkt. Ihr Argument, das sie in einem kürzlichen Interview darlegte, konzentriert sich darauf, wer von der Panikmacke profitieren kann.
Gеbru’s frühere Forschung konzentrierte sich auf „stochastische Papageien“, einen Begriff, der Systeme beschreibt, die einfach Muster aus ihren Trainingsdaten wiederholen. Diese Arbeit zog Kritik aus einigen Kreisen auf sich, darunter von einem Anthropic-Mitgründer, der argumentierte, dass moderne KI tatsächlich logisch denken kann. Gebru stimmt dieser Einschätzung nicht zu und sieht die Darstellung des existenziellen Risikos als mit den gleichen Investoren verbunden, die die Unternehmen selbst finanzieren.
Existenzielle Risiken – Eine Lange Geschichte
Die Erzählung lässt sich bis ins Jahr 2013 zurückverfolgen, als Elon Musk und Peter Thiel begannen, vor der Bedrohung durch KI für die Menschheit zu warnen. Seitdem wiederholt sich diese Botschaft alle drei Jahre, so Gebru. Das Future of Life Institute, gegründet vom Physiker Max Tegmark und dem Milliardär Jaan Tallinn, war eine zentrale Stimme.
Tallinn ist auch Mitgründer von Skype und finanziert METR, den Auditor, dessen Bericht über OpenAIs abtrünnige Agenten, die Hugging Face hackten, viral ging. Gebru weist darauf hin, dass die gleichen Personen, die Anthropic gründeten und finanzierten – das Unternehmen, das sich nun auf einen Börsengang vorbereitet – auch die Institutionen gründeten und finanzierten, die vor dem existenziellen Risiko der KI warnten.
Die Maschinen-Gott-Ablenkung
Gebru beschreibt die Erzählung vom Maschinen-Gott als schädlich, nicht nur als Ablenkung. Sie sagt, das Muster sei offensichtlich: Investoren, die von einem Börsengang eines Unternehmens profitieren können, sind diejenigen, die behaupten, es könne etwas bauen, das uns alle das Leben nimmt.
„Es ist noch mehr als eine Ablenkung. Es ist schädlich.“
Sie respektiert die ehemalige FTC-Vorsitzende Lina Khan, die gesagt hat, dass bestehende Gesetze für KI-Unternehmen gelten und diese keine Ausnahmen beanspruchen sollten. Gebru sieht die Darstellung des existenziellen Risikos als selbstverherrlichend an, mit Unternehmen, die sich als Zukunftsgestalter positionieren und gleichzeitig warnen, dass die Zukunft beängstigend sein könnte.
Die Zwei Seiten der KI
Die Ironie, so Gebru, besteht darin, dass dieselben Menschen, die vor existenziellen Risiken warnen, gleichzeitig eine Utopie versprechen. KI könne den Klimawandel stoppen, den Weltfrieden bringen und die Armut auslöschen, sagt sie. Die Widersprüche liegen auf der Hand, da dieselben Akteure beide Überzeugungen gleichzeitig vertreten.
| Schauspieler | Rolle |
|---|---|
| Elon Musk | Frühzeitige Warnung vor KI-Risiken |
| Peter Thiel | Frühzeitige Warnung vor KI-Risiken |
| Max Tegmark | Mitbegründer des Future of Life Institute |
| Jaan Tallinn | Mitbegründer des Future of Life Institute, Mitbegründer von Skype |
| Anthropic | Das Unternehmen bereitet sich auf den Börsengang vor ( |
Wer profitiert? (
Wenn Unternehmen sagen, KI stelle eine existenzielle Gefahr dar, sprechen sie auch Investoren und Regierungen an. An Investoren implizieren sie, dass der Besitz dieser leistungsstarken Systeme wünschenswert ist. An Regierungen warnen sie, dass Gegner sie in die Hände bekommen könnten. (
Gebru fragt, warum jemand, der von dem Erfolg eines Unternehmens profitieren kann, warnen sollte, dass es uns alle vernichten könnte. Die Antwort, so deutet sie an, diene sowohl der Kapitalbeschaffung als auch politischen Zwecken. (
Die tatsächlichen Risiken von KI (
Gebru möchte den Fokus auf die tatsächlichen Risiken von KI zurückführen, darunter Voreingenommenheit und die Art und Weise, wie Systeme problembehaftete Sichtweisen fortsetzen. Ihr Buch, „Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist“, wird voraussichtlich Anfang nächsten Jahres erscheinen. (
Ihr übergeordneter Punkt ist, dass die Erzählung über existenzielle Risiken eine strategische Ablenkung sei. Sie lenkt die Aufmerksamkeit von den konkreten Problemen ab, die KI bereits verursacht. (
Das Muster setzt sich fort (
Das Interview, das von Lauren Goode geführt wurde, stützt sich auf Gebru’s Erfahrung mit der Rhetorik der Branche. Sie hat dieses Muster schon seit Jahren beobachten können und ist davon überzeugt, dass die Erzählung tatsächlich Schaden anrichtet. (
Gebru’s Position ist klar: Die Einrahmung des existentiellen Risikos sei keine harmlosen Spekulationen. Es ist eine strategische Ablenkung. (
Die Kernbotschaft (
Gebru’s Argument ist nicht, dass KI harmlos sei. Es ist, dass die Einrahmung des existentiellen Risikos die Bedrohung übertreibe und gleichzeitig die praktischen Risiken von Voreingenommenheit und problembehafteten Sichtweisen ignoriere. Diese Risiken sind real, messbar und dringend. (
Die Leute, die Alarm schlagen, argumentiert sie, sind dieselben, die davon profitieren könnten.
Quelle: „Timnit Gebru Believes There Is No ‘Existential Threat’ From AI,” WIRED.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.