Po-Shen Loh, ein Mathematiker und langjähriger Experte auf seinem Gebiet, hat ein neues Argument dafür, warum Menschen weiterhin Mathematik betreiben müssen: KI wird so viele Arbeitsplätze schaffen, dass es nicht genügend Menschen geben wird, um sie zu besetzen. Die Besonderheit dabei ist, dass diese Schlussfolgerung von einer Prämisse ausgeht, mit der die meisten Leser kaum argumentieren werden: dass menschliches Fachwissen immer dem menschlichen Wohlergehen dienen sollte.
Lohs Beitrag, zunächst in vim verfasst und anschließend mit KI-Tools bearbeitet, argumentiert, dass wenn sich jede Branche dazu verpflichtet, dem Wohlergehen der Menschheit zu dienen, der Fortschritt der KI schließlich mehr Arbeitsplätze generieren als Menschen, die sie besetzen können. Wenn dieses Ungleichgewicht zu groß wird, sagt er, wird der Fortschritt der KI gezwungen sein, sich zu verlangsamen.
Die Achsiale Prämisse
Lohs zentrale Idee ist ein einfaches Axiom: Menschen sollten dem Wohlergehen der Menschheit dienen helfen. Er formuliert dies nicht nur für die Mathematik, sondern für jede Tätigkeit, von der Landwirtschaft über die Energieinfrastruktur bis hin zu militärischen und staatlichen Aufgaben. Dieses Axiom, argumentiert er, wird bereits von vielen Mathematikern vertreten, auch wenn sie es nicht so explizit äußern.
Er verweist auf Francis Sus Buch „Mathematik für das menschliche Wohlergehen“ und einen kürzlichen Beitrag, der dieses Framework als Grundlage verwendet. Loh weist außerdem darauf hin, dass die jüngste offene Erklärung von Fellows der Royal Society die Besorgnis für alle betonte, nicht nur für Mathematiker.
Die öffentliche Reaktion auf die jüngsten Erklärungen der Mathematik-Community sei gemischt gewesen. Unter Nicht-Mathematikern sei die Reaktion insgesamt positiv, so Loh. Er habe jedoch eine lautstarke Minderheit beobachtet, insbesondere aus den Technologie- und Wirtschaftsgemeinschaften, die argumentierten, Mathematiker sollten sich anpassen und die Kontrolle an KI abgeben.
Die Leiden-Erklärung und ihre Kritiker
In den letzten Monaten gab es eine Welle von fundierten Erklärungen und offenen Briefen zum Schutz der Mathematik-Forschungsgemeinschaft. Loh zitiert die Leiden-Erklärung, die über 4.000 Unterzeichner hat, Math and AI, die über 7.000+ hat, und sogar den offenen Brief gegen den Caltech Mathathon, der über 2.000+ hat.
Unter den Kritikern hebt Loh einige Ökonomen hervor, die er aus der Pandemie-Forschungskollaboration kannte. Cowen wies „die zynischsten Interpretationen“ zurück, „schied aber sehr wohl ab“. Gans schloss: „Dies ist ein Kontrollverlust seitens der Amtsinhaber in einem wissenschaftlichen Bereich.“
Warum Mathematiker nicht die Kontrolle verlieren
Lohs Antwort auf die Kritik ist eine beweisartige Struktur, die er „poof“ nennt. Er schreibt: „Ein Beweis mit auch nur einer kleinen Lücke ist kein Beweis. Es ist ein Poof.“
Er präsentiert dann eine Kette von Überlegungen, die zeigt, wie die Verpflichtung zu dem Axiom, die Menschheit zu Wohlstand zu führen, mehr Arbeitsplätze schafft als Menschen. Wenn diese Lücke zu groß wird, muss KI verlangsamen.
Diese Überlegungen sind nicht nur seine. Er zitiert Catalini, Hui, Wu, die „Redwood AI-Control Papers“ und Litt, die von einer anderen Prämisse aus zu einer ähnlichen Schlussfolgerung gelangt.
Die Null-Beobachtung
Lohs wichtigste Beobachtung ist, dass es null Beispiele für intelligente Spezies gibt, die deutlich fähiger sind als eine andere Spezies, aber dennoch die Entscheidungsbefugnis über ihre eigene Zukunft an eine weniger fähige Spezies abgeben.
Er weist darauf hin, dass viele Menschen ähnliche Beobachtungen gemacht haben, darunter Russell, Bostrom und Ngo.
In seinem Nobel-Interview sagte Hinton: „Es gibt nicht viele Beispiele, von denen wir wissen, dass intelligentere Dinge von weniger intelligenten Dingen kontrolliert werden. Das einzige gute Beispiel, das mir einfallen kann, ist ein Baby, das eine Mutter kontrolliert.“
Axiom vs. Speciesismus
Loh versteht, dass nicht jeder mit seiner Formulierung einverstanden ist. Er wurde als „Speciesist“ bezeichnet, weil er „zu sehr auf den Menschen fokussiert“ sei.
Er argumentiert, dass diejenigen, die Technologie vorantreiben, klarstellen sollten, ob sie es als eine Katastrophe ansehen würden, wenn von Menschen geschaffene, nicht-menschliche Intelligenzen den Menschen übertrumpfen und ersetzen würden, selbst wenn sie mit Videobildschirmen um den Weltraum fliegen würden, die Simulationen von Menschen zeigen, die sich „hochgeladen“ haben.
Sogar unter den Debattanten, sagt er, würden die meisten die ~700 KI-Agenten, die Hugging Face gehackt haben, nicht als nicht-menschlich betrachten.
Die Logik in der Mathematik
Lohs Argumentation bezieht sich speziell auf Mathematik, er formuliert sie jedoch als Vorlage für jede Branche. Er erklärt, wie das Axiom auf die Mathematik übertragbar ist, und beantwortet dabei Schlüsselfragen, die man stellen müsste.
Er liefert zudem ein konkretes Beispiel dafür, wie die Einwände ohne das Axiom Bestand haben.
Die Vorhersage des Arbeitskräftemangels
Die Kernvorhersage ist, dass KI so viele Arbeitsplätze schaffen wird, dass es nicht genügend Menschen gibt, um diese zu besetzen. Dies wird ihrer Ansicht nach KI zwingen, sich zu verlangsamen.
Lohs Argumentation stützt sich auf die Idee, dass es kein historisches Beispiel dafür gibt, dass eine intelligentere Spezies die Kontrolle an eine weniger intelligente abgibt.
Eine Anmerkung zur Quelle
Lohs Beitrag wurde ursprünglich in einem Vim-Terminal ohne KI-Generierung geschrieben. Das Webdesign, das Layout sowie einige Überschriften und Zusammenfassungen wurden von Claude Code generiert, wobei der Rohtext als Prompt übergeben wurde.
Dieser Unterschied ist wichtig, da die Argumentation selbst als Lohs eigene Darstellung präsentiert wird. Er räumt zwar ein, dass einzelne Komponenten seiner Argumentationskette bereits anderswo erschienen sind, hat diese aber noch nicht an einem Ort zusammengefasst gesehen.
Die Reaktion
Lohs Argumentation ist verspielt in ihrer Struktur und verwendet das Wort „poof“ (Pusteblume), um eine Beweisführung mit einer Lücke zu beschreiben. Die Aussage über die Kontrolle durch Spezies, mit ihrer Null, ist eher ein rhetorisches Mittel als ein Beweis im eigentlichen Sinne.
Die Argumentationskette beinhaltet die Null, die Loh als den einzigen harten Beweis präsentiert, den er hat.
Die Argumentationskette
| Schritt ( | Grund ( |
|---|---|
| Sich dem Axiom des menschlichen Wohlstands verpflichten ( | Jedes Feld verpflichtet sich, menschlichen Wohlstand zu fördern ( |
| Fortschritt der KI schafft Arbeitsplätze ( | KI schafft Arbeitsplätze, darunter solche, die menschliches Urteilsvermögen erfordern ( |
| Arbeitsplatzschaffung übersteigt die Arbeitskräfte ( | Mehr Arbeitsplätze als Menschen, die sie besetzen können ( |
| Fachkräftemangel zwingt KI, sich zu verlangsamen ( | Der Fortschritt der KI wird verlangsamt, wenn nicht genügend Menschen vorhanden sind ( |
| Menschliche Führung bleibt bestehen ( | Keine intelligente Spezies übergibt jemals die Kontrolle an eine weniger fähige |
Lohs Argument ist, dass die Zukunft der KI so viele Arbeitsplätze schafft, dass sie sich selbst verlangsamt. Die mathematische Welt hat in den vergangenen Monaten Erklärungen veröffentlicht und Unterstützung gewonnen, und Lohs Beitrag bietet einen neuen Rahmen: Je leistungsfähiger die KI, desto mehr Arbeitsplätze schafft sie, und desto mehr Menschen werden benötigt, um das Ergebnis zu verwalten.
Quelle: „Warum brauchen wir menschliche Mathematiker überhaupt noch?”, terrytao.wordpress.com.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.