Amit Sahai, ein Mathematiker, der Jahre damit verbracht hat, mit KI-Systemen zu arbeiten, hat eine einfache Warnung an seine Kollegen: die Maschinen werden Sie bald überholen, und Sie sollten das nicht nur akzeptieren, sondern mehr Menschen ausbilden, um Schritt halten zu können. Sein Artikel mit dem Titel „We’re gonna need a lot more mathematicians“ argumentiert, dass die menschliche Forschungsgemeinschaft expandieren, anstatt zu schrumpfen, muss, da KI immer mehr neue Ideen hervorbringt.
Sahai erinnert sich an seine eigenen Studienjahre, als er sah, wie Klassenkameraden Schwierigkeiten hatten, mit den schnellsten Mathematikstudenten mitzuhalten. Diese Studenten gaben schließlich die mathematische Forschung auf. Jetzt sagt Sahai, KI verrichtet gegenüber der gesamten Disziplin das, was diese Spitzstudenten mit ihren Kollegen anstellten.
Die Maschinen denken uns bereits über
Sahais Argumentation beginnt mit seiner direkten Erfahrung. Die KI-Systeme, mit denen er gearbeitet hat, produzieren bereits neue Ideen, nicht nur beeindruckende Berechnungen oder die Bestätigung von Argumenten, die menschliche Forscher bereits verstehen. Er glaubt, wir könnten uns nicht einmal vorstellen, was zukünftige Systeme hervorbringen werden.
Das Ergebnis, sagt er, ist, dass Mathematiker bald das erleben werden, was seine Studienkollegen fühlten: nicht in der Lage, mitzuhalten. Die Versuchung, er warnt, wird sein, das Fach zu verlassen.
Warum der Verzicht falsch wäre
Sahai spricht offen über das Risiko. Er nennt es „eine tiefgreifende Aufgabe unserer Verantwortung gegenüber der Menschheit“, wenn Mathematiker die Aufgabe annehmen, die Ergebnisse der Maschinen zu verstehen. Die Verantwortung ist kollektiv und nicht individuell: Menschen müssen in der Lage sein, die Entdeckungen zu verstehen und zu ihnen beizutragen, die unsere Welt prägen werden.
Der Kampf sei unerlässlich für das Verständnis, sagt er, und dieser Kampf könne geteilt werden. Er sieht Forschungsgruppen vor, die einen Begriff oder ein Jahr damit verbringen, einen außergewöhnlichen Satz von Ideen zu verstehen, die von einem KI-System hervorgebracht werden, wobei sie selbst mit Hilfe von KI-Systemen arbeiten.
Der Fall der Terawatt-Kernkraftanlage
Um das Risiko zu veranschaulichen, verwendet Sahai ein hypothetisches Beispiel. Stellen Sie sich vor, ein KI-System schlägt ein Design für eine Kernfusion-Kraftanlage mit einer Leistung von einem Terawatt vor – eine Maschine, die eine unglaubliche Menge an elektrischer Energie erzeugen könnte. Das Design ist neuartig und ungetestet.
Vor der Genehmigung von Bauvorhaben, so sagt Sahai, möchte er sehen, dass Gemeinschaften von Menschen verstehen, warum das Design funktioniert und was das Vertrauen in seine Sicherheit rechtfertigt. Ein Theorem existiert nur innerhalb eines Modells, argumentiert er, und das Verständnis dieses Modells – seiner experimentellen Beweise und Unsicherheiten – ist eine anspruchsvolle Aufgabe, für die mathematisch versierte Menschen zur Verfügung stehen müssen.
Warum die Menschen wichtig sind
Sahai räumt ein, dass KI-Systeme routinemäßige, zuverlässige Aufgaben übernehmen sollten. Er sieht keinen Grund, darauf zu bestehen, dass Menschen manuell Arbeit wiederholen, die ein KI-System zuverlässiger ausführen könnte, selbst die mathematische Garantieerbringung. Aber es gibt eine Grenze: ein Theorem kann nur innerhalb eines Modells existieren, und das Verständnis dieses Modells ist eine anspruchsvolle Aufgabe, für die mathematisch versierte Menschen zur Verfügung stehen müssen.
Man könnte entgegnen, dass KI-Systeme diese Fragen ebenfalls handhaben und letztendlich entscheiden sollten, ob das Kraftwerk gebaut werden sollte. Das ist eine ernste Position, sagt er, aber sie verlangt von uns, eine Zukunft zu akzeptieren, in der Entscheidungen von enormen Folgen auf Gründen beruhen, die keine menschliche Gemeinschaft versteht.
Der Fall für mehr Mathematiker
Sahai argumentiert, dass die Gesellschaft ein starkes, unmittelbares Interesse daran hat, menschliches Verständnis möglich zu machen. Eine Zivilisation, die sich auf die Vertiefung des menschlichen Verständnisses konzentriert, sagt er, ist eine lebenswerte. Es gibt aber auch einen praktischen Grund: Entscheidungen über neuartige Technologien beruhen auf Gründen, die Menschen verstehen müssen.
Er ruft zu einer „einsetzbaren intellektuellen Reserve“ auf – Gemeinschaften mathematisch versierter Menschen, die zur Verfügung stehen, um bahnbrechende KI-gestützte Fortschritte zu verstehen. Unsere Fähigkeit, schwierige und unbekannte Ideen zu verstehen, argumentiert er, kann eine der wichtigsten Beiträge sein, die wir der Gesellschaft anbieten können.
Eine Vision für die Zukunft
Sahais Vision ist optimistisch, sogar utopisch. Er möchte eine Welt, in der Mathematiker und Physiker zahlreich sind, in der die Gesellschaft in die Fähigkeit investiert, zu verstehen, und in der die Menschen die Möglichkeit behalten, Alternativen sinnvoll zu prüfen.
Der Einsatz ist hoch. Eine Zukunft, in der Entscheidungen von enormen Folgen auf Gründen beruhen, die keine menschliche Gemeinschaft versteht, ist eine Zukunft, die wir ablehnen sollten, sagt er.
Die Zahlen hinter der Warnung
| Element | Detail |
|---|---|
| Titel der Quelle | „Wir werden eine ganze Menge Mathematiker brauchen“ |
| Autor | Amit Sahai |
| Schlüsselperson | Entwurf für ein Kernkraftwerk zur Kernfusion mit einer Leistung von einer Terawatt |
| Kernaussage | KI-Systeme übertreffen bereits menschliche Mathematiker und werden dies beschleunigen |
„Bevor ich den Bau genehmigen würde, hätte ich die Hoffnung, dass Gemeinschaften von Menschen verstehen, warum das Design funktioniert und was das Vertrauen in die Sicherheit rechtfertigt. Ich hoffe, wir alle würden.“
Unsere Einschätzung von Sahais Argument
Sahais Beitrag ist ein echter Aufruf zum Optimismus, kein Warnsignal. Er fordert Mathematiker auf, KI als Partner und nicht als Gegner zu betrachten und darüber nachzudenken, wie die Menschheit die Ergebnisse der Maschinen verstehen und ihnen vertrauen kann.
Das Schlüsselerkenntnis ist, dass die Anstrengung, etwas zu verstehen, essentiell ist, und dass sie geteilt werden kann. Sahais eigene Karriere, die er mit KI-Systemen verbrachte, die neue Ideen hervorbringen, ist der Beweis dafür, dass Menschen Schritt halten können – und dass sich die Mühe lohnt.
Die Maschinen kommen schneller. Die Frage ist, ob die Menschen sich entscheiden werden, Schritt zu halten, oder beiseite zu treten.
Quelle: „Wir werden eine ganze Menge Mathematiker brauchen“, terrytao.wordpress.com.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.