OpenAI sieht sich mit einem neuen Problem konfrontiert: seine Bemühungen, vergangene Fehler zu korrigieren, führen immer wieder zu neuen Fehlern. Das Unternehmen hat in letzter Zeit bemerkenswerte Fortschritte in der Mathematik erzielt, gefolgt von unglücklichen öffentlichen Aussagen dazu. Nun hat es noch eine weitere Ebene des Problems hinzugefügt. Es versuchte, eine unabhängige beratende Gruppe zu gründen, um zukünftige Ankündigungen zu überwachen, und dieser Ansatz hat sich in ein eigenes Problem verwandelt.
AGMAI steht für den Advisory Group on Mathematics and Artificial Intelligence (Beratungsgruppe für Mathematik und Künstliche Intelligenz). Sie wurde am 21. September über einen Gastbeitrag auf dem Blog von Terence Tao, einem Fields-Medaillengewinner und Mathematikprofessor der UCLA, vorgestellt, der offen die Art und Weise kritisiert hat, wie KI-Unternehmen sich gegenüber der Mathematik verhalten. Der Zweck der Gruppe ist es, als ein unabhängiges Gremium von neun hochkarätigen Mathematikern Orientierungshilfe für OpenAI und andere führende KI-Labore bei der „Überprüfung und Kommunikation neuer Ergebnisse“ zu bieten.
Wie die Gruppe zusammenkam
Kaum war die Ankündigung erfolgt, folgten Zweifel an der Unabhängigkeit. Eine große Zahl von Mathematikern und fast alle außerhalb der Fachgemeinschaft erfuhren zum ersten Mal von AGMAI durch OpenAIs weitaus prominenteren Start. Dies verursachte weit verbreitete Verwirrung darüber, ob die Gruppe eigenständig handelt oder als ein von OpenAI ernanntes Gremium fungiert.
Laut der eigenen Website der Gruppe entstand sie, als OpenAI sich an einige ihrer späteren Mitglieder wandte, um einen Beratungsausschuss zu gründen. Anstatt diesem Ausschuss beizutreten, entschieden sich diese Mitglieder, abzuwandern und weitere Personen hinzuzuziehen. Es ist nicht bekannt, welche der neun Mitglieder OpenAI zuerst kontaktierte.
Hairer zur Unabhängigkeit
Martin Hairer, der Mathematik an der Imperial College London und der Schweizerischen Eidgenössischen Technischen Hochschule Lausanne (EPFL) unterrichtet, gehört zu AGMAI. Er machte deutlich, dass die Gruppe unabhängig von OpenAI agiert. Hairer gab diese Äußerungen während eines Videoanrufs aus einer Lesesäle ab.
Die Gruppe erhält keine finanzielle, technische oder andere Unterstützung von dem Unternehmen, sagte Hairer. Keiner ihrer Mitglieder hat Vereinbarungen unterzeichnet, die ihre Möglichkeiten einschränken, darüber zu sprechen oder zu handeln, über die üblichen Vertraulichkeitsanforderungen für den erweiterten Zugang zu Forschung hinaus.
Er beschrieb die vergangenen Tage als eine „sehr frustrierende“ und „intensive“ Erfahrung. „Wir arbeiten nicht für OpenAI, werden nicht von ihnen bezahlt und es ist völlig unabhängig“, sagte er. Die Gruppe ist auch offen für die Zusammenarbeit mit anderen führenden KI-Laboren, obwohl er nicht sagen wollte, mit welchen.
Warum die Ankündigung scheiterte
Die Ankündigung von OpenAI provozierte Hairers Bestürzung, und er ging darauf in einem Blogbeitrag ein, der während der Aufregung veröffentlicht wurde. Er räumte ein, dass KI-Firmen wahrscheinlich versuchen würden, die Beteiligung der Gruppe zu ihrem Vorteil zu verdrehen. Angesichts der Tatsache, dass die Gruppe teilweise im Licht von OpenAI’s behandelten vergangenen mathematischen Durchbrüchen entstanden war, wobei dieses Risiko im Vordergrund stand.
Der rasante Abstieg von OpenAI’s Lösung eines prestigeträchtigen Millennium-Preis-Problems in Streitigkeiten über Urheberschaft, das Abgreifen und den Umgang mit Mathematikern machte die Gemeinschaft misstrauisch.
OpenAI’s Ankündigung habe der jungen Gruppe nicht geholfen, ihre Unabhängigkeit zu etablieren, so Hairer. AGMAI muss das Vertrauen der Mathematiker gewinnen, damit diese Forschern helfen können, ihre zunehmend schwierigen Beziehungen zu KI-Unternehmen zu bewältigen.
„Die Art und Weise, wie sie ihre Ankündigung formulierten, hat nicht wirklich geholfen“, sagte Hairer. „Wenn man es genau im Detail liest, ist an dem, was sie sagen, nichts auszusetzen“, merkte er an und fügte hinzu, dass das Unternehmen „vorsichtig“ in seiner Wortwahl sei. „Sie sind offensichtlich sehr gute PR-Leute“, sagte er lachend.
Das Problem der Dringlichkeit der Gruppe
Hairer lachte und sagte: „Also haben wir, nun, wissen Sie, vor zwei Tagen angefangen. Es ist also nicht so, als hätten wir einen großen Masterplan.“ Danach fühlt sich die Gründung der Gruppe, ihre Kommunikation mit der mathematischen Gemeinschaft – als ob alles eilig zusammengewürfelt wurde. Letzten Mittwoch wurden die Pläne von AGMAI angekündigt. Diese Abfolge markierte das gesamte Unterfangen.
Der Eilantrieb könnte dadurch entstehen, dass OpenAI eine Reihe von Ergebnissen zurückhält, die es so schnell wie möglich veröffentlichen möchte. Nach der Lösung des Navier-Stokes Millennium-Preis-Problems gibt das Unternehmen an, dass sein unpubliziertes internes Modell seitdem mehr als 100 langjährige ungelöste Fragen in verschiedenen Bereichen der Mathematik gelöst hat.
Die Vertrauenslücke
Die Ironie dabei ist, dass OpenAIs Ankündigungsprozess möglicherweise das Vertrauen untergraben hat, das es eigentlich wieder aufbauen wollte. Mathematiker müssen davon überzeugt sein, dass AGMAI frei und ehrlich über OpenAIs Arbeit sprechen kann. Eine Gruppe, die ernannt wirkt oder deren Mitglieder eingeschränkt erscheinen in dem, was sie sagen können, wird dieses Gewicht nicht tragen.
Die Möglichkeit, dass OpenAIs öffentliche Aussagen die Unabhängigkeit der Gruppe ermöglichen und es den Mitarbeitern erlaubt, die Firma öffentlich zu hinterfragen und ihre Empfehlungen zu veröffentlichen, ist real. Dennoch zählt die Wahrnehmung der Kontrolle durch die Öffentlichkeit genauso wie die tatsächliche juristische Situation. Selbst wenn ein Team irgendwann von seinen unternehmerischen Wurzeln abweicht, bleibt der Eindruck davon, wo es begann, bestehen.
Was OpenAI anders machen muss
OpenAI neigt dazu, übereilt zu handeln. Es bewegt sich schnell voran, trifft Ankündigungen rasch und befasst sich danach mit den Konsequenzen. Diese Abfolge hat sich bereits bei mehreren mathematischen Durchbrüchen wiederholt, was den Eindruck erweckt, dass die Firma die Mathematik mehr als Vitrinenraum denn als echtes Forschungsfeld betrachtet.
Das Unternehmen sollte zurückhalten. Es sollte AGMAI Zeit geben, seine eigene Identität und Kontakte innerhalb der mathematischen Gemeinschaft zu etablieren, bevor es Ergebnisse veröffentlicht. Das Unternehmen muss der Gruppe vertrauen, die Kommunikation selbst zu verwalten, ohne ihr gesagt zu werden, was sie sagen soll.
Die Gewohnheit, jede Ankündigung als Triumph zu behandeln, muss enden. OpenAI hat echte Probleme gelöst, aber die Art und Weise, wie es darüber spricht, hat dazu geführt, dass Mathematiker die Firma von außen beobachten, anstatt mit ihr zusammenzuarbeiten. Das ist ein Verlust für alle Beteiligten.
Ein Vergleich von OpenAIs Ankündigungen
| Ankündigung | Ergebnis | Aufnahme |
|---|---|---|
| Navier-Stokes Millennium Prize Problem | Durchbruch bestätigt | Kreditstreitigkeiten, Abzocke (scooping fights) |
| 100+ offene Probleme | Behauptungen zu einem noch nicht veröffentlichten Modell | Furcht unter Forschern |
| AGMAI-Gründung | Unabhängige Beratungsgruppe | Verwirrung über die Unabhängigkeit |
Aus dem Vergleich zeichnet sich ein stetiges Muster ab: OpenAI zieht Aufmerksamkeit auf sich und widmet dann Wochen oder Monate der Behebung der nachfolgenden Probleme. Diese Abfolge trifft auch auf AGMAI zu. Die Gruppe wurde gegründet, um diesen Kreislauf zu beenden, konnte bisher jedoch niemanden davon überzeugen, dass sie die Mittel dazu besitzt.
Das Fazit
Der Versuch von OpenAI, eine unabhängige Beratungsgruppe aufzubauen, ist gescheitert und hat Verwirrung mit sich gebracht. Das Unternehmen bleibt ohne viel aus vergangenen Fehlern gewonnen zu haben.
Was folgt, ist die größere Sorge. OpenAI hält eine Menge Ergebnisse zurück, die auf ihre Veröffentlichung warten, und Mathematiker bereiten sich bereits auf eine Welle von Entdeckungen vor. Jede neue Veröffentlichung birgt das Risiko weiterer Auseinandersetzungen darüber, wer die Anerkennung verdient und wer zuerst dorthin gelangt ist.
Anstatt Mathematiker als Zuschauer zu betrachten, sollte OpenAI sie als Partner auf Augenhöhe behandeln. Es erfordert, AGMAI die Möglichkeit zu geben, seine Arbeit in einem stetigen Tempo zu erledigen, und es erfordert, offen über die tatsächliche Rolle der Gruppe zu sein. Andernfalls wiederholt sich das Muster: herausragende Arbeit, dann Unordnung, dann Entschuldigungen, dann eine weitere Ankündigung.
Das Unternehmen hat sich durch schnelles Handeln einen Namen gemacht und muss nun lernen, mit Bedacht zu handeln.
Quelle: „OpenAI betoniert Mathematiker“, The Verge.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.