OpenAI hat einen neuen Beirat für seine mathematischen Arbeiten eingerichtet, der am Institute for Advanced Study in Princeton, New Jersey, angesiedelt ist, und der mit einer klaren Mission ausgestattet ist: Mathematikern eine direktere Einflussnahme auf OpenAIs Forschung zu ermöglichen. Das Unternehmen gab die Gruppe, genannt Advisory Group on Mathematics and Artificial Intelligence, am Montag bekannt.
Die Ankündigung folgt auf eine arbeitsreiche Phase für OpenAIs mathematische Ambitionen. Anfang dieses Jahres veröffentlichte das Unternehmen eine Lösung für das Navier-Stokes Millennium Prize Problem. Nun behauptet es, sein internes Modell habe mehr als 100 zusätzliche offene Probleme in den meisten Bereichen der Mathematik gelöst, eine Aussage, die das Unternehmen in einen direkten Dialog mit dem Fachgebiet versetzt, wie es bisher nicht der Fall war.
Warnung der Fields-Medaillengewinner
Der Zeitpunkt ist entscheidend. Anfang diesen Monats unterzeichneten 25 mit der Fields-Medaille ausgezeichnete Mathematiker einen offenen Brief, in dem sie argumentieren, dass KI-Labore ihre intellektuelle Arbeit bedrohen, während sie versuchen, sich mit Lösungen für berühmte mathematische Probleme gegenseitig zu übertrumpfen.
Die neue Beiratgruppe ist zum Teil eine direkte Reaktion auf diese Bedenken. OpenAI sagt, die Gruppe werde als Brücke zur mathematischen Gemeinschaft und der breiten Öffentlichkeit dienen und Mathematikern eine Stimme darin einräumen, wie OpenAI weiter vorgeht. Die Gruppe wird die Bedeutung neuer Ergebnisse bewerten und ihre Veröffentlichung koordinieren.
Die Struktur der Gruppe
Die Beiratgruppe ist kein bezahlter Beratungsdienst. Die Mitglieder werden nicht bezahlt, können aber ungebetene Ratschläge geben, ihre Ansichten öffentlich äußern und ihre eigene Mitgliedschaft kontrollieren. Diese Kombination verleiht den Mitgliedern ein ungewöhnliches Maß an Autonomie innerhalb einer Beratungsorganisation.
Das Institute for Advanced Study, das die Gruppe beherbergt, wählt sorgfältig, wie es seine Rolle formuliert. Das Institut sagte, es habe keine Entscheidungsbefugnis bei einem KI-Unternehmen, und die Verantwortung des Unternehmens liege bei dem Unternehmen. Dies ist eine spezifische, wichtige Unterscheidung: das Institut berät, es führt die Gruppe nicht.
Was die Gruppe nicht ist
Der Beratungsgremium wird OpenAI nicht darüber beraten, wie das Unternehmen seinen internen Fortschritt in der Mathematik gestalten soll. Diese Entscheidung ist bewusst getroffen worden. OpenAI trifft Entscheidungen darüber, woran gearbeitet werden soll und wie schnell gearbeitet werden soll, und die Rolle des Gremiums besteht darin, die Ergebnisse dieser Arbeit zu bewerten, nicht den Plan zu gestalten.
Der Rahmen des Instituts stimmt mit diesem Aufbau überein. Das Gremium berät, das Institut beherbergt, und keine Firma trifft Entscheidungen.
Die Mathematik hinter der Ankündigung
OpenAIs explizite Behauptung ist, dass sein internes Modell mehr als 100 zusätzliche offene Probleme in den meisten Bereichen der Mathematik gelöst hat. Das Unternehmen hat jedoch nicht gesagt, um welche Probleme es sich handelt oder wie sie gelöst wurden. Die Lösung der Navier-Stokes-Gleichungen wurde Anfang dieses Jahres veröffentlicht, und das Unternehmen behauptet nun, das Modell habe noch mehr Probleme gelöst.
Das Beratungsgremium soll die Bedeutung dieser neuen Ergebnisse bewerten und ihre Veröffentlichung koordinieren. Dies ist eine direkte Linie von der Forschung zur Veröffentlichung, und die Mitglieder des Gremiums werden auf dieser Linie sitzen.
Was das für Mathematiker bedeutet
Das Beratungsgremium ist ein Kanal für Mathematiker, um in OpenAIs mathematische Arbeit einzusteigen, und es ist ein Kanal für das Unternehmen, um in die mathematische Gemeinschaft einzusteigen. OpenAI sagt, dass das Gremium Mathematiker eine Stimme dabei geben wird, wie das Unternehmen weiter vorgeht, was eine deutliche Abkehr von OpenAIs früheren Vorgehensweisen bei seiner Arbeit in der reinen Mathematik darstellt.
Die Mitglieder des Gremiums werden nicht bezahlt, können aber ungebetene Ratschläge geben, ihre Ansichten öffentlich äußern und ihre eigene Mitgliedschaft kontrollieren. Diese Kombination verleiht den Mitgliedern ein ungewöhnliches Maß an Autonomie innerhalb einer beratenden Struktur.
Das Institute for Advanced Study beherbergt das Gremium, hat aber keine Entscheidungsbefugnis über ein KI-Unternehmen. Das Institut sagt, dass die Verantwortung des Unternehmens bei dem Unternehmen liegt.
Die harten Zahlen
- Das Gremium heißt Advisory Group on Mathematics and Artificial Intelligence
- Es wird am Institute for Advanced Study in Princeton, New Jersey, veranstaltet
- 25 Mathematiker, die mit der Fields-Medaille ausgezeichnet wurden, unterzeichneten Anfang dieses Monats einen offenen Brief (
- OpenAI teilt mit, dass sein internes Modell mehr als 100 zusätzliche ungelöste Probleme in den meisten Bereichen der Mathematik gelöst habe (
- Das Institute for Advanced Study erklärt, dass es keine Entscheidungsbefugnis bei irgendeiner KI-Firma hat (
Nächste Anlaufstelle
Der Beratungsgrupppe ist eine neue Regelung, und es wird Zeit brauchen, um zu sehen, wie sie funktioniert. Die Darstellung des Instituts ist klar, und die Behauptung des Unternehmens ist kühn. Die kommenden Monate werden zeigen, ob die Gruppe die Veröffentlichung neuer Ergebnisse koordiniert oder eine Randnotiz in der Forschung des Unternehmens wird. (
Der Brief der Fields-Medaille-Preisträger machte die Besorgnis deutlich, und die Beratungsgruppe ist eine bedachte Reaktion darauf. Die Gruppe berät, das Institut beherbergt, und das Unternehmen entscheidet. (
Die Lösung der Navier-Stokes-Gleichungen war ein bahnbrechendes Ergebnis, und die Behauptung des Unternehmens, sein Modell habe mehr als 100 zusätzliche ungelöste Probleme gelöst, ist eine kühne Behauptung. Die Beratungsgruppe ist eine Möglichkeit, diese Arbeit unter die Lupe zu nehmen, und die Darstellung des Instituts ist eine Möglichkeit, die Vereinbarung klar zu halten. (
Hier besteht eine natürliche Spannung. Das Unternehmen möchte, dass Mathematiker seiner Arbeit vertrauen, und die Fields-Medaille-Preisträger möchten, dass KI-Labore die intellektuelle Autorität des Fachgebiets respektieren. Die Beratungsgruppe ist ein Kompromiss, und zwar ein bescheidener Kompromiss. (
Auffällig an der Ankündigung ist, wie viel Raum die Darstellung des Instituts für Kritik lässt. Indem das Institut explizit feststellt, dass die Gruppe keine Entscheidungen treffen kann und auch nicht treffen wird, hat es die Erwartungen an das, was die beratende Gruppe tatsächlich tun kann, gesetzt. Das Unternehmen trifft die Entscheidungen, und das Institut bietet lediglich Ratschläge an. (
Diese Darstellung ist es wert, beobachtet zu werden, da die Gruppe beginnt, die Veröffentlichung neuer Ergebnisse zu koordinieren. (
Wo die Zeitung steht
Die Zeitung unterstützt die erklärte Mission der Gruppe – Mathematiker mehr direkte Möglichkeiten zur Mitgestaltung der Forschung von OpenAI zu geben – und ist gegen jedes Regulierungsregime, das kleine Technologieunternehmen vom Markt verdrängen würde, während die größten Unternehmen ihre Misserfolge geheim halten. Die Beratungsgruppe ist ein bescheidener Kompromiss, und der Brief der Fields-Medaille-Preisträger zeigt, warum er notwendig war. (
Die Position der Zeitung zu KI und Technologie konzentriert sich darauf, kleine Unternehmen davor zu schützen, ausgesperrt zu werden. Die Gefahr ist die Dominanz von Big Tech, nicht die Technologie selbst. Wenn die größten Unternehmen um Regulierung bitten, fragt die Zeitung, wer durch diese Regeln ausgesperrt würde: Lizenzbestimmungen und Compliance-Kosten sind ein Bollwerk, kein Schutzschild.
Der Beratungsgremium entspricht dem Rahmen der Zeitung für enge Regeln gegen direkte Schäden. Es gibt Mathematikern eine Stimme bei der Weiterentwicklung von OpenAI, bewertet die Bedeutung neuer Ergebnisse und koordiniert ihre Veröffentlichung. Es ist eine Brücke zwischen dem Unternehmen und der mathematischen Fachwelt, nicht eine Kontrolle über die internen Entscheidungen von OpenAI.
Quelle: „OpenAI gründet Mathematik-Beratungsgremium, während seine KI mehr als 100 offene Probleme löst“, TechCrunch.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.