OpenAI se enfrenta a un nuevo problema: sus esfuerzos por corregir errores pasados siguen generando nuevos. La empresa ha realizado recientemente avances notables en matemáticas, seguidos de declaraciones públicas incómodas sobre ellos. Ahora ha añadido otra capa al problema. Intentó establecer un grupo asesor independiente para supervisar futuros anuncios, y ese enfoque se ha convertido en un problema aparte.
AGMAI significa Grupo Asesor sobre Matemáticas e Inteligencia Artificial. Fue presentado el 21 de septiembre a través de una publicación de blog del profesor de matemáticas de UCLA, Terence Tao, galardonado con la Medalla Fields que ha criticado abiertamente cómo las empresas de IA se comportan hacia las matemáticas. El propósito del grupo es servir como un cuerpo independiente de nueve matemáticos de élite que ofrecen orientación a OpenAI y a otros laboratorios de IA de vanguardia sobre «la revisión y comunicación de resultados emergentes».
Cómo se formó el Grupo
Una vez que se hizo el anuncio, surgieron dudas sobre la independencia. Muchos matemáticos, y casi todos los que estaban fuera de la comunidad, escucharon hablar de AGMAI por primera vez a través del lanzamiento mucho más destacado de OpenAI. Esto causó confusión generalizada sobre si el grupo actuaba por su cuenta o se presentaba como un cuerpo designado por OpenAI.
Según el propio sitio web del grupo, surgió cuando OpenAI contactó con algunos de sus futuros miembros para proponer la creación de un consejo asesor. En lugar de unirse a ese consejo, esos miembros optaron por separarse y reclutar a otras personas. No se sabe qué miembros de los nueve contactó inicialmente OpenAI.
Hairer sobre la Independencia
Martin Hairer, que imparte clases de matemáticas en Imperial College London y la Escuela Politécnica Federal de Lausana (EPFL), forma parte de AGMAI. Dejó claro que el grupo opera de forma independiente. Hairer hizo estas declaraciones durante una videollamada desde un salón de clases.
El grupo no recibe apoyo financiero, técnico ni de otro tipo de la empresa, dijo Hairer. Ninguno de sus miembros ha firmado acuerdos que limiten lo que pueden decir o hacer más allá de los requisitos de confidencialidad estándar necesarios para acceder a investigaciones avanzadas.
Él describió los últimos días como una experiencia «muy frustrante» e «intensa». «No trabajamos para OpenAI, no somos pagados por ellos, y es totalmente independiente», dijo. El grupo también está abierto a trabajar con otros laboratorios de IA de vanguardia, aunque se negó a decir cuáles.
Por qué el Anuncio Falló
El anuncio de OpenAI provocó la frustración de Hairer, y él abordó el tema en una publicación de blog publicada durante la agitación. Admitió que las empresas de IA probablemente intentarían torcer cómo el grupo involucra a su favor. Dado que el grupo había surgido en parte a la luz de los pasados avances matemáticos manejados por OpenAI, con ese riesgo al frente.
El rápido descenso de la solución de OpenAI a un prestigioso problema del Premio del Milenio en disputas sobre crédito, apropiación y su trato a los matemáticos hizo sospechar a la comunidad.
El anuncio de OpenAI no hizo nada para ayudar al joven grupo a establecer su independencia, según Hairer. AGMAI debe ganarse la confianza de los matemáticos para que puedan ayudar a esos investigadores a manejar sus relaciones cada vez más difíciles con las empresas de IA.
«La forma en que redactaron su anuncio realmente no ayudó», dijo Hairer. «Si lo lees exactamente en detalle, no hay nada malo en lo que dicen», señaló, agregando que la compañía es «cautelosa» en su redacción. «Obviamente son muy buenos en relaciones públicas», dijo, riendo.
El Problema de Urgencia del Grupo
Hairer se rió y dijo: «Así que nosotros, bueno, ya saben, comenzamos dos días atrás. Entonces no es como si tuviéramos un gran plan maestro». Después de lo cual, la formación del grupo, sus comunicaciones con la comunidad matemática, parecen haber surgido rápidamente. Preguntado el miércoles pasado sobre los planes de AGMAI, se anunció. Esa secuencia marcó todo el esfuerzo.
La prisa puede provenir de que OpenAI esté reteniendo un lote de hallazgos que quiere publicar lo más rápido posible. Después de resolver el problema del Premio del Milenio Navier-Stokes, la compañía dice que su modelo interno, aún no publicado, ha resuelto desde entonces más de 100 preguntas abiertas de larga data en varias ramas de las matemáticas.
La Brecha de Confianza
La ironía es que el proceso de anuncios de OpenAI podría haber socavado la confianza misma que intentaba reconstruir. Los matemáticos necesitan creer que AGMAI puede hablar libremente y honestamente sobre el trabajo de OpenAI. Un grupo que parece designado, o cuyos miembros parecen restringidos en lo que pueden decir, no soportará ese peso.
La capacidad de las declaraciones públicas de OpenAI para enfatizar la independencia del grupo y para que su personal cuestione públicamente a la empresa y publiquen sus directrices es real. Aún así, la forma en que el público percibe el control importa tanto como la situación legal real. Incluso cuando un equipo eventualmente se separa de sus raíces corporativas, la marca de dónde comenzó permanece.
Lo que OpenAI Necesita Hacer Diferente
OpenAI tiende a actuar con prisa. Se mueve rápidamente, hace anuncios rápidamente y luego maneja las consecuencias. Esta secuencia se ha desarrollado a través de varios avances matemáticos, dando lugar a la impresión de que la empresa considera las matemáticas más como un vitrina de trofeos que como un campo de estudio genuino.
La empresa debería esperar. Debería permitir que AGMAI tenga tiempo para establecer su propia identidad y conexiones dentro de la comunidad matemática antes de publicar cualquier resultado. La empresa necesita confiar en el grupo para que gestione las comunicaciones por su cuenta, sin que le digan qué decir.
El hábito de tratar cada anuncio como un triunfo debe terminar. OpenAI ha resuelto problemas genuinos, pero su forma de hablar de ellos ha dejado a los matemáticos observando desde la línea de banda en lugar de trabajar junto con la empresa. Es una pérdida para todas las partes.
Una Comparación de los Anuncios de OpenAI
| Anuncio | Resultado | Recepción |
|---|---|---|
| Problema del Premio del Milenio Navier-Stokes | Avance confirmado | Disputas crediticias, peleas por el reconocimiento (1) |
| Más de 100 problemas abiertos (2) | Afirmaciones sobre un modelo no lanzado (3) | Temor entre los investigadores (4) |
| Formación de AGMAI (5) | Grupo asesor independiente (6) | Confusión sobre la independencia (7) |
Un patrón constante emerge de la comparación: OpenAI atrae la atención, luego dedica semanas o meses a solucionar cualquier problema que siga. Esa secuencia también es cierta para AGMAI. El grupo fue formado para poner fin a este ciclo, pero hasta ahora no ha logrado persuadir a nadie de que posee los medios para hacerlo. (8)
El Resultado Final (9)
El intento de OpenAI de construir un grupo asesor independiente se ha desmoronado, trayendo consigo confusión. La empresa permanece sin obtener mucho de los errores pasados. (10)
Lo que sigue es una preocupación mayor. OpenAI retiene una serie de hallazgos esperando ver la luz, y los matemáticos ya se están preparando para una ola de descubrimientos. Cada nueva publicación corre el riesgo de generar otra ronda de argumentos sobre quién merece el crédito y contiendas sobre quién llegó primero. (11)
En lugar de ver a los matemáticos como espectadores, OpenAI debería tratarlos como socios en igualdad de condiciones. Esto requiere darle a AGMAI espacio para llevar a cabo su trabajo a un ritmo constante, y requiere ser abierto sobre cuál es realmente el papel del grupo. De lo contrario, el patrón se repite: trabajo sobresaliente, luego desorden, luego disculpas, luego otro anuncio. (12)
La empresa se ha ganado una reputación por actuar con rapidez, y ahora debe aprender a actuar con cuidado en cambio.
Fuente: “OpenAI keeps bulldozing mathematicians,” The Verge.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.