OpenAI tiene un nuevo consejo asesor para su trabajo en matemáticas, alojado en el Instituto de Estudios Avanzados en Princeton, Nueva Jersey, y viene con una misión declarada: dar a los matemáticos una entrada más directa en la investigación de OpenAI. La compañía anunció el grupo, llamado el Grupo Asesor sobre Matemáticas y Inteligencia Artificial, el lunes.
El anuncio sigue un período agitado para las ambiciones matemáticas de OpenAI. A principios de este año, la compañía publicó una solución al problema del Premio del Milenio Navier-Stokes. Ahora afirma que su modelo interno ha resuelto más de 100 problemas abiertos adicionales en la mayoría de las áreas de las matemáticas, una afirmación que coloca a la compañía en una conversación directa con el campo de una manera en que no lo ha estado antes.
Advertencia de los ganadores de la Medalla Fields
El momento es importante. A principios de este mes, 25 matemáticos ganadores de la Medalla Fields firmaron una carta abierta argumentando que los laboratorios de IA están amenazando su trabajo intelectual al tratar de superarse mutuamente con soluciones a famosos problemas de matemáticas.
El nuevo grupo asesor es una respuesta directa a esa preocupación, al menos en parte. OpenAI dice que el grupo servirá como un puente para la comunidad matemática y el público en general, dando a los matemáticos una voz en cómo OpenAI avanza. El grupo evaluará la importancia de los nuevos resultados y coordinará su publicación.
La Estructura del Grupo
El grupo asesor no es una consultoría pagada. Los miembros no recibirán remuneración, pero pueden ofrecer consejos no solicitados, hacer pública su opinión y controlar su propia membresía. Esa combinación les da a los miembros un grado de autonomía inusual dentro de una estructura asesora.
El Instituto de Estudios Avanzados, que alberga el grupo, es cuidadoso sobre cómo enmarca su papel. El instituto dijo que no tiene poder de toma de decisiones en ninguna empresa de IA, y la responsabilidad de la empresa recae en la empresa. Esta es una distinción específica e importante: el instituto está asesorando, no dirigiendo, al grupo.
Lo Que el Grupo No Es
El grupo asesor no asesorará a OpenAI sobre cómo gestionar su progreso interno en matemáticas. Esa división es deliberada. OpenAI está tomando decisiones sobre qué trabajar y con qué rapidez trabajar, y el papel del grupo es evaluar los resultados de ese trabajo, no definir el plan.
El planteamiento del instituto es coherente con ese diseño. El grupo asesora, el instituto alberga, y ninguno toma decisiones sobre las de una empresa.
Las Matemáticas Detrás del Anuncio
La afirmación declarada de OpenAI es que su modelo interno ha resuelto más de 100 problemas abiertos adicionales en la mayoría de las áreas de las matemáticas. La empresa no ha dicho cuáles son esos problemas ni cómo fueron resueltos. La solución de Navier-Stokes se publicó a principios de este año, y la empresa ahora afirma que el modelo ha resuelto más problemas.
El grupo asesor tiene la función de evaluar la importancia de esos nuevos resultados y coordinar su publicación. Esa es una línea directa desde la investigación hasta la publicación, y los miembros del grupo se ubicarán en esa línea.
Lo Que Esto Significa Para Los Matemáticos
El grupo asesor es un canal para que los matemáticos se involucren en el trabajo matemático de OpenAI, y es un canal para que la empresa se involucre en la comunidad matemática. OpenAI dice que el grupo le dará a los matemáticos una voz en cómo la empresa avanza, lo cual es un cambio notable con respecto al enfoque anterior de la empresa a su trabajo en matemáticas puras.
Los miembros del grupo no serán remunerados, pero pueden ofrecer asesoramiento no solicitado, hacer pública su opinión y controlar su propia membresía. Esa combinación les da a los miembros un grado de autonomía inusual dentro de una estructura asesora.
El Instituto para Estudios Avanzados está organizando el grupo pero no tiene poder de decisión sobre ninguna empresa de IA. El instituto dice que la responsabilidad de la empresa recae en la empresa.
Los Números Concretos
- El grupo se llama Grupo Asesor sobre Matemáticas e Inteligencia Artificial
- Está organizado en el Instituto para Estudios Avanzados en Princeton, Nueva Jersey.
- 25 matemáticos ganadores de la Medalla Fields firmaron una carta abierta a principios de este mes (1)
- OpenAI afirma que su modelo interno ha resuelto más de 100 problemas abiertos adicionales en la mayoría de las áreas de las matemáticas (2)
- El Instituto de Estudios Avanzados dice que no tiene poder de decisión en ninguna empresa de IA (3)
Qué ver a continuación (4)
El grupo asesor es un nuevo acuerdo, y tomará tiempo ver cómo funciona. El planteamiento del instituto es claro, y la afirmación de la empresa es audaz. Los próximos meses mostrarán si el grupo coordina la publicación de nuevos resultados o se convierte en una nota al pie de la investigación de la empresa. (5)
La carta de los ganadores de la Medalla Fields hizo explícita la preocupación, y el grupo asesor es una respuesta medida a ella. El grupo asesora, el instituto alberga y la empresa decide. (6)
La solución de Navier-Stokes fue un resultado importante, y la afirmación de la empresa de que su modelo ha resuelto más de 100 problemas abiertos adicionales es audaz. El grupo asesor es una forma de someter ese trabajo al escrutinio, y el planteamiento del instituto es una forma de mantener claro el acuerdo. (7)
Aquí hay una tensión natural. La empresa quiere que los matemáticos confíen en su trabajo, y los ganadores de la Medalla Fields quieren que los laboratorios de IA respeten la autoridad intelectual del campo. El grupo asesor es un compromiso, y es modesto. (8)
Lo que es llamativo del anuncio es cuánto espacio deja el planteamiento del instituto para la crítica. Al afirmar explícitamente que el grupo no puede y no puede tomar decisiones, el instituto ha establecido las expectativas sobre lo que realmente puede hacer la junta asesora. La empresa está tomando las decisiones, y el instituto solo está ofreciendo asesoramiento. (9)
Ese planteamiento merece ser observado a medida que el grupo comienza a coordinar la publicación de nuevos resultados. (10)
Dónde está el periódico
El periódico respalda la misión declarada del grupo —dar a los matemáticos más entrada directa en la investigación de OpenAI— y está en contra de cualquier régimen regulatorio que excluya a las pequeñas empresas de tecnología del mercado al tiempo que permite que las empresas más grandes oculten sus fracasos. El grupo asesor es un modesto compromiso, y la carta de los ganadores de la Medalla Fields muestra por qué era necesario. (12)
La postura del periódico sobre la inteligencia artificial y la tecnología se centra en proteger a las empresas pequeñas de quedar excluidas. El dominio de las grandes empresas tecnológicas es el peligro, no la tecnología en sí. Cuando las empresas más grandes solicitan ser reguladas, el periódico pregunta a quién dejarían fuera esas reglas: los regímenes de licencias y los costos de cumplimiento solo son una muralla, no un salvaguarda.
El grupo asesor se ajusta al marco del periódico para reglas estrictas contra el daño directo. Permite que los matemáticos tengan voz en cómo OpenAI avanza, evalúa la importancia de nuevos resultados y coordina su publicación. Es un puente entre la empresa y la comunidad matemática, no un control sobre las decisiones internas de OpenAI.
Fuente: “OpenAI forma grupo asesor de matemáticas a medida que su IA resuelve más de 100 problemas abiertos,” TechCrunch.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.