Amit Sahai, un matemático que ha dedicado años a trabajar con sistemas de IA, tiene una advertencia sencilla para sus colegas: las máquinas están a punto de superarlos, y no solo deberían aceptar eso, sino también capacitar a más personas para mantenerse al día. Su artículo, titulado «We’re gonna need a lot more mathematicians» (Vamos a necesitar muchos más matemáticos), argumenta que a medida que la IA produce cada vez más nuevas ideas, la comunidad de investigación humana necesita expandirse, no encogerse.
Sahai recuerda sus propios años de pregrado, cuando vio a compañeros de clase luchar para mantenerse al día con los estudiantes de matemáticas más rápidos. Esos estudiantes eventualmente abandonaron la matemática de investigación. Ahora, Sahai dice, la IA está haciendo a todo el campo lo que esos estudiantes destacados hicieron con sus compañeros.
Las máquinas ya nos están superando en pensamiento.
El argumento de Sahai comienza con su experiencia directa. Los sistemas de IA con los que ha trabajado ya están produciendo nuevas ideas, no solo realizando cálculos impresionantes o confirmando argumentos que los investigadores humanos ya entienden. Él cree que ni siquiera podemos imaginar lo que producirán los sistemas futuros.
El resultado, dice, es que los matemáticos pronto sentirán lo que sus amigos de la pregrado sintieron: incapaces de mantenerse al día. La tentación, advierte, será abandonar el campo.
Por qué renunciar sería un error.
Sahai es directo sobre las apuestas. Lo califica de «una profunda renuncia a nuestra responsabilidad para con la humanidad» si los matemáticos abandonan la comprensión de la salida de las máquinas. La responsabilidad es colectiva, no individual: los humanos deben ser capaces de comprender y contribuir a los descubrimientos que moldearán nuestro mundo.
La lucha es esencial para la comprensión, dice, y esa lucha puede compartirse. Él imagina grupos de investigación dedicando un semestre o un año a tratar de entender un conjunto extraordinario de ideas producidas por un sistema de IA, con la ayuda de los propios sistemas de IA.
El caso de prueba de la planta nuclear de un teravatio.
Para concretar las apuestas, Sahai utiliza un ejemplo hipotético. Imagine un sistema de IA que propone un diseño para una planta de energía de fusión nuclear de un teravatio, una máquina que podría producir una cantidad increíble de energía eléctrica. El diseño es novedoso y no probado.
Antes de aprobar la construcción, Sahai dice, querría que comunidades de humanos entiendan por qué el diseño funciona y qué justifica la confianza en su seguridad. Un teorema existe solo dentro de un modelo, argumenta, y entender ese modelo —su evidencia experimental y sus incertidumbres— es un trabajo exigente que matemáticamente sofisticadas personas deben estar disponibles para realizar.
Por qué los Humanos Importan
Sahai reconoce que los sistemas de IA deberían encargarse de tareas rutinarias y confiables. No ve razón para insistir en que los humanos repitan manualmente un trabajo que un sistema de IA podría realizar con mayor fiabilidad, incluso incluyendo la demostración de garantías matemáticas. Pero hay un límite: un teorema solo puede existir dentro de un modelo, y entender ese modelo es un trabajo exigente que matemáticamente sofisticadas personas deben estar disponibles para realizar.
Se podría responder que los sistemas de IA deberían encargarse de esas preguntas también, y en última instancia decidir si la planta debe construirse. Esa es una postura seria, dice, pero nos pide que aceptemos un futuro en el que decisiones de enormes consecuencias se basen en razones que ninguna comunidad humana entiende.
El Caso para Más Matemáticos
Sahai argumenta que la sociedad tiene un interés inmediato y fuerte en hacer posible la comprensión humana. Una civilización enfocada en la profundidad de la comprensión humana, dice, es una digna de ser vivida. Pero también hay una razón práctica: las decisiones sobre tecnología novedosa se basan en razones que los humanos deben entender.
Hace un llamado a una «reserva intelectual desplegable» —comunidades de personas matemáticamente sofisticadas disponibles para ayudar a entender importantes avances habilitados por la IA. Nuestra capacidad para entender ideas difíciles e inusuales, argumenta, puede convertirse en una de las contribuciones más importantes que podemos ofrecer a la sociedad.
Una Visión para el Futuro
La visión de Sahai es optimista, incluso utópica. Él quiere un mundo donde los matemáticos y físicos sean abundantes, donde la sociedad invierta en la capacidad de entender, y donde los humanos mantengan la capacidad de considerar significativamente alternativas.
Las apuestas son altas. Un futuro en el que decisiones de enormes consecuencias se basen en razones que ninguna comunidad humana entiende es un futuro que deberíamos rechazar, dice.
Los Números Detrás de la Advertencia
| Elemento | Detalle |
|---|---|
| Título de la fuente | «Vamos a necesitar muchos más matemáticos» |
| Autor | Amit Sahai |
| Figura clave | Diseño de una planta de energía de fusión nuclear de un teravatio |
| Afirmación principal | Los sistemas de IA ya están superando a los matemáticos humanos y lo acelerarán |
«Antes de aprobar la construcción, querría que comunidades de humanos entendieran por qué funciona el diseño y qué justifica la confianza en su seguridad. Esperaría que todos lo hiciéramos.”
Nuestra opinión sobre el argumento de Sahai
El artículo de Sahai es un auténtico llamado al optimismo, no una advertencia. Él está pidiendo a los matemáticos que abracen la IA como un socio en lugar de un adversario, y que piensen en cómo la humanidad puede entender y confiar en el resultado de las máquinas.
El fallo clave es que la lucha por comprender es esencial, y que puede compartirse. La propia trayectoria de Sahai, dedicada a trabajar con sistemas de IA que producen nuevas ideas, es prueba de que los humanos pueden seguir el ritmo — y de que el esfuerzo vale la pena.
Las máquinas están avanzando más rápido. La cuestión es si los humanos elegirán mantenerse al día, o apartarse.
Fuente: “Vamos a necesitar muchos más matemáticos”, terrytao.wordpress.com.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.