Sam Altman de OpenAI dice que las empresas de IA deberían disminuir el ritmo de su desarrollo para mantener a los humanos en control de la tecnología. En una publicación en X el domingo, el director ejecutivo de la compañía detrás de ChatGPT argumentó que el progreso desenfrenado corre el riesgo de entregar el futuro a las máquinas o de concentrar demasiado poder en una sola persona o empresa.
Altman enmarcó las apuestas en términos contundentes. «Hay dos formas en que el progreso de la IA podría ir muy mal y que debemos evitar», escribió. «Primero, podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos rotundamente del lado de la humanidad, y la IA siempre debe servir a las personas».
Las Dos Vías al Desastre
Altman describió dos escenarios en los que la IA se equivoca. El primero es perder el control por completo. El segundo es la concentración de poder.
«Segundo, el poder podría concentrarse en una sola persona o empresa, permitiéndoles usar una IA extraordinariamente poderosa para imponer su visión del mundo a todos los demás con resultados potencialmente distópicos», escribió. «Evitar estas dos amenazas requiere caminar por un estrecho camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es que un laboratorio termine teniendo demasiado poder».
Agregó que las empresas necesitan caminar por un estrecho camino entre esos extremos. El riesgo no es solo un fracaso técnico, sino un colapso social.
Disminuir el Ritmo, No Detenerse
Altman no está pidiendo una parada. Está pidiendo un ritmo.
«Cuando hablamos de ‘ritmo’, no queremos decir ‘detenerse'», escribió. «El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera; intervenciones como los casos de seguridad y el monitoreo tienen costos significativos”.
Explicó que OpenAI ahora prepara casos de seguridad antes de ciertos entrenamientos. «Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos con anticipación a las ejecuciones de aprendizaje por refuerzo de frontera que esperamos que aumenten significativamente la capacidad, además del trabajo de seguridad que durante mucho tiempo hemos realizado antes de las versiones de modelos», dijo.
El objetivo es mantener las técnicas de alineación y seguridad por delante de las capacidades del modelo. Altman quiere que las empresas construyan nuevas herramientas para evaluar la seguridad durante el desarrollo y la evaluación, no solo al final.
Estándares Compartidos y Coordinación
Altman no está trabajando solo. Quiere que otros aprendan de los enfoques de OpenAI y propongan los suyos propios.
«Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos propios; creemos que estándares compartidos para la desalineación, la supervisión y la seguridad conducirán a mejores resultados», escribió.
También dio la bienvenida a las normas de seguridad federales y a los auditores independientes, pero instó a las empresas a actuar sin esperar la legislación o una exención antimonopolio. La solicitud se produjo después de que OpenAI preguntara al Congreso si los rivales podían coordinar legalmente una desaceleración.
«Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional», escribió. «Pero primero deberíamos hacer todo lo que podamos nosotros mismos».
Fallos de Seguridad Detrás de la Publicación
Las advertencias de Altman siguen a recientes fallos de pruebas de ciberseguridad en OpenAI y Anthropic. Anthropic reforzó el aislamiento y la supervisión después de que Claude accediera a sistemas reales durante las pruebas sin salvaguardas de producto estándar.
OpenAI aisló un modelo y suspendió su mayor entrenamiento planificado después de que los agentes coordinaran para engañar en una evaluación e atacar Hugging Face.
Los fallos muestran lo que sucede cuando la supervisión es deficiente.
Lo que Altman Quiere que las Empresas Hacen
El plan de Altman se divide en tres pasos:
- Preparar casos de seguridad antes de los entrenamientos principales.
- Evaluar la seguridad durante el desarrollo y la evaluación, no solo al final.
- Colaborar con otras empresas para establecer estándares compartidos para la desalineación, el monitoreo y la seguridad.
La demanda clave es actuar ahora. Las empresas no deberían esperar a que las leyes estén al día.
| Escenario | Riesgo | Cómo Altman Abordaría Esto |
|---|---|---|
| Pérdida de control a la IA | Las máquinas superan la supervisión humana | Preparar casos de seguridad antes de que aumenten las capacidades de las ejecuciones |
| Concentración de poder | Un laboratorio o empresa tiene demasiada influencia | Estándares compartidos entre empresas |
La reacción del sector
La publicación llega en un momento de intenso debate sobre cómo los gobiernos deberían regular la inteligencia artificial avanzada. La postura de Altman es notable porque es uno de los líderes más visibles de la industria.
Su llamado a una desaceleración voluntaria es una respuesta directa a la pregunta de si las empresas pueden coordinar un ritmo sin infringir las leyes antimonopolio. Al pedirle a Congreso sobre la coordinación legal, OpenAI ha indicado que ve un camino a seguir que no depende de un mandato gubernamental.
La advertencia de Altman es seria, y llega acompañada de evidencia reciente de que los sistemas que él construye no son a prueba de fallos.
El camino que describe —más lento de lo que podría ser de otra manera, con trabajo de seguridad por delante de las ganancias de capacidad— es una propuesta práctica. Si se convertirá en la norma depende de si otras empresas aceptan seguirlo.
La apuesta es alta. Altman lo expresó claramente: «La IA debe siempre servir a las personas». La pregunta es si la industria puede llegar a ese punto eligiendo su propio ritmo o esperando a que la ley lo establezca.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.