David Robinson solía escribir los informes de seguridad que acompañaban a cada lanzamiento importante de modelos en OpenAI. Ahora ha renunciado a su puesto y está utilizando The Atlantic para encender las alarmas.
La salida de Robinson es notable porque fue una de las personas cuyo trabajo era evaluar los riesgos de los propios sistemas que ahora está criticando. Su advertencia tiene el peso de alguien que ha estado dentro del proceso de toma de decisiones de la empresa, y su mensaje es contundente: la cultura en OpenAI y en toda la industria de la IA está «rota».
La Advertencia de Robinson
Robinson dice que Silicon Valley ha operado con «extrema confianza» y «sprints perpetuos». Las empresas han construido modelos más grandes y mejores con «optimismo sin obstáculos», dice, al tiempo que ignoran o subestiman los posibles problemas en el camino.
El problema, argumenta, va más allá de unas pocas nuevas reglas o regulaciones. Es sistémico. La industria tecnológica se ha movido rápido y roto cosas, y lo ha hecho sin suficiente humildad.
Su prescripción es dramática. Dice que las empresas de IA necesitan adoptar salvaguardas a nivel nuclear:
«Dadas las amenazas actuales, los laboratorios de frontera deben funcionar como centrales nucleares o aeropuertos concurridos, con capas de redundancia y una planificación cuidadosa y que consume tiempo, para que el error humano ocasional e inevitable no abra la puerta a un desastre.»
La Despedida
Robinson no es el primer especialista en seguridad en abandonar una importante empresa de IA. La tendencia se ha convertido en una procesión de renuncias, cada una con advertencias públicas sobre los peligros de la tecnología que ayudaron a construir.
Jacob Coxon parece haber iniciado la salida al renunciar a Anthropic y luego decir públicamente que la IA «podría matarnos a todos al final de la década». Robert O’Callahan, Bilal Chughtai y Josh Engels siguieron a Coxon fuera de Google DeepMind. Joe Benton también dejó Anthropic. Cada salida trajo otra advertencia pública sobre la dirección del desarrollo de la IA.
Un Patrón de Advertencias Públicas
Personas que antes estaban tras puertas cerradas, escribiendo informes de seguridad y asistiendo a reuniones internas, ahora están dando un paso adelante para hablar directamente con el público. Su mensaje es coherente: la industria se está moviendo demasiado rápido y los riesgos se están ignorando.
La advertencia de Robinson es parte de esa misma línea. Él no es el primero en expresar alarma, ni lo será el último. El patrón es visible, aunque abarca solo un puñado de salidas hasta ahora.
El Caso del Escéptico
Es comprensible si usted se siente un poco cínico ante la repentina aparición de todos para advertir sobre lo peligroso que es el sistema que ayudaron a construir. Después de todo, ellos hicieron este desastre. Pero eso no significa que debamos descartar sus advertencias.
Lo Que Significa la Humildad
El llamado de Robinson a la humildad es el núcleo de su argumento. Él quiere que las empresas de IA dejen de operar con un optimismo sin restricciones y comiencen a planificar cuidadosamente. Él quiere que traten el ocasional error humano como algo que podría conducir al desastre.
La comparación con las plantas de energía nuclear y los aeropuertos concurridos es reveladora. Esas industrias operan con capas de redundancia y una planificación cuidadosa.
Robinson quiere el mismo enfoque para la IA. Él quiere que la industria se ralentice, que mire fuera de su propia burbuja y que construya sistemas que puedan resistir el error humano.
Los Riesgos Son Reales
La advertencia de Robinson no es abstracta. Él señala los riesgos actuales y dice que los laboratorios de frontera necesitan cambiar su forma de operar. El ocasional error humano no debería abrir una puerta al desastre, argumenta.
Los riesgos no son hipotéticos. La sucesión de salidas demuestra que las personas dentro de la industria han salido públicamente a advertir sobre ellos. La pregunta es si la industria escucha.
El Fondo del Asunto
La renuncia de Robinson es significativa porque fue una de las personas cuyo trabajo era evaluar los riesgos. Su advertencia tiene peso precisamente porque estaba en una posición para saber de lo que estaba hablando.
La industria tiene una opción. Puede seguir moviéndose rápido y rompiendo cosas, o puede disminuir el ritmo y construir sistemas que sean verdaderamente seguros. Robinson ha tomado su decisión. Ahora, el resto de la industria debe tomar la suya.
Caja de Datos Clave
- David Robinson escribió informes de seguridad para cada lanzamiento importante de los modelos de OpenAI
- Renunció a su puesto en OpenAI y publicó una editorial en The Atlantic
- Jacob Coxon renunció a Anthropic y advirtió que la IA podría matarnos a todos antes de fin de década
- Robert O’Callahan, Bilal Chughtai y Josh Engels dejaron Google DeepMind
- Joe Benton dejó Anthropic
- Robinson pide a las empresas de IA que operen como plantas de energía nuclear o aeropuertos concurridos
La advertencia de Robinson es un llamado a la acción. La industria ha estado operando con extrema confianza y sprints perpetuos. Es hora de detenerse y mirar a nuestro alrededor. Los riesgos son reales, y el ocasional error humano no debe abrir la puerta al desastre.
Material fuente: “Un empleado de seguridad de OpenAI ha renunciado y está sonando la alarma», The Verge.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.