Donald Trump ha negociado un acuerdo con dos docenas de empresas de tecnología para que se autopoliticen en relación con la seguridad de la IA, un plan que se basa en acuerdos voluntarios en lugar de nuevas leyes. Las empresas firmaron una carta comprometiéndose a realizar auditorías independientes de seguridad, reuniones periódicas para compartir las mejores prácticas y una promesa de trabajar juntas en estándares de IA. El acuerdo, anunciado el martes, no tiene fuerza legal, pero Trump lo calificó de “moralmente vinculante” de todos modos.
El acuerdo cubre una amplia gama de riesgos, desde la ciberseguridad hasta la bioseguridad y las amenazas químicas. También aborda las acciones no deseadas del modelo, el tipo de comportamiento que puede surgir cuando un sistema de IA actúa fuera de sus límites previstos. Las empresas acordaron probar si sus controles internos, sistemas de monitoreo y detección realmente funcionan.
Quiénes Firmaron el Acuerdo
Los firmantes incluyen a algunas de las figuras más poderosas en tecnología:
- Dario Amodei, de Anthropic
- Sam Altman, de OpenAI
- Elon Musk, a través de SpaceXAI
- Jensen Huang, de Nvidia
- Mark Zuckerberg, de Meta
- Sundar Pichai, de Alphabet y Google
Estos seis líderes representan a las empresas que están impulsando la industria de la IA hacia adelante. Sus firmas tienen peso, pero la pregunta sigue en pie: ¿peso de qué?
Lo Que Realmente Dice el Acuerdo
La carta compromete a las empresas a algunos pasos clave. Realizarán auditorías de seguridad independientes, que prueban si los controles internos realmente funcionan. Celebrarán reuniones periódicas para compartir las mejores prácticas y establecer normas y puntos de referencia comunes de seguridad de la IA. Y considerarán si codificar las recomendaciones más adelante.
El acuerdo establece que «podría ser conveniente codificar» las recomendaciones. Eso es una salvedad, no una promesa. El acuerdo es voluntario, y las empresas son libres de retirarse en cualquier momento.
Algunas empresas ya se han reunido con el Centro de Estándares e Innovación de IA, que realiza pruebas de seguridad voluntarias previas a la puesta en marcha por parte del gobierno. Muchas empresas se han comprometido voluntariamente a realizar pruebas de seguridad gubernamentales altamente secretas. El acuerdo simplemente formaliza lo que algunas ya estaban haciendo.
Límites de la Autorregulación
El problema es que el acuerdo no tiene fuerza. No existe un mecanismo de cumplimiento. No hay multas. No existe un requisito legal para el cumplimiento. Las empresas acordaron hacer estas cosas, pero no hay nada que impida que no lo hagan.
Trump llamó al acuerdo «casi como una constitución, en cierto modo». Dijo a los reporteros en la Casa Blanca: «Las personas más grandes del mundo firmaron eso, y yo lo firmé como presidente, y es realmente una forma de protección».
Esa es una forma extraña de describir un acuerdo voluntario. Una constitución es la ley suprema de un país. Tiene fuerza legal. Se puede hacer cumplir. El acuerdo que Trump describió no es ninguna de esas cosas.
Algunas empresas de IA no están seguras de lo que califica como un evaluador externo. El proceso de selección parece estar politizado, según Bloomberg. No está claro a quién está designando Trump para auditar los modelos de frontera.
Las Empresas Ya Estaban Comprometidas
No todos los signatarios son nuevos en esto. Algunas empresas ya se habían comprometido a realizar auditorías externas antes de que se anunciara este acuerdo. Anthropic, Google y OpenAI fueron algunas de las que habían hecho compromisos públicos previos.
Eso plantea una pregunta: ¿qué agrega realmente este acuerdo? Las empresas que ya estaban auditando están ahora firmando una carta prometiendo continuar haciendo lo que ya estaban haciendo. Para ellos, el acuerdo es en gran medida simbólico.
Para las empresas que aún no se han comprometido con auditorías externas, el acuerdo crea una norma. Si suficientes empresas están de acuerdo con los mismos estándares, la industria se mueve en una dirección particular. Si ese movimiento es más rápido o más efectivo que la regulación es una pregunta abierta.
Una Comparación de Compromisos
| Empresa | Auditorías Externas | Nuevo Compromiso |
|---|---|---|
| Anthropic | Anteriormente comprometida | Carta firmada |
| OpenAI | Anteriormente comprometida | Carta firmada |
| Previamente comprometidos | Carta firmada | |
| Nvidia | Poco claro | Carta firmada |
| Meta | Poco claro | Carta firmada |
| SpaceXAI | Poco claro | Carta firmada |
La tabla muestra que tres de los seis firmantes ya se habían comprometido con auditorías externas antes de que se anunciara el acuerdo. Las empresas restantes no divulgaron públicamente sus posiciones anteriores.
¿Qué sigue?
El acuerdo es una declaración de intenciones. Es una forma para que las empresas le señalen a cada una y al público que están tomando en serio la seguridad de la IA. Es también una forma para que Trump demuestre que está comprometido con el sector tecnológico.
Pero el trabajo duro está por delante. Las auditorías de seguridad independientes requieren auditores independientes. Esos auditores deben ser creíbles, competentes y libres de conflictos de interés. El acuerdo no especifica cómo se seleccionarán o certificarán los auditores.
Las reuniones periódicas también son un compromiso. Compartir las mejores prácticas es valioso, pero no es lo mismo que establecer normas obligatorias. Los puntos de referencia que las empresas desarrollen podrían convertirse en estándares de facto, pero solo si todos están de acuerdo en usarlos.
Existe el riesgo de que el acuerdo se convierta en un mero lugar de reunión. Las empresas se reúnen regularmente, intercambian ideas y se dan palmaditas en la espalda. Nada cambia en la práctica.
Una cuestión de confianza
El acuerdo se basa en la confianza. Las empresas confían unas en otras para que sigan adelante. El público confía en que las empresas llevarán a cabo auditorías significativas. Trump confía en que las empresas se protegerán a sí mismas y al país.
Eso es mucha confianza para depositar en un acuerdo voluntario. Es también mucha confianza para depositar en una administración que ha mostrado poco interés en regular a las empresas tecnológicas.
El acuerdo es un comienzo. Reúne a las empresas más importantes en IA. Pone la seguridad al frente en sus discusiones. Pero no es una solución.
Una solución implicaría requisitos legales reales, respaldados por el cumplimiento. Una solución implicaría supervisión pública, no solo acuerdos privados. Una solución implicaría transparencia, para que el público sepa qué se está probando y cómo.
El acuerdo es un paso. No es el destino.
La postura del periódico
El periódico apoya reglas estrechas contra daños directos, como exigir a las empresas que revelen fallas de seguridad que ocultaron, y se opone a reglas amplias que entregan el mercado a los incumbentes, incluidos acuerdos que permiten a las grandes empresas autopoliciarse sin ningún poder legal. El acuerdo de Trump anunciado el martes no encaja en ninguna de estas categorías. Es un acuerdo voluntario sin aplicación, sin multas y sin requisito legal de cumplimiento — una constitución sin el poder de la ley. El periódico se opone a este enfoque porque consolida a los líderes de hoy mientras deja al público desprotegido.
Los firmantes — Dario Amodei de Anthropic, Sam Altman de OpenAI, Elon Musk a través de SpaceXAI, Jensen Huang de Nvidia, Mark Zuckerberg de Meta y Sundar Pichai de Alphabet y Google — tienen peso, pero el peso es moral, no legal. El periódico apoya que las empresas revelen fallas de seguridad que ocultaron, pero se opone a permitir que las empresas se autopolícen sin ningún poder legal. El acuerdo no ofrece ninguno de estos.
Las empresas que ya se estaban auditando a sí mismas ahora están firmando una carta prometiendo continuar haciendo lo que ya estaban haciendo. Para ellas, el acuerdo es en gran medida simbólico. Las empresas restantes no revelaron públicamente sus posiciones anteriores, y el proceso de selección de auditores parece estar politizado. El acuerdo puede tener sentido para codificar las recomendaciones, pero es una salvaguarda, no una promesa. El trabajo duro — auditores creíbles y competentes libres de conflictos de interés — permanece sin realizar.
Material fuente: “Plan de Trump para combatir los riesgos de la IA depende de que las grandes empresas tecnológicas se autopolícen”, Ars Technica.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.