El presidente Donald Trump ha firmado un acuerdo voluntario con algunas de las empresas de tecnología más grandes del país, pidiéndoles que «se autocontrolen» sus propios sistemas de inteligencia artificial. El acuerdo, denominado Compromiso Conjunto sobre Responsabilidades Fronterizas, fue firmado en la Casa Blanca y compromete a los firmantes a construir controles internos, auditorías externas independientes y supervisión a nivel de junta directiva de sus sistemas de IA.
El acuerdo tiene como objetivo asegurar que los modelos de IA «no hackeen ni accedan a sistemas técnicos de formas no deseadas.» También deja espacio para una futura regulación, diciendo que podría tener sentido convertir los compromisos en ley o regulación «con el tiempo.»
Las Empresas Que Firmaron
Los firmantes incluyen al CEO de Google, Sundar Pichai, al CEO de Anthropic, Dario Amodei, al CEO de Meta, Mark Zuckerberg, al presidente de OpenAI, Greg Brockman, al CEO de Nvidia, Jensen Huang y al CEO de xAI, Elon Musk.
La reunión cubrió seguridad de la IA, crecimiento de la industria y desarrollo de centros de datos. Trump también descartó una empresa conjunta entre Estados Unidos y China para desarrollar IA durante la misma discusión.
«Autocontrol tremendo»
Así fue como Trump describió lo que vio entre las empresas de tecnología. Dijo a los reporteros que veía «autocontrol tremendo» entre las empresas de tecnología.
Lo Que Realmente Dice El Acuerdo
El texto del compromiso es explícito sobre lo que busca prevenir. Declara que el acuerdo tiene como objetivo «asegurar que sus modelos no hackeen ni accedan a sistemas técnicos de formas no deseadas.»
El acuerdo requiere controles internos, auditorías externas independientes y supervisión a nivel de junta directiva. También dice que podría tener sentido convertir los compromisos en ley o regulación «con el tiempo.»
El acuerdo es voluntario. No existe un requisito legal para que las empresas cumplan con sus términos. El mecanismo de ejecución es reputacional: se pide a las empresas que se comprometan públicamente a estándares de comportamiento, y el incumplimiento de esos estándares podría dañar su reputación.
La Postura De Trump Sobre La IA
Trump ha resistido una desaceleración en el desarrollo de la inteligencia artificial, citando la competencia con China. Él ha argumentado que Estados Unidos no puede quedarse atrás en la carrera por la tecnología avanzada.
El mismo día de la firma, Trump también emitió una orden ejecutiva cambiando «Inteligencia Artificial» a «Súper Inteligencia» en la rama ejecutiva. Su razón declarada fue que el nuevo término «captura de manera más apropiada la promesa, el potencial y las capacidades de rápido avance de estas tecnologías».
La Cuestión de la Autoregulación
La tensión central en este acuerdo es la cuestión de si las empresas pueden efectivamente vigilarse a sí mismas. El acuerdo pide a las empresas que acepten la supervisión de sus propios consejos de administración y auditorías, al tiempo que deja abierta la puerta a una futura regulación.
Aún no hay evidencia de que las empresas realmente implementen los controles a los que se comprometieron. El acuerdo es una declaración de intenciones, no un proyecto para la acción.
¿Quién Decide Qué Cuenta Como Éxito
El compromiso es notable por lo que no hace. No establece un organismo regulador. No impone multas por infracciones. No crea un marco legal para el cumplimiento.
En cambio, se basa en que las empresas informen sobre su propio progreso y se comprometan públicamente a estándares de conducta. La supervisión se supone que provendrá de dentro de las propias empresas, con la supervisión a nivel de consejo de administración y las auditorías independientes sirviendo como controles sobre esa autoinformación.
El compromiso también reconoce que el panorama está evolucionando. Dice que podría tener sentido convertir los compromisos en ley o regulación «con el tiempo», lo que sugiere que la naturaleza voluntaria del acuerdo no es permanente.
La Puerta Abierta a la Regulación
El compromiso es cuidadoso al dejar espacio para una futura regulación. Dice que podría tener sentido convertir los compromisos en ley o regulación «con el tiempo». Ese lenguaje es significativo, porque sugiere que el enfoque voluntario actual no es la última palabra.
El compromiso es un paso hacia una regulación formal, incluso si se queda corto para crearla ahora. Las empresas han acordado aceptar la supervisión de sus propios consejos de administración y auditorías, y se han comprometido a informar sobre su progreso.
El compromiso también es notable por su alcance. Abarca la seguridad de la IA, el crecimiento de la industria y el desarrollo de centros de datos, lo que sugiere que las empresas ven estas áreas como interconectadas.
Lo que esto significa para los consumidores
El compromiso es una señal para otros países. Al adherirse a un estándar voluntario, las empresas estadounidenses están demostrando que están dispuestas a aceptar cierto nivel de supervisión, incluso si no es impuesto por el gobierno.
El compromiso también es una señal para los inversores. Las empresas que son transparentes sobre sus prácticas de IA tienen más probabilidades de ser confiables para los consumidores y los reguladores.
Lo que ocurre después
El compromiso es un punto de partida, no un punto final. Las empresas han acordado un proceso, pero los detalles de ese proceso aún no se han trabajado.
El compromiso también es un documento político. Fue firmado en la Casa Blanca y se anunció el mismo día que una orden ejecutiva que cambiaba «Inteligencia Artificial» a «Super Inteligencia». El momento sugiere que el compromiso es parte de un esfuerzo más amplio para posicionar a los EE. UU. como líder en IA.
El acuerdo fue firmado en la Casa Blanca, un entorno que señala el enfoque de la administración en la IA como una prioridad nacional. Los comentarios de Trump sugieren que ve la industria moviéndose en la dirección correcta por sí sola, pero el acuerdo en sí mismo es explícito sobre el camino a seguir: voluntario ahora, potencialmente regulado más adelante.
Las empresas se han comprometido a informar sobre su progreso, y la Casa Blanca ha dejado claro que espera que esos informes sean públicos. Esa transparencia es fundamental en el diseño del acuerdo. Se les está pidiendo a las empresas que rindan cuentas, con auditorías independientes y la supervisión a nivel de la junta directiva como los mecanismos para hacerlo.
La naturaleza voluntaria del acuerdo significa que no existe una sanción legal por no cumplir con sus términos. El cumplimiento es reputacional: las empresas que no cumplen con sus compromisos podrían enfrentar un escrutinio público y una pérdida de confianza. Ese dinamismo crea un fuerte incentivo para seguir adelante, pero también deja espacio para deslizamientos.
El acuerdo es un paso hacia la regulación formal, incluso si no crea esta ahora. Las empresas han acordado aceptar la supervisión de sus propias juntas directivas y auditorías, y se han comprometido a informar sobre su progreso. La puerta permanece abierta para que el gobierno convierta estos compromisos en ley o regulación «con el tiempo».
Para los consumidores, el compromiso ofrece la seguridad de que las empresas están trabajando para mantener sus sistemas de IA bajo control. El objetivo es simple: asegurar que los modelos de IA se comporten como se pretende, y no accedan a sistemas técnicos de formas no deseadas.
El acuerdo también tiene un mayor peso diplomático. Al adherirse a un estándar voluntario, las empresas estadounidenses están demostrando que están dispuestas a aceptar cierto nivel de supervisión, incluso si no es impuesto por el gobierno. Eso podría ser relevante para las negociaciones internacionales, donde la confianza en la gobernanza de la IA es una preocupación creciente.
El compromiso también es una señal para los inversores. Las empresas que son transparentes sobre sus prácticas de IA tienen más probabilidades de ser confiables para los consumidores y los reguladores.
El momento de la firma —el mismo día en que se promulgó la orden ejecutiva que cambió «Inteligencia Artificial» a «Super Inteligencia»— sugiere que la administración considera la IA como un momento tecnológico definitorio. El nuevo término está destinado a capturar la promesa y el potencial de estas tecnologías, y el acuerdo está destinado a gestionar los riesgos que conlleva esa promesa.
El compromiso es un punto de partida, no un punto final. Las empresas han acordado un proceso, pero los detalles de ese proceso aún no se han elaborado. El acuerdo es un paso hacia la regulación formal, incluso si no crea esta ahora. Las empresas han acordado aceptar la supervisión de sus propias juntas directivas y auditorías, y se han comprometido a informar sobre su progreso.
Se deja abierta la puerta a la regulación «con el tiempo», lo que sugiere que la naturaleza voluntaria del acuerdo no es permanente. El compromiso es una señal para otros países e inversores por igual.
Dónde está el periódico
El periódico respalda normas estrictas contra daños directos, como obligar a las empresas a revelar fallas de seguridad que ocultaron, y se opone a normas amplias que entregan el mercado a los actores establecidos, y a permitir que las grandes empresas oculten sus fallas. El compromiso voluntario Conjunto sobre las Responsabilidades Fronterizas firmado en la Casa Blanca es un paso en la dirección correcta en cuanto a la divulgación, pero es un acuerdo voluntario sin fuerza legal, y el periódico observa de cerca si los firmantes realmente implementan los controles internos, las auditorías independientes y la supervisión a nivel de la junta directiva que prometieron.
El periódico desconfía de permitir que las empresas tecnológicas más grandes se regulen a sí mismas, porque son las que más se beneficiarían de un régimen que les permite ocultar sus fallas. El propio lenguaje del compromiso, que señala que podría tener sentido convertir los compromisos en ley o regulación «con el tiempo», apunta a un futuro en el que el acuerdo voluntario podría volverse vinculante —un futuro que el periódico quiere moldear cuidadosamente en lugar de dejar que ocurra de forma predeterminada.
El periódico preferiría que cualquier futura regulación se dirija a daños específicos directamente, con requisitos cuidadosamente definidos que las startups puedan permitirse cumplir, en lugar de un régimen de licencias que convierta el cumplimiento en una protección para los actores establecidos. Los lectores deben vigilar si los firmantes realmente implementan los controles y si la administración considera el acuerdo voluntario como un acuerdo permanente o como un peldaño hacia algo más estricto en el futuro.
Material de origen: “El acuerdo de Trump pide a las empresas tecnológicas que ‘se autopoliceen’ en su propia IA fronteriza”, Cointelegraph.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.