Donald Trump ha firmado un acuerdo con directivos de tecnología llamado el Acuerdo de la Casa Blanca sobre Super Inteligencia, Compromiso Conjunto sobre Responsabilidades de Frontera. El acuerdo cubre directrices para empresas que construyen modelos de frontera de IA, incluyendo controles internos, un equipo de supervisión interna, auditorías externas y una junta de supervisión independiente.
El acuerdo fue publicado tras una reunión con las principales empresas de IA y funcionarios del Gabinete. Entre los firmantes se encuentran el director ejecutivo de Google, Sundar Pichai, el director ejecutivo de Meta, Mark Zuckerberg, el director ejecutivo de Anthropic, Dario Amodei, el director ejecutivo de SpaceXAI, Elon Musk, el director ejecutivo de Nvidia, Jensen Huang, y el cofundador y presidente de OpenAI, Greg Brockman.
Zuckerberg y Huang se han opuesto a tales regulaciones en el pasado, mientras que los demás directivos las han apoyado. El acuerdo establece que las empresas deben monitorear las capacidades de los modelos y la alineación en torno a la ciberseguridad, la bioseguridad y las amenazas químicas. También establece que las empresas deben garantizar que los modelos no hackeen ni accedan a sistemas técnicos de formas no deseadas.
Juntos, estos pasos darán a cada empresa, a sus clientes y al público la confianza de que la tecnología está funcionando según lo previsto.
Cuatro Capas de Controles
Se pidió a las empresas que implementaran cuatro capas de controles y auditorías:
- Controles internos
- Un equipo de supervisión interna
- Una auditoría externa independiente
- Un comité de la junta directiva independiente
El acuerdo describe estos como «cuatro capas de controles y auditorías».
Lista de Firmantes
Los firmantes representan algunas de las empresas más grandes que trabajan en IA en la actualidad. La lista incluye:
- Sundar Pichai, CEO de Google
- Mark Zuckerberg, CEO de Meta
- Dario Amodei, CEO de Anthropic
- Elon Musk, CEO de SpaceXAI
- Jensen Huang, CEO de Nvidia
- Greg Brockman, cofundador y Presidente de OpenAI
OpenAI descartó el lanzamiento de su nuevo modelo ‘Astra’ por preocupaciones de seguridad.
Cumplimiento flexible
Cabe destacar la naturaleza voluntaria del acuerdo. El acuerdo solicita a las empresas que se regulen a sí mismas con equipos internos, auditores externos y juntas independientes, un enfoque de cumplimiento flexible que deja la aplicación a la industria en lugar del gobierno.
Lo que el Acuerdo No Es
El acuerdo es un compromiso, no una ley todavía. Solicita a las empresas que adopten pautas de forma voluntaria. El acuerdo señala que podría ser conveniente codificar los pasos en leyes o regulaciones con el tiempo.
Por ahora, la responsabilidad recae en las propias empresas. Se les pide que monitoreen las capacidades de los modelos, aseguren la alineación en torno a la ciberseguridad, la bioseguridad y las amenazas químicas, y eviten que los modelos realicen hackeos o accedan a sistemas técnicos de formas no previstas.
Supervisión del Consejo de Administración
El acuerdo especifica que un comité independiente del consejo de administración supervisará y recibirá informes de los equipos que operan los controles, así como de los auditores y evaluadores internos y externos. Ese consejo tiene la tarea de garantizar que cualquier problema identificado sea remediado.
El Resultado Final
El acuerdo es un paso hacia una mayor transparencia en la industria de la IA. Reúne a algunos de los ejecutivos más poderosos en tecnología para que acuerden estándares comunes.
Si funciona dependerá de la aplicación. Sin fuerza legal en su respaldo, el acuerdo se basa por completo en auditores independientes y un consejo de administración para supervisar el cumplimiento.
La pregunta es si la industria puede confiar en sí misma para cumplir con lo establecido.
La respuesta llegará en los meses venideros, a medida que las empresas se reúnan regularmente para establecer estándares y mejores prácticas.
La postura del periódico
El periódico respalda reglas estrictas contra daños directos, como exigir a las empresas que revelen fallas de seguridad que ocultaron, y se opone a reglas amplias que le entregan el mercado a los incumbentes. El Acuerdo de la Casa Blanca sobre Super Inteligencia, Compromiso Conjunto sobre Responsabilidades de la Frontera, es una promesa voluntaria de algunas de las empresas de IA más grandes para regularse a sí mismas, con un consejo independiente que supervisa los controles internos, las auditorías y la alineación en torno a la ciberseguridad, la bioseguridad y las amenazas químicas.
El periódico apoya un enfoque ligero en la IA y la tecnología, para que las empresas emergentes no queden excluidas. El peligro es el dominio de las grandes empresas tecnológicas, no la tecnología en sí. Los regímenes de licencias y los costos de cumplimiento, que solo los gigantes pueden permitirse, son una barrera, no un salvaguarda. Cuando las empresas más grandes piden ser reguladas, el periódico pregunta a quiénes excluirían esas reglas.
El acuerdo pide a las empresas que se controlen a sí mismas con equipos internos, auditores externos y consejos independientes — un enfoque de contacto ligero que deja la aplicación a la industria en lugar del gobierno. Por ahora, la responsabilidad recae en las propias empresas.
“LEA EN SU TOTALIDAD: Acuerdo de Trump y líderes tecnológicos de la Casa Blanca sobre Super Inteligencia,” Washington Examiner.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.