El rey Carlos celebró una cumbre privada el jueves en Dumfries House, una propiedad del siglo XVIII en Ayrshire propiedad de su fundación benéfica, reuniendo a líderes de Nvidia, OpenAI, Anthropic, el nuevo ministro de IA del Reino Unido, Kanishka Narayan, el director del servicio de inteligencia exterior del Reino Unido y Paolo Benanti, quien asesora al papa sobre la IA. El rey dejó claro su postura: quiere control sobre la inteligencia artificial antes de que sea demasiado tarde.
El rey instó a los asistentes a encontrar una forma de controlar la IA «antes de que sea demasiado tarde», calificando el rápido desarrollo de la tecnología y su «sustancia» como «fascinantes y profundamente preocupantes». Citó la medicina y la ciencia como ejemplos de cómo la IA está mejorando y salvando vidas, pero advirtió que los creadores ahora están cada vez más advirtiendo sobre los riesgos de que la IA desarrolle capacidades más oscuras, quizás incluso para quitar la vida.
Un investigador de Anthropic renunció días antes, escribiendo en línea que las empresas de IA estaban «compitiendo para construir máquinas que son mucho más inteligentes que cualquier ser humano» y que «la humanidad puede que no sobreviva a esto». El rey respondió directamente a ese temor. Dijo que es urgente considerar los peligros existenciales de que la IA caiga en las manos equivocadas y se utilice de «maneras potencialmente catastróficas».
Preguntó: «¿Aseguramos, necesitamos medios suficientes de control antes de que sea demasiado tarde?».
Al concluir, instó a los líderes a aprovechar el bien de la IA y a construir cooperación y consenso internacional.
OpenAI envió a su directora financiera Sarah Friar y Anthropic envió a Tino Cuéllar, quien lidera asuntos globales. Cuéllar dijo que su empresa se sintió honrada de participar y agradeció al rey por «reunir a líderes de la industria y voces de toda la sociedad para discutir el papel de la IA en el servicio del bien público».
La cumbre sigue a la decisión de Anthropic de restringir el acceso a sus modelos Fable y Mythos solo a clientes estadounidenses, lo que conmocionó a la escena tecnológica europea. El rey Carlos habló previamente sobre la IA en 2023 y 2024.
Este mes, Sam Altman de OpenAI, Elon Musk y Dario Amodei de Anthropic pidieron una desaceleración en el desarrollo de la IA. Jensen Huang de Nvidia y el presidente Donald Trump rechazaron esas llamadas; el presidente dijo que Estados Unidos está liderando a China en IA y quiere mantenerse a la vanguardia.
OpenAI y Anthropic han insinuado posibles ofertas públicas iniciales espectaculares durante el último año, aunque OpenAI recientemente dijo que sus planes de IPO se estancaron este año debido a preocupaciones sobre la seguridad de la IA. Los medios informan que el rey se quedó por unos 20 minutos, luego dejó a los invitados a discutir entre ellos.
El Registro del Rey sobre la IA
Carlos ha hablado públicamente sobre la IA dos veces antes. Su lenguaje en Dumfries House fue directo. No prohibió la IA ni detuvo la investigación. Pidió control, y lo pidió con urgencia.
Los asistentes a la cumbre incluyeron a algunas de las figuras más poderosas en la IA. El nuevo ministro de IA del Reino Unido estuvo presente, junto con el director del servicio de inteligencia exterior del Reino Unido. La presencia de Paolo Benanti añade peso al argumento de que la religión y la ciencia comparten la responsabilidad de cómo se desarrolla la IA.
Lo Que Viene Después
La cumbre fue privada y breve. El rey se quedó por unos 20 minutos antes de dejar a los invitados a hablar entre ellos. No se sabe todavía si esa conversación produjo algún paso concreto.
Lo que se sabe es la dirección a seguir. El rey ha hablado ahora tres veces sobre la IA, cada vez planteando preguntas sobre el control y el riesgo. El formato de la cumbre acercó a las personas que están construyendo la tecnología a la persona que representa al Estado.
La cuestión de si el Reino Unido puede mantenerse a flote en la carrera de la IA es un asunto aparte. La llamada del rey al control antes de que sea demasiado tarde lo coloca en contra de las empresas de tecnología que impulsan un desarrollo más rápido.
La posición del rey no es anti-IA. Citó la medicina y la ciencia como ejemplos de cómo la IA está mejorando y salvando vidas. Su preocupación es sobre el control, no sobre la tecnología en sí misma.
El Orden del Día
- La advertencia del rey: «Antes de que sea demasiado tarde»
- La evaluación del rey: el desarrollo de la IA es «intrigante y profundamente preocupante»
- La preocupación del rey: la IA podría desarrollar capacidades más oscuras, quizás incluso para quitar la vida.
- La pregunta del rey: «¿Seguramente, necesitamos medios de control suficientes antes de que sea demasiado tarde?»
- El llamado final del rey: Aprovechar el bien de la IA y construir cooperación internacional.
La cumbre fue una declaración de intenciones. El rey ha hablado. Ahora, la pregunta es si alguien escucha.
Dónde está el periódico
El periódico apoya normas estrictas contra el daño directo, como exigir a las empresas que revelen fallas de seguridad que ocultaron, y se opone a la licencia federal de IA que congela a los líderes de hoy y excluye a quienes podrían haberlos desafiado. La cumbre en Dumfries House fue una declaración de intenciones, no un proyecto de ley para la regulación. Las advertencias repetidas del rey sobre el control antes de que sea demasiado tarde plantean preguntas reales, pero no las resuelven.
Los asistentes —Nvidia, OpenAI, Anthropic, el nuevo ministro de IA del Reino Unido, el jefe del servicio de inteligencia exterior del Reino Unido y Paolo Benanti— representan a las personas que están construyendo la tecnología. Sus empresas están avanzando, con Anthropic retirando el acceso a sus modelos Fable y Mythos solo para clientes estadounidenses. El CFO de OpenAI y el líder de asuntos globales de Anthropic estuvieron allí, y este último agradeció al rey por reunir a líderes de la industria y voces de toda la sociedad.
La preocupación del periódico es la misma que siempre: cuando las empresas más grandes piden que sean reguladas, el periódico pregunta a quién dejarían fuera esas normas. Los regímenes de licencias y los costos de cumplimiento que solo los gigantes pueden pagar son un foso, no una salvaguarda. La cumbre no propuso un foso. Propuso urgencia, control y cooperación.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.