Una coalición de 20 naciones, encabezada por Noruega y Finlandia, ha solicitado a las Naciones Unidas que creen un organismo internacional para supervisar el desarrollo y el uso de modelos de IA de frontera. La declaración, adoptada antes de la Asamblea General de la U.N. de esta semana en la Ciudad de Nueva York, insta a la U.N. a explorar el establecimiento de «una institución internacional, capaz de establecer estándares, permitir la verificación y convocar a los estados cuando se superen los umbrales de capacidad».
La iniciativa surge en un momento en que varios líderes tecnológicos importantes han emitido advertencias sobre la IA. La declaración también hace eco de una propuesta presentada recientemente por el director ejecutivo de Anthropic, Dario Amodei.
La demanda de la coalición
La declaración fue firmada por 20 naciones, incluyendo Alemania y Canadá, así como la Comisión Europea. Tiene el título de «Una llamada al control de modelos de IA de frontera».
La recomendación principal del documento es que la U.N. explore la creación de una institución internacional para establecer estándares, permitir la verificación y reunir a los estados cuando se superen los umbrales de capacidad de la IA. La recomendación se presenta como una respuesta al creciente poder de los sistemas de IA.
La declaración también contiene una recomendación separada que insta a los gobiernos y organizaciones regionales a desarrollar y coordinar «estándares comunes» para garantizar que los países de todas las regiones tengan acceso a capacidad científica, experiencia y evaluación confiable. Esta recomendación parece estar dirigida a abordar el problema del desequilibrio tecnológico entre las naciones.
La iniciativa cobró impulso al abrirse la Asamblea General de la U.N. en la Ciudad de Nueva York.
El parecido con la propuesta de Amodei
La recomendación de la declaración guarda cierto parecido con una estructura global que el director ejecutivo de Anthropic, Dario Amodei, presentó recientemente. La llamada de la coalición a una institución internacional para establecer estándares y verificar capacidades se alinea con la dirección que Amodei ha señalado.
La comparación es notable porque coloca la propuesta de una sola empresa en el centro de una iniciativa diplomática multilateral. La coalición no está simplemente respaldando el trabajo de Amodei; lo está citando como el punto de partida para su propia demanda.
«una institución internacional, capaz de establecer estándares, permitir la verificación y convocar a los estados cuando se superen los umbrales de capacidad»
Lo que pide la declaración ( )
La recomendación central de la declaración es que la ONU explore la creación de una institución internacional. La institución tendría tres funciones centrales: ( )
- Establecer estándares para el desarrollo y uso de modelos de IA de frontera ( )
- Permitir la verificación de esos estándares ( )
- Convocar a los estados cuando se superen los umbrales de capacidad de la IA ( )
El lenguaje relativo a los umbrales es significativo. Sugiere que la coalición está buscando una institución que no solo observaría el desarrollo de la IA, sino que también desencadenaría acciones cuando los sistemas alcancen ciertos niveles de capacidad. ( )
La declaración también insta a los gobiernos y organizaciones regionales a desarrollar y coordinar estándares comunes. Esta recomendación tiene como objetivo garantizar que la capacidad científica, la experiencia y la evaluación confiable estén disponibles en todas las regiones. ( )
El planteamiento de la coalición sugiere un deseo de evitar un futuro en el que solo unos pocos países ricos tengan acceso a los sistemas de IA más avanzados. Los autores de la declaración quieren garantizar que los beneficios de la tecnología se distribuyan de manera equitativa. ( )
El momento de la iniciativa ( )
La declaración de la coalición surge mientras la Asamblea General de la ONU se inauguraba en la ciudad de Nueva York. La Asamblea General es la reunión anual de líderes mundiales. ( )
El momento es deliberado. Al presentar la declaración al comienzo de la asamblea, la coalición está poniendo el tema de la supervisión de la IA en la agenda diplomática mundial. El impulso también sigue a una ola de advertencias de líderes tecnológicos. ( )
Lo que la coalición no está pidiendo ( )
La declaración de la coalición no está pidiendo un único regulador global con poder de ejecución. Está pidiendo a la U.N. que explore la creación de una institución que establecería estándares, verificaría el cumplimiento y convocaría a los estados cuando se superen los umbrales.
La distinción es importante. Un regulador con poder de ejecución requeriría un marco legal que la U.N. no tiene actualmente. La propuesta de la coalición es más modesta: está pidiendo una institución que convocaría a los estados y los reuniría para establecer estándares.
La función de verificación también es importante. Sugiere que la coalición no está simplemente interesada en establecer estándares, sino también en comprobar que se están siguiendo.
Por qué la coalición es importante
La composición de la coalición es significativa. Noruega y Finlandia lideraron la declaración, y los 20 firmantes incluyen a Alemania y Canadá, así como a la Comisión Europea.
El enfoque de la coalición es multilateral. Está pidiendo a la U.N. que explore una institución, en lugar de crearla unilateralmente. Eso significa que la coalición está trabajando dentro del marco existente de la diplomacia internacional.
La coalición también es pragmática. No está pidiendo una prohibición total de la IA ni una moratoria. Está pidiendo estándares, verificación y capacidad de convocatoria.
La comparación con la propuesta de Amodei también es notable. La coalición no está simplemente avalando el trabajo de una empresa privada; lo está citando como punto de partida para su propia demanda. Eso sugiere que la propuesta ha ganado un real impulso en círculos diplomáticos.
Próximos pasos de la coalición
La declaración de la coalición es un llamado a la acción. Se espera que la U.N. explore la propuesta, y la coalición probablemente presionará para que se tomen medidas concretas.
La composición de la coalición le da influencia. Los 20 firmantes representan una variedad de regiones e intereses.
Los autores de la declaración también estarán observando cómo responde la U.N. Si la U.N. avanza con trabajos exploratorios, la coalición podría convertirse en una fuerza impulsora en la configuración del diseño de la institución.
La llamada de la coalición a estándares comunes también es significativa. Sugiere que la coalición está interesada en un marco global compartido, en lugar de un mosaico de regulaciones nacionales.
La declaración de la coalición es un llamado a la acción. Se espera que la ONU explore la propuesta, y la coalición probablemente presionará para que se tomen medidas concretas. La membresía de la coalición le otorga influencia, y su enfoque pragmático la hace más difícil de ignorar.
Dónde está la postura del periódico
El periódico respalda una regulación estrecha y específica contra el daño directo causado por las empresas de IA, como exigir la divulgación de fallas de seguridad que ocultaron, y se opone a una supervisión y licenciamiento internacionales amplios que congelarían a los líderes actuales en su lugar y excluirían a quienes los habrían desafiado. El periódico se opone a reglas que aumenten el costo de entrada para las empresas pequeñas, y el impulso de esta coalición hacia una institución de la ONU con poderes de aplicación corre el riesgo de hacer precisamente eso.
La coalición cita la propuesta de una sola empresa como punto de partida para un esfuerzo diplomático multilateral. Una institución de la ONU con poderes de establecimiento de estándares y verificación podría convertirse fácilmente en un foso, no en una salvaguarda: un régimen de licencias y costos de cumplimiento que solo las empresas más grandes pueden pagar, y que congela a los líderes actuales en su lugar. La posición del periódico es que la regulación debe atacar el daño directamente, no construir un aparato que entregue el mercado a los incumbentes.
Los próximos pasos de la coalición mostrarán si está impulsando una institución real o una mera fachada. El periódico observará cómo responde la ONU, y si el planteamiento pragmático de la coalición se mantiene o se endurece en un régimen que excluye a quienes podrían haber desafiado a los líderes actuales.
Vea una serie de 14 imágenes en el Washington Examiner.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.