Dos de las principales compañías de inteligencia artificial del mundo comparecieron ante el Consejo de Seguridad de las Naciones Unidas el miércoles para advertir que la inteligencia artificial podría convertirse en un riesgo para toda la humanidad — y que el peligro crece cuando el poder sobre la tecnología se concentra en una sola empresa o país.
Dario Amodei, director ejecutivo de Anthropic, dijo al consejo que un desarrollo de la inteligencia artificial mal gestionado podría poner en riesgo a la humanidad misma. Sam Altman, director ejecutivo de OpenAI, fue aún más lejos, afirmando que el mundo podría perder el control de su futuro por completo a las máquinas.
«Podríamos perder el control del futuro a causa de la inteligencia artificial», dijo Altman.
La Advertencia de Amodei
Amodei abrió la sesión con una evaluación directa de las implicaciones. Dijo que si la inteligencia artificial se gestiona mal, las consecuencias podrían extenderse mucho más allá de una sola empresa o nación.
«Si se gestiona mal, incluso creo que la inteligencia artificial podría ser un riesgo para la humanidad en su conjunto», dijo Amodei.
Sus comentarios marcaron el tono para el resto de la sesión. Los directores ejecutivos estaban testificando ante el Consejo de Seguridad. Su presencia sugiere que la inteligencia artificial ha pasado de ser una preocupación técnica a una que alcanza los más altos niveles de gobernanza global.
La Advertencia de Altman
La advertencia de Altman fue más explícita. Enmarcó el problema como una cuestión de control — el tipo de control por el que existe el Consejo de Seguridad a través de las fronteras.
No se limitó a repetir la advertencia de Amodei. Fue aún más lejos, hablando de perder el control del futuro por completo a las máquinas. Ese planteamiento señala un cambio en la forma en que las empresas presentan el problema.
La aparición conjunta de los directores ejecutivos señala un cambio. Las empresas de inteligencia artificial ya no están tratando la tecnología como un asunto puramente comercial. Ahora están argumentando que el mundo necesita normas internacionales para regir cómo se desarrolla la inteligencia artificial — y que esas normas deben aplicarse a todos, no solo a las empresas que construyen los sistemas.
Salvaguardias Globales y Concentración de Poder
Ambos directores generales pidieron salvaguardas globales para evitar que la IA se vuelva demasiado poderosa para controlarla. También promovieron asegurar que el poder de la IA no se concentre en una sola empresa o país.
El planteamiento de Amodei sobre la gestión deficiente de la IA apuntaba directamente al riesgo. El planteamiento de Altman sobre perder el control del futuro apuntaba directamente a las partes interesadas.
| Director general | Empresa | Advertencia |
|---|---|---|
| Dario Amodei | Anthropic | Riesgo para la humanidad en su conjunto |
| Sam Altman | OpenAI | Pérdida de control sobre el futuro |
Los directores generales están solicitando un campo de juego nivelado: uno en el que ninguna empresa o país pueda dictar la forma del desarrollo de la IA. Eso es un desafío directo a la concentración actual de poder en la industria.
El Día Anterior de Advertencias
El testimonio de los CEOs llegó un día después de que el Secretario General de la ONU, Antonio Guterres, emitiera su propia advertencia. Habló de «robots asesinos» y los peligros que estos representan.
Expertos y líderes europeos han dicho que los robots asesinos ya son una realidad o peligrosamente cercanos. La combinación de la advertencia de Guterres y el testimonio de los CEOs ha puesto el tema en el centro de atención en los más altos niveles de gobernanza global.
La advertencia de Guterres sobre los robots asesinos añadió otra capa a la conversación. Vinculó el debate más amplio sobre la IA a una aplicación militar específica que ha llamado la atención de expertos y líderes europeos por igual.
El Consejo de Seguridad ahora está escuchando a ejecutivos de IA. El hecho de que el consejo esté escuchando a ejecutivos de IA señala lo rápido que la tecnología se ha convertido en central para la seguridad nacional.
Lo Que Sigue
La aparición de los CEOs sienta las bases para una mayor acción. El Consejo de Seguridad deberá decidir si aborda el tema de los controles de IA.
Los CEOs han presentado su caso. Ahora los diplomáticos deben responder.
Las apuestas son altas. Los CEOs han dicho lo que ocurrirá si la IA se gestiona mal.
Dónde está el papel
El periódico respalda requisitos de divulgación limitados para fallas de seguridad y se opone a cualquier régimen que entregue el mercado de la IA a los incumbentes. Las advertencias de los CEOs sobre la concentración de poder en una sola empresa o país son reales, pero la solución no es un esquema de licencias federal que fije a los líderes de hoy en día y excluya a quienes podrían haberlos desafiado. El peligro es el dominio de las grandes empresas tecnológicas, no la tecnología en sí. Cuando las empresas más grandes piden ser reguladas, el periódico pregunta a quién excluirían esas reglas: los regímenes de licencias y los costos de cumplimiento son un foso, no una salvaguarda.
El periódico busca reglas estrictas contra el daño directo, como obligar a las empresas a revelar fallas de seguridad que ocultaron. Quiere que el mercado siga abierto a los nuevos participantes en lugar de entregárselo a las empresas que ya lo controlan. Los lectores deben estar atentos a las propuestas que suenen como si estuvieran protegiendo al público pero en realidad protegen a los incumbentes — costos de cumplimiento que solo los gigantes pueden pagar, esquemas de licencias que mantienen a las empresas emergentes fuera y normas que tratan la IA como un problema de regulación en lugar de una herramienta cuyos fallos deben ser expuestos.
Vea una serie de 20 imágenes en ABC13 Houston.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.