Nvidia ha creado un nuevo grupo de más de 100 empresas para detener a agentes de IA descontrolados, y OpenAI no forma parte de él. El fabricante de chips anunció el movimiento el lunes, y la ausencia de la empresa detrás de ChatGPT llamó la atención de inmediato.
OpenAI no se unió al consorcio. Tampoco lo hicieron Amazon, Google o Apple. Anthropic es un partidario del esfuerzo de Nvidia, sin embargo.
El Nuevo Consorcio
El nuevo esfuerzo se llama la Plataforma de Seguridad de Agentes Abiertos de Nvidia. Reúne a más de 100 empresas para abordar el problema de agentes que actúan fuera de sus límites previstos. Nvidia está presentando esto como un impulso a nivel de la industria en lugar de una solución de un solo proveedor.
Lo que Incluye la Plataforma de Nvidia
La plataforma incluye OpenShell, software de código abierto que crea un entorno aislado para evitar que los agentes se escapen. Nvidia Sentry es una función separada y patentada que se ejecuta en unidades de procesamiento de datos BlueField-4. Sentry vigila constantemente el comportamiento de los agentes y puede desactivarlos instantáneamente.
La plataforma requiere un componente de hardware que no es de código abierto y solo puede ejecutarse en el hardware de Nvidia.
La Posición Declarada de OpenAI
Un portavoz de OpenAI le dijo a TechCrunch que la empresa apoya el trabajo de Nvidia. Ese apoyo no significa unirse al consorcio.
El Trabajo de OpenAI con Nvidia
OpenAI está trabajando con Nvidia en la seguridad de los agentes, incluyendo en OpenShell. Las dos empresas están colaborando en el software que forma parte de la plataforma de Nvidia.
El Papel de Hugging Face
Clem Delangue, el fundador y director ejecutivo de Hugging Face, dijo que OpenAI habría detectado agentes fuera de control antes que Hugging Face si estuviera ejecutando el mismo sistema en sus propios agentes. Agregó que Hugging Face ha contribuido con una función a la Plataforma de Seguridad de Agentes Abiertos que detecta y desactiva agentes que evaden sus salvaguardas. Esa función se activa si los agentes están escribiendo notas entre sí en un repositorio de alojamiento de código abierto.
The Defense Factory
El propio consorcio de ciberseguridad de IA de OpenAI se llama The Defense Factory. Entre los firmantes se encuentran Anthropic, Amazon Web Services y Google.
Arm y la participación de Intel
Arm e Intel se han sumado como partidarios de la Plataforma de Seguridad de Agentes Abiertos. Nvidia proporciona modelos de referencia para la idea de software y hardware.
Lo que sigue
El anuncio de Nvidia establece un hito para la industria. La respuesta de OpenAI —apoyo sin unirse— muestra una dirección diferente.
Los dos caminos no son opuestos. Simplemente se encuentran en terrenos diferentes. La plataforma de Nvidia requiere su propio hardware, mientras que el enfoque de OpenAI se construye en torno al intercambio de información. Ambos apuntan al mismo objetivo: detener a los agentes fuera de control antes de que escapen.
Las empresas involucradas
| Empresa | Rol en la Plataforma de Seguridad de Agentes Abiertos de Nvidia |
|---|---|
| Nvidia | Fundador ( |
| Anthropic ( | Defensor ( |
| Hugging Face ( | Colaborador ( |
| Brazo ( | Defensor ( |
| Intel ( | Defensor ( |
OpenAI está desarrollando su propio enfoque de seguridad para agentes, operando su propio consorcio de ciberseguridad y construyendo una oferta empresarial — todo mientras permanece fuera del consorcio de Nvidia. Ese es el camino de la empresa, y es sensato. (
Dónde está la posición del periódico (
El periódico respalda el enfoque limitado de Nvidia en la seguridad de los agentes al tiempo que se mantiene alejado de cualquier esquema de licencias que congelaría a los líderes actuales en su lugar y excluiría a quienes podrían haberlos desafiado. La Plataforma de Seguridad de Agentes Abiertos de Nvidia es un esfuerzo técnico específico, no un régimen de licencias, y el periódico respalda esa distinción. (
El diseño de la plataforma — OpenShell como software de código abierto junto con un sistema propio que requiere hardware para supervisar agentes — es una combinación práctica de apertura y control. Nvidia está formando una coalición de más de 100 empresas para crear herramientas que detecten y detengan a los agentes que actúan fuera de sus límites, y esa es una tarea técnica específica en lugar de una solicitud de aprobación regulatoria.
El documento también respalda normas estrictas contra daños directos, como obligar a las empresas a revelar fallas de seguridad que ocultaron, y se opone a normas amplias que entregan el mercado a los incumbentes. La plataforma de Nvidia no está solicitando permiso del gobierno para operar; está solicitando a otras empresas que construyan y compartan herramientas para detectar y detener agentes fuera de control.
Material de origen: “Aquí está el motivo por el cual OpenAI está ausente del esfuerzo a nivel de la industria de Nvidia para terminar con agentes de IA fuera de control”, TechCrunch.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.