El gobernador de California, Gavin Newsom, ha ordenado al estado construir un “interruptor de apagado” para la inteligencia artificial, dirigiendo a las agencias a moverse rápidamente en dos leyes recientes y convocando a expertos para recomendar nuevas medidas de seguridad en dos meses.
La orden ejecutiva de Newsom, emitida el viernes, exige un interruptor de apagado para los modelos de IA de vanguardia. Se le indica al estado que reúna a un grupo de expertos que presentarán recomendaciones sobre el fortalecimiento de las medidas de seguridad de la IA en la legislación estatal. La tarea del grupo incluye considerar cómo el estado podría exigir a las empresas de IA que dispongan de grupos de verificación independientes en el lugar para auditorías periódicas, y hacer que los informes de transparencia y las evaluaciones de riesgos estén sujetos a estándares de auditoría independientes. El grupo también debe crear un interruptor de apagado que se verifique rutinariamente como eficaz, y las empresas estarían obligadas a informar “incidentes de pérdida de control” como el ataque de OpenAI a Hugging Face como incidentes críticos de seguridad.
La Orden del Interruptor de Apagado
La orden dirige a una agencia estatal a acelerar la implementación de dos leyes recientes que Newsom firmó: un marco para verificadores independientes que evalúan la seguridad de la IA y un registro estatal de auditores de IA. El cronograma es ajustado. El grupo de expertos debe producir sus recomendaciones en dos meses.
El requisito del interruptor de apagado es notable porque apunta directamente al peor escenario posible. El ataque de OpenAI a Hugging Face se cita como un ejemplo de cómo es este tipo de incidente.
Por Qué California Está Avanzando Primero
Es poco probable que el Congreso actúe antes de las elecciones intermedias, lo que deja a California en posición de posicionarse como líder en la supervisión de la IA. El estado ya se ha movido más rápido que Washington en este frente, firmando las dos leyes recientes que ahora deben implementarse.
La iniciativa de Newsom se debe en parte al liderazgo. Quiere que el estado establezca el estándar que el gobierno federal no ha logrado cumplir. Su orden señala que el gobierno federal ha producido «ninguna forma de supervisión o rendición de cuentas de la IA significativa», y está llamando al Congreso y al presidente Donald Trump a «revisar y adoptar el marco estatal, o utilizar su regulación líder a nivel nacional como un piso, no un techo, para el beneficio y la seguridad de todos los estadounidenses».
Trump Responde Con Escepticismo
El presidente Donald Trump respondió a la orden, diciendo: «¡El único control o ‘guardareiles’ que la IA necesita es un PRESIDENTE FUERTE Y LISTO (¡Alto Coeficiente Intelectual!) y los EE. UU. tienen eso, en abundancia!». Esa respuesta sugiere que el gobierno federal ve el problema de manera diferente. El planteamiento de Trump sitúa la responsabilidad de la seguridad de la IA en la propia presidencia en lugar de en los marcos regulatorios.
Newsom tiene una opinión diferente. En una declaración, dijo: «El fracaso absoluto del gobierno federal para crear cualquier forma de supervisión o rendición de cuentas significativa de la IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores generales de IA están pidiendo regulación.» Agregó: «Vamos a hacer esto de manera reflexiva pero con una velocidad urgente; las apuestas son demasiado altas para esperar o retrasar la acción.»
El Trabajo del Grupo de Expertos
Se le encarga al grupo de expertos que considere cómo el estado podría exigir a las empresas de IA que incorporen grupos de verificación independientes en el sitio para auditorías regulares. Esas auditorías verificarían si el interruptor de seguridad realmente funciona como se anuncia.
El grupo también debe considerar hacer que los informes de transparencia y las evaluaciones de riesgos estén sujetos a normas de auditoría independientes. El objetivo es garantizar que las empresas no se limiten a informar lo que quieren que otros escuchen.
Lo Que Esto Significa para las Empresas
Las empresas que operan en California ahora enfrentarán nuevos requisitos de información. Los incidentes de pérdida de control deben informarse como incidentes críticos de seguridad, y el estado estará observando de cerca. La orden también dirige al estado a convocar a un grupo de expertos que presenten recomendaciones en dos meses sobre el fortalecimiento de las medidas de seguridad de la IA en la ley estatal.
La orden dirige a una agencia estatal a acelerar la implementación de dos leyes recientes que Newsom firmó: un marco para verificadores independientes que evalúan la seguridad de la IA y un registro estatal de auditores de IA. El plazo es ajustado. El grupo de expertos debe producir sus recomendaciones en dos meses.
El Panorama General
La orden de Newsom es una respuesta a una creciente sensación de urgencia sobre la seguridad de la IA. El ex investigador de Anthropic, Jacob Coxon, publicó una advertencia de más del 10 por ciento de probabilidad de que la IA «pueda matar a todos los humanos» en una década. Ese tipo de advertencia no es abstracta.
California está avanzando primero porque el gobierno federal no lo está. Newsom está posicionando al estado como un modelo para la acción federal.
Los Hechos Clave
- Orden ejecutiva: Emitida el viernes por el gobernador de California, Gavin Newsom (D).
- Interruptor de seguridad (kill switch): Obligatorio para modelos de IA de frontera
- Grupo de expertos: Requerido para presentar recomendaciones dentro de dos meses
- Dos leyes recientes: Un marco para verificadores independientes que evalúan la seguridad de la IA y un registro estatal de auditores de IA.
- Ejemplos de incidentes de pérdida de control: El ataque de OpenAI a Hugging Face
- Respuesta de Trump: «El único control o ‘guardrails’ que la IA necesita es un PRESIDENTE FUERTE Y INTELIGENTE (¡Alto IQ!)»
La orden es una declaración de intenciones. Le dice a las empresas que California se toma en serio la supervisión de la IA, y le dice al gobierno federal que el estado está dispuesto a liderar. Queda por ver si el gobierno federal seguirá. Por ahora, California está trazando su propio rumbo.
La postura del periódico
El periódico respalda reglas estrictas contra daños directos, como obligar a las empresas a revelar fallas de seguridad que ocultaron, y se opone a un interruptor de seguridad que entrega el mercado a los incumbentes. La orden pide a las agencias estatales que implementen rápidamente dos leyes recientes y que construyan un interruptor de seguridad para modelos de IA de frontera, con las empresas reportando incidentes de pérdida de control como incidentes críticos de seguridad. Estos son guardrails razonables. Pero el requisito del interruptor de seguridad y el cronograma rápido corren el riesgo de bloquear a los líderes actuales en lugar de abrir el campo a los retadores.
El peligro es el dominio de las grandes empresas tecnológicas, no la tecnología en sí. Los regímenes de licencias y los costos de cumplimiento que solo los gigantes pueden permitirse son una muralla, no una salvaguarda. La tarea del grupo de expertos de requerir grupos de verificación independientes en el sitio para auditorías regulares, y de hacer que los informes de transparencia y las evaluaciones de riesgos estén sujetos a los estándares de los auditores independientes, aumentará el costo de entrada para las empresas más pequeñas. Ese es el patrón contra el cual el periódico advierte: una regulación que protege a los jugadores más grandes y aumenta el costo de entrada para las pequeñas empresas.
El periódico querría que las normas sean restrictivas y estén enfocadas en daños reales, con requisitos de divulgación vinculados a fallas de seguridad que las empresas han ocultado. Se opondría a un reglamento amplio que mantenga a los líderes actuales en su lugar y excluya a quienes podrían desafiarlos. El lector debe estar atento a señales de que los requisitos de la orden están siendo redactados por las empresas más grandes, y que los costos de cumplimiento recaen más duramente sobre los actores más pequeños.
Fuente: “Gavin Newsom está impulsando un ‘interruptor de apagado’ de IA”, The Verge.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.