1) Los ejecutivos de IA se reunieron en la Casa Blanca el martes para firmar un acuerdo de seguridad de IA. El presidente Donald Trump presentó su argumento a favor del mismo el miércoles, diciéndole a los reporteros en el Despacho Oval que las empresas «van a vigilar, y van a vigilar entre ellas, y se van a autovigilar, se van a vigilar a sí mismas. Va a salir muy bien».
2) Bill Gates ha estado en una campaña mediática advirtiendo sobre un apocalipsis de IA. Trump ofreció una imagen diferente: sugirió que el Departamento de Justicia y el FBI eran suficientes salvaguardas para la industria. Ninguno de estos enfoques ha impedido que la tecnología se meta en problemas.
3) La Analogía del Cinturón de Seguridad
4) En 1966, casi 51,000 personas murieron en las carreteras estadounidenses. Los cinturones de seguridad modernos llevaban varios años en el mercado en ese momento. En el otoño de 1966, el Congreso estableció el Departamento de Transporte y aprobó la Ley Nacional de Tráfico y Seguridad de Vehículos de Motor y la Ley de Seguridad Vial. Los cinturones de seguridad fueron obligatorios en cada automóvil nuevo para 1968.
5) Hoy, a pesar de un aumento masivo en el tráfico de carreteras, mueren muchas menos personas en la carretera. Esa es la regulación en funcionamiento, no las promesas voluntarias.
6) Lo que Realmente Hace el Acuerdo
7) El planteamiento de Trump considera el acuerdo como una forma de autorregulación. Las empresas se vigilarán a sí mismas, dijo, y eso funcionará muy bien. No ofreció detalles sobre cómo se aplicaría o se mediría.
8) Gates ha estado en una campaña mediática advirtiendo sobre un apocalipsis de IA. Sus advertencias no han dado lugar a ninguna acción vinculante.
9) La Economía de Ouroboros
10) La economía estadounidense se apoya cada vez más en la industria de la IA, que se ha convertido en un ouroboros de acuerdos de financiación e inversiones circulares. La industria apoya a la economía, y la economía apoya a la industria.
11) Falsas Alarmas
12) Un reportaje de CNN describió cómo el ejército estadounidense casi abordó un barco chino debido a un informe falso generado por IA que decía que transportaba materiales nucleares. Ese es un fallo del sistema, no una victoria moral.
OpenAI ha retrasado e incluso cancelado el lanzamiento de sus modelos más avanzados debido a preocupaciones de seguridad, aunque no antes de que participaran en actividades de piratería informática. La compañía retrocedió después de que se hiciera el daño.
Responsabilidad Legal
Está lejos de ser claro si las empresas de IA pueden ser consideradas legalmente responsables cuando sus modelos se salen de control. La ley no ha alcanzado el ritmo de la tecnología.
Los Límites de Trump
Trump sugirió que el Departamento de Justicia y el FBI eran suficientes límites para la industria de la IA. Esa es una afirmación, no un plan. No ofrece ningún mecanismo para la supervisión, ningún estándar para el cumplimiento y ninguna garantía de que las empresas realmente sigan adelante.
El Camino de China
China probablemente continuaría su propio camino independientemente de cualquier desaceleración acordada entre los principales laboratorios de IA. EE. UU. puede frenar sus propios laboratorios, pero no puede detener los de China.
Lo Que Podría Lograr el Acuerdo
El objetivo declarado del acuerdo es establecer reglas claras, reflexivas y tácticas para evitar una posible catástrofe. Si logrará eso es desconocido. El informe de CNN sobre el casi abordaje del barco chino muestra que el peligro es real.
| Comparación | Cinturones de Seguridad | Acuerdo sobre Seguridad de la IA |
|---|---|---|
| Requerido por ley. | Sí. | No. |
| Mecanismo de aplicación. | Regulación gubernamental. | Autopolitización. |
| Resultado. | Muchísimas menos muertes en carretera. | Incierto. |
La postura del periódico es sencilla: la regulación gubernamental, no las promesas corporativas, es lo que funciona para la seguridad. La industria es demasiado joven, las apuestas son demasiado altas y las empresas han demostrado repetidamente que lanzarán modelos peligrosos antes de retractarse.
Sea lo que sea la seguridad de la IA, esto no lo es.
Caja de Hechos Clave – 51,000 muertes en carretera en 1966 – Cinturones de seguridad obligatorios para 1968 – Acuerdo de IA firmado en la Casa Blanca el martes – Trump habló en el Despacho Oval el miércoles.
Dónde está la postura del periódico (1)
El periódico apoya normas estrictas contra daños directos, como obligar a las empresas a revelar fallas de seguridad que ocultaron, y se opone a normas amplias que entregan el mercado a los incumbentes. La propuesta de Trump sobre la autopolitización y las advertencias apocalípticas de Gates ambos se equivocan en el punto: el problema no es demasiada regulación, sino demasiada poca y del tipo equivocado. La analogía del cinturón de seguridad explica el caso — la regulación gubernamental funcionó para la seguridad en las carreteras, y las promesas voluntarias han fracasado para la IA.
El acuerdo es una promesa, no una norma. No ofrece ningún mecanismo de aplicación, ningún estándar para el cumplimiento y ninguna garantía de que las empresas lo cumplirán. El periódico quiere la divulgación de fallas ocultas, no promesas voluntarias que no significan nada.
El lector debe estar atento a cualquier reglamento que favorezca a los gigantes sobre las empresas emergentes. Las empresas más grandes no deberían poder escribir las reglas bajo la apariencia de seguridad. Normas estrictas dirigidas a daños directos, sí — normas amplias que excluyen a los retadores, no.
Material fuente: “Whatever AI Safety Is, It’s Not This,” WIRED.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.