El presidente Donald Trump dijo que las principales empresas de tecnología han firmado un acuerdo voluntario para “autocontrolar” el desarrollo de la inteligencia artificial, una medida destinada a calmar los temores del público sobre la tecnología al tiempo que rechaza cualquier límite a su crecimiento.
La reunión tuvo lugar en la Casa Blanca y reunió a ejecutivos de algunas de las compañías de inteligencia artificial más grandes del mundo. Trump dijo a los reporteros: «Creo que estoy viendo una tremenda autocontrol, y entienden que tienen que autocontrolarse».
Quiénes Firmaron el Acuerdo
El acuerdo fue firmado por Trump mismo, junto con ejecutivos de importantes empresas:
- Dario Amodei, director ejecutivo de Anthropic
- Sundar Pichai, director ejecutivo de Google
- Mark Zuckerberg, director ejecutivo de Meta
- Greg Brockman, presidente de OpenAI
- Jensen Huang, director ejecutivo de Nvidia
- Elon Musk, fundador de xAI, que ahora forma parte de SpaceX
El acuerdo fue publicado en el sitio de redes sociales de Trump, Truth Social, el martes por la noche. Se enfoca en cuatro pasos voluntarios:
- Implementar «controles internos sólidos»
- Asociándose con un «auditor externo independiente» )
- Estableciendo un comité a nivel de la junta directiva para evaluar las auditorías )
- Abriendo la puerta a la futura regulación )
El acuerdo establece: «Con el tiempo, podría ser conveniente codificar estos pasos en leyes y regulaciones.» Amodei dijo: «La tecnología tiene riesgos muy reales» y añadió, «El mecanismo, cómo abordamos esos riesgos, aún está en discusión.» )
Trump sugirió que unas 10 personas serían nombradas para un comité que «vigilará toda la empresa» y dijo que el acuerdo sería «moralmente vinculante.» Dijo que nombraría a alguien para supervisar el acuerdo en los próximos días después de consultar con la industria. )
Los críticos )
No todos están de acuerdo en que la autoevaluación sea el enfoque correcto. Algunas acciones en el acuerdo reflejan medidas que las empresas ya están tomando o a las que se habían comprometido previamente. )
Shri Narayanan, profesor de ingeniería de USC, dijo que el acuerdo equilibra la innovación con la regulación e incluye mejoras modelo de seguridad y protección. Robin Jia, profesor de ciencias de la computación de USC, calificó de escépticas las acciones de «poner tanta fe en la autoevaluación» y dijo que las intenciones del laboratorio deben alinearse con el interés público. )
Alex Pascal, director ejecutivo del Berkman Klein Center, dijo que se necesitan una sólida responsabilidad legal, regulación y cambios en la dinámica de costos de los desarrolladores para reducir los riesgos de la IA para los estadounidenses. )
La postura de Trump )
Anteriormente el martes, Trump dijo que el gobierno de EE. UU. no limitaría el desarrollo de la IA ni respaldaría llamamientos a «barandales» u otras restricciones. «Nunca asfixiaré el crecimiento de una tecnología que será más grande que la revolución industrial», dijo Trump en la presentación de un chatbot de IA, America.gov. )
El chatbot está destinado a ayudar a los estadounidenses a navegar por los servicios gubernamentales. Funcionarios de la administración Trump celebraron una «Edad de Oro» impulsada por lo que Trump llama «super inteligencia.» )
El secretario de Estado, Marco Rubio, destacó el potencial del chatbot para procesar solicitudes de pasaporte por primera vez en línea sin una visita en persona. Trump también dijo que los ejecutivos aceptaron apoyar escuelas locales o reducir los costos de energía para abordar la oposición de base y bipartidista a los centros de datos.
«Van a ver, los centros de datos van a ser muy populares», dijo Trump. Si la oposición continúa, sugirió que las instalaciones «se verán obligadas a ir al extranjero u otras ubicaciones».
El CEO de OpenAI, Sam Altman, dijo en una entrevista televisiva que la empresa está cada vez más enfocada en la seguridad, agregando: «Estamos moderando nuestro progreso, lo que incluye a veces no entrenar un modelo».
El fondo
El acuerdo es un movimiento político tanto como técnico. Trump está presionando para que las empresas se autorregulen para manejar el miedo público a la IA mientras rechaza salvaguardias y límites, argumentando que la tecnología impulsará el crecimiento económico.
La Casa Blanca está apostando a que la presión moral es suficiente. Si esa apuesta da sus frutos depende de si las empresas realmente cumplen y de si el público confía en que lo hagan.
El escepticismo es real. Depositar tanta fe en la autopolitización es una apuesta. La tecnología tiene riesgos muy reales, y el mecanismo para abordar esos riesgos aún está en discusión.
Pero el acuerdo no es insignificante. Establece una línea de base de acciones voluntarias a las que las empresas pueden referirse cuando los críticos preguntan qué están haciendo. También deja la puerta abierta a futuras regulaciones, lo que podría volverse más urgente si los riesgos se materializan.
Por ahora, el acuerdo está sobre la mesa. La pregunta es si se mantiene.
Dónde está el periódico
El periódico respalda el estrecho requisito de divulgación que obliga a las empresas a revelar fallas de seguridad ocultas y se opone a la autopolitización voluntaria que permite a las empresas más grandes ocultar sus fallas. El acuerdo de Trump es un movimiento político disfrazado de solución, y no hace nada para abordar el riesgo de concentración de poder entre las empresas involucradas.
Los pasos voluntarios del acuerdo—controles internos, auditores independientes y un comité a nivel de la junta directiva—suenan a una verdadera supervisión. Pero son voluntarios. Las empresas pueden optar por no participar, y el acuerdo explícitamente deja espacio para futuras regulaciones al tiempo que mantiene todo bajo auto-regulación. Ese es el problema. Las empresas más grandes establecen sus propias reglas y se autovigilan, y el público debe confiar en ellas.
El público debería observar si las empresas realmente cumplen con los pasos voluntarios. Este periódico preferiría una norma estricta que exija a las empresas revelar fallas de seguridad que ocultaron, en lugar de un sistema voluntario que recompensa el secreto. El acuerdo no es insignificante, pero es una base débil para gestionar riesgos reales.
Fuente: “Trump dice que las principales empresas de tecnología han firmado un acuerdo para ‘auto-regular’ el desarrollo de la IA”, NPR.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.