El presidente Trump ofreció un almuerzo en la Casa Blanca el martes y salió con un documento firmado llamado el Acuerdo de la Casa Blanca sobre Super Inteligencia. El acuerdo, descrito como «moralmente vinculante», solicita a las empresas de tecnología que se regulen a sí mismas.
El acuerdo, discutido en el podcast de esta semana Uncanny Valley, reúne a Sundar Pichai, Elon Musk, Dario Amodei, Mark Zuckerberg, Jensen Huang y al Presidente de OpenAI Greg Brockman. El CEO de OpenAI, Sam Altman, fue notablemente ausente. Las empresas prometen someter sus modelos a cuatro capas de controles y auditorías, incluyendo evaluaciones internas, auditorías externas y revisiones del consejo de administración.
El Almuerzo que Generó un Acuerdo
Trump invitó a los ejecutivos a la Casa Blanca para una reunión. El grupo incluye líderes de importantes empresas de tecnología, empresas más pequeñas y laboratorios de IA. El encuentro se presentó como una discusión sobre seguridad de la IA, pero el producto final es una declaración de intenciones.
El nombre del acuerdo, «Super Inteligencia», es un término gubernamental para la IA. El documento solicita a las empresas que apliquen cuatro capas de controles y auditorías a sus modelos. Esas capas incluyen evaluaciones internas, auditorías externas y revisiones del consejo de administración.
Trump elogió el acuerdo durante el evento. Los presentadores de Uncanny Valley señalaron que el mensaje clave de la Casa Blanca era simple: «Nosotros lo tenemos. Nos lo tomamos en serio. No se preocupen por ello».
El Momento Incomodo de Dario Amodei
Un momento del almuerzo ha llamado la atención en línea. Trump le pidió a Amodei que avanzara y hablara, elogiándolo y diciendo «Lo que diga está bien». Los presentadores notaron que Amodei no parecía ansioso por estar al frente de la sala.
El intercambio es un detalle pequeño, pero capta el tono de todo el asunto. Un líder elogiado por el presidente no es necesariamente un participante dispuesto.
El Anuncio del Día del Desarrollador de OpenAI
La misma semana, OpenAI celebró su Día del Desarrollador. El CEO Sam Altman introdujo los nuevos agentes de IA siempre activos de la compañía para usuarios regulares, a los que los presentadores llaman «agentes de IA para gente normal, también conocidos como Dots». Los agentes están diseñados para trabajar junto a los humanos en entornos cotidianos.
Los Empleadores Impulsan a los Agentes de IA al Lugar de Trabajo
A medida que los agentes de IA se vuelven más comunes, los empleadores están presionando para que trabajen junto a los empleados humanos. Los presentadores señalan que el proceso está en marcha y que las posibilidades de que los bots se incorporen a la fuerza laboral son altas.
La cuestión de qué tan bien colaborarán los humanos y los agentes de IA está abierta. Los presentadores enmarcan la situación como una cuestión de cuáles son las probabilidades de que todos tengamos que dar la bienvenida a algunos colegas bots muy pronto.
Extremos Postulándose a Cargos Públicos
Las elecciones intermedias se acercan, y el podcast examina algunos de los candidatos extremistas que se postulan para cargos públicos. Los presentadores señalan que no son solo los candidatos políticos quienes se sienten animados a decir lo que quieran. También las personas que actualmente trabajan o han trabajado recientemente para el gobierno están hablando.
Un ejemplo citado es el de un coronel retirado del ejército convertido en influyente en el Pentágono que publicó elogios para dictadores y tiene un plan para privar al voto a cualquiera que no tenga hijos. Los presentadores describen esto como parte de un patrón de discursos envalentonados entre figuras gubernamentales.
Qué Hace Realmente el Acuerdo
El Acuerdo de la Casa Blanca es un acuerdo voluntario. Las empresas firman, pero los presentadores de Uncanny Valley son escépticos del acuerdo.
Los presentadores señalan que la palabra «voluntario» es la palabra clave en todo momento. Se preguntan en voz alta si nada de esto es real, llamándolo todo falso.
El Escepticismo Detrás del Acuerdo
Los presentadores de Uncanny Valley dudan claramente de que la autorregulación funcione. La naturaleza voluntaria del acuerdo significa que las empresas son libres de ignorarlo.
El escepticismo tiene sus raíces en la historia de los acuerdos voluntarios. Las empresas tienen incentivos para recortar esquinas, y no hay una fuerza externa para responsabilizarlas.
La duda de los presentadores es la tensión central del episodio. Presentan el acuerdo como un gesto sin sustancia, una promesa con el meñique que no tiene peso.
Caja de Datos Clave
- Evento: Almuerzo en la Casa Blanca el martes
- Acuerdo: Acuerdo de la Casa Blanca sobre Super Inteligencia
- Firmantes: Sundar Pichai, Elon Musk, Dario Amodei, Mark Zuckerberg, Jensen Huang, Greg Brockman
- No estuvo presente: Sam Altman, CEO de OpenAI
- Capas de controles: Evaluaciones internas, auditorías externas, revisiones del consejo
- Estado: Voluntario
El Acuerdo de la Casa Blanca es una declaración de intenciones disfrazada de regulación. Pide a las empresas que hagan lo correcto y confía en que lo cumplan. Los presentadores de Uncanny Valley no están convencidos de que esa confianza se mantenga.
El episodio concluye con una nota sobre la grabación en vivo del podcast con el público el jueves 8 de octubre a las 7 pm en The Commons en San Francisco. Las entradas están disponibles en kqed.org.
Para los oyentes, el mensaje es claro: el futuro de la IA está llegando rápidamente y las reglas aún se están inventando.
Material fuente: “El ‘Acuerdo’ de Trump sobre la IA ‘Moralmente Vinculante’, el Ascenso de los Agentes de IA y los Extremistas en las Urnas,” WIRED.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.