El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo extenso el sábado argumentando que el desarrollo de la IA debería disminuir el ritmo, y la respuesta de Silicon Valley y Washington ha sido rápida y variada. Sam Altman, Elon Musk y varios políticos opinaron al respecto, mientras que el presidente de Estados Unidos, Donald Trump, aprovechó la oportunidad para despotricar contra toda la idea.
El ensayo de Amodei, titulado «Debemos Moderar el Ritmo de la Frontera», hizo tres propuestas principales: evaluadores independientes para verificar las prácticas de seguridad de las empresas, coordinación entre las empresas de IA líderes en países democráticos y coordinación global entre esos gobiernos y los autoritarios. Dijo que Anthropic está «comprometiéndose unilateralmente con el primer de estos pasos».
Lo Que Amodei Dijo Realmente
Amodei se esforzó por definir sus términos. Escribió que moderar el ritmo «no significa detener el entrenamiento de modelos o el progreso técnico». En cambio, dijo que las empresas deberían tomarse el tiempo necesario para alinear y salvaguardar sus modelos, con evaluadores independientes confirmando ese trabajo.
Su ensayo surgió como parte de una conversación más amplia sobre los riesgos de la IA. Amodei enmarcó la cuestión como una de equilibrio: cómo avanzar sin dejar que la tecnología supere la capacidad de entenderla.
Altman Está de Acuerdo, Más o Menos
El director ejecutivo de OpenAI, Sam Altman, respondió rápidamente, publicando en X que estaba de acuerdo con Amodei. «Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas», dijo Altman.
También se comprometió a utilizar evaluadores independientes en su propia empresa, llamándolo una «excelente idea». El domingo, Altman fue más allá, acogiendo «un marco federal que establezca requisitos de seguridad consistentes para la IA líder». Instó a otras empresas a aprender de los enfoques de OpenAI y propuso estándares compartidos para la falta de alineación, la supervisión y la seguridad.
Al igual que Amodei, Altman destacó que moderar el ritmo no significa detenerse. El progreso simplemente debería ser «más lento de lo que podría ser de otra manera».
Musk Asiente, Trump Lo Clava
Demis Hassabis, cofundador y presidente de Google DeepMind, respondió con entusiasmo al ensayo de Amodei. «Los detalles deben trabajarse, pero la dirección es correcta para responder a este momento crítico», dijo Hassabis.
Elon Musk estuvo de acuerdo de forma más directa. «Dario tiene razón», publicó Musk, compartiendo el ensayo de Amodei.
Trump adoptó un enfoque diferente. Su publicación del lunes por la mañana en Truth Social fue una mezcla confusa de argumentación de políticas, ataque personal y gritos en mayúsculas. Descartó la idea de medidas de seguridad, insistiendo en que “EL PRESIDENTE FUERTE Y INTELIGENTE (¡Alto Coeficiente Intelectual!)” es el único control que la IA necesita. Se burló de Amodei como alguien que «ahora finge ser un angelito perfecto» y advirtió de una «ENFERMA conspiración en marcha contra la IA y los centros de datos».
El Escepticismo de Vance
El Vicepresidente de los Estados Unidos, JD Vance, rechazó la idea de que las empresas están acudiendo al gobierno para pedir regulación. Lo calificó de «un poco raro» y dijo que «me da un poco la impresión de ser un caballo de Troya».
También señaló el planteamiento del Presidente sobre la competencia con China. «Sabemos que los chinos están involucrados en esta carrera a largo plazo de IA contra los Estados Unidos», dijo Vance.
Johnson Quiere una Reunión
El Presidente de la Cámara, Mike Johnson, dijo en una entrevista del domingo con Jake Tapper en CNN que quiere que las empresas de IA de frontera se reúnan con el Congreso. «Necesitan reunirse con nosotros y sentarse a determinar cuál es el equilibrio correcto», dijo Johnson.
Descartó una moratoria. «No podemos imponer una moratoria a esto porque China nos adelantará», dijo. Pero también enfatizó la seguridad nacional y la seguridad del modelo. «Es seguridad nacional equilibrada con la seguridad inmediata de garantizar que los modelos sean seguros», dijo.
No está claro si o cuándo ocurrirá esa reunión. Johnson dijo que lo haría «mañana».
Sanders Coincide con Noonan
El Senador Bernie Sanders se alineó con una aliada sorprendente: Peggy Noonan, la columnista del Wall Street Journal y ex redactora de discursos de Ronald Reagan. Sanders dijo que está de acuerdo con el artículo de Noonan titulado «Pausar la IA por el bien de la humanidad».
| Orador | Posición |
|---|---|
| Dario Amodei | Publicó un ensayo pidiendo moderación |
| Sam Altman | Está de acuerdo con Amodei, apoya a evaluadores independientes |
| Donald Trump | Rechaza la moderación, se burla de Amodei |
| JD Vance | Considera las solicitudes de la empresa para la regulación “una especie de caballo de Troya” |
| Mike Johnson | Quiere una reunión, rechaza una moratoria |
| Bernie Sanders | Está de acuerdo con el llamado de Noonan a pausar |
Entre líneas (1)
La brecha entre Trump y el resto de los aspirantes es notable. Cada uno de los demás oradores trató el tema como un problema técnico serio que requiere coordinación. Trump lo trató como una herramienta política. (2)
Su publicación es la parte más entretenida de un debate en caso contrario árido. También es divagante y desdeñosa. Trump insiste en que el Presidente es el único control que necesita la IA mientras advierte sobre una conspiración contra los centros de datos y China. Él amenaza con «Teóricos de la conspiración, Traidores y Divulgadores» sin explicar lo que significan esas categorías en el contexto de la política de IA. (3)
La comparación entre Trump y el resto de los aspirantes muestra lo profundamente en que el sistema político todavía está lidiando con la tecnología. Directores ejecutivos y políticos por igual están hablando de coordinación y estándares, pero el Presidente está ofreciendo a un líder fuerte como la única solución. (4)
Lo que sigue (5)
El ensayo de Amodei desató una reacción en cadena. Altman se comprometió con evaluadores, Musk estuvo de acuerdo y Trump se enojó. Vance y Sanders plantearon preguntas sobre los motivos detrás del impulso para la regulación. Johnson quiere una reunión. (6)
Si alguno de estos pasos conduce a una acción real es desconocido. El compromiso unilateral de Amodei es un comienzo, pero la coordinación que él quiere requiere que todos los demás sigan. (7)
Es probable que el debate continúe. La conversación en torno a la seguridad de la IA permanece sin resolverse. (8)
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.