Dario Amodei, el director ejecutivo de Anthropic, tiene un plan para el futuro de la IA. Implica curar enfermedades, acelerar el crecimiento económico, impulsar un renacimiento de la democracia y la libertad, y pedir al resto de la industria que confíe en su compañía y a su estrecho rival, OpenAI, para mantener la línea. Su reciente publicación en el blog, titulada «Debemos Ritmar la Frontera», expone esa visión en su totalidad, y ha generado exactamente el tipo de respuesta que cabría esperar de una comunidad que ha pasado años observando a los ejecutivos tecnológicos prometer proyectos ambiciosos.
La respuesta, titulada «Dario, Por Favor», es una tajante censura. Desmonta las afirmaciones de Amodei una por una, desde las curas médicas que promete hasta la disrupción económica que advierte. El autor, cuyo nombre no está adjunto al artículo, es directo: el plan de Amodei es un paquete de alarmismo y solicitudes regulatorias que permitiría a Anthropic y OpenAI operar sin competencia mientras todos los demás siguen reglas más estrictas. El artículo argumenta que las dos compañías han demostrado repetidamente que no pueden ser confiadas, y sin embargo su solicitud es simple: confíen en nosotros.
Las Promesas de Amodei Comienzan Con una Pérdida Personal
Amodei abre su publicación con la afirmación de que la IA curará la mayoría de las enfermedades importantes en los próximos 5-10 años. Lo hace personal. Habla sobre la muerte de su padre a causa de una enfermedad que fue curada solo años después, y sobre su propia batalla contra el cáncer, a la que comenta que era incurable hace 50 años. También promete que la IA acelerará el crecimiento económico, creará un mundo de abundancia y empoderamiento, e impulsará un renacimiento de la democracia y la libertad.
El autor de la respuesta enmarca esto como una visión fuera de contacto del Valle del Silicio, una moldeada por el tipo de personas que pasan mucho tiempo en LessWrong. Se lee como la idea de un futuro de una persona rica, argumenta el artículo, no una evaluación realista de lo que la IA puede realmente ofrecer.
La Solicitud del Regulador
Con este telón de fondo, la propuesta real de Amodei se vuelve clara. Él quiere que los modelos de pesos abiertos sean regulados. Él quiere que la destilación sea tratada con severidad. Él quiere una exención antimonopolio para él mismo y sus rivales. Él quiere limitar a China de múltiples maneras. Él quiere un acuerdo entre caballeros para desacelerar todo el campo. Y él quiere todo esto empaquetado junto con una intensa propaganda sobre los peligros de dejar que la IA avance sin control.
El artículo señala que Amodei menciona «incidentes» en Anthropic en su propio ensayo, junto con referencias al hackeo repetido de la infraestructura de internet expuesta al público por parte de OpenAI. Ese es el pretexto para las solicitudes. Pero el escritor no está comprando esto. El miedo, en su opinión, se está utilizando para justificar un futuro en el que Anthropic y OpenAI reciban un trato especial mientras que el resto de la industria se ve retrasado.
Las Puertas Están Cerradas Para Todos los Demás
Anthropic ya restringe el acceso a la investigación biológica en su plataforma. Su último informe de inteligencia de amenazas habla de cómo detectó y prohibió a actores maliciosos que utilizaban la línea de modelos Claude para hacer cosas aterradoras. El escritor reconoce el mérito de Anthropic por detectar y prohibir el uso indebido, pero luego asesta el golpe. La panacea está cerrada para usted y para mí, argumenta el artículo, pero Anthropic contrata biólogos, instala laboratorios húmedos y quiere las conclusiones para sí mismo.
El escritor alude a esto en su publicación anterior. La contradicción es llamativa: la empresa de Amodei le está diciendo al mundo que puede resolver enfermedades mientras mantiene los medios de descubrimiento tras puertas cerradas.
Prosperidad, Abundancia, Libertad — En Ese Orden
El artículo analiza los pilares de la visión de Amodei con una creciente escepticidad. Enfermedades, prosperidad, abundancia, libertad y democracia — esa es la secuencia. Pero el escritor plantea una objeción práctica a la promesa médica. Hay miles de millones de personas con inteligencia real que no hemos logrado entrenar o nutrir, y siempre permanecerán víctimas de sus circunstancias. La tuberculosis es curable desde hace décadas, pero un millón de personas mueren de ella cada año.
La respuesta rechaza la solución de AGI como un pretexto conveniente. El escritor sugiere que el verdadero objetivo es ASI/AGI/RSI y cualquier otra cosa que siga, un bala de plata para cada problema que pueda parecer noble en la superficie. El discurso sobre la prosperidad y la abundancia recibe un tratamiento similar. El escritor se pregunta si esa abundancia es para los accionistas en lugar de cualquier otra persona.
La libertad y la democracia salen peor que todas. El artículo pregunta qué tiene que ver todo eso con la IA, a menos que Amodei sea fan de Neon Genesis Evangelion y sueñe con gobiernos dirigidos por los tres magos. El escritor bromea diciendo que la libertad y la democracia por 200 dólares suenan atractivas.
La Carrera Hacia Abajo, Luego Hacia Arriba
El argumento de Amodei incluye una preocupación por una «carrera hacia abajo». Él dice que la competencia agudiza todos los riesgos que señaló. Pero el escritor observa que Amodei no dice que la carrera hacia abajo será el fin de su empresa. En cambio, él quiere una carrera hacia la «cima», donde los laboratorios compiten por la seguridad.
El escritor entonces ofrece un ejemplo reciente. Al escuchar rumores de que Anthropic estaba cerca de o resolviendo uno o dos problemas del milenio, OpenAI lanzó decenas de millones en capacidad de cómputo, un punto de control de entrenamiento, miles de agentes sobre ello. Las acusaciones sugieren que OpenAI robó el trabajo de dos matemáticos en un problema relacionado en un rincón estrecho donde casi nadie más estaba trabajando. Publicaron una prueba de una variante forzada de Navier-Stokes. El escritor no es matemático, pero ha visto suficientes payasadas de Sam Altman para no tomar nada de él o de su empresa en su palabra.
RSI Y La Reivindicación De La Llegada De AGI
RSI es el tema del momento ahora. LLM o agentes desarrollando la próxima generación de LLM con poca o ninguna intervención humana. Amodei dice que está sucediendo en todos los laboratorios.
El incidente de OAI-HF ha dejado a Dario conmocionado, argumenta la pieza. No existe medias tintas en los estafadores. Amodei teme que en los próximos 6-12 meses, «una plaga de agentes podría ser capaz de tomar el control de todo Internet con una botnet persistente». El autor sugiere que si Amodei hubiera consultado esta frase con sus empleados de SOC, no estaríamos hablando de ello. Es ingenuo e estructuralmente imposible. Pero de nuevo, Dario es ese tipo, ¿verdad? Confiado y públicamente equivocado en sus estimaciones y pronósticos desde 2021.
El Cura Definitivo Está Reservado Para La Gente Que Lo Construye
El objetivo final de la pieza es la contradicción en el corazón de la propuesta de Amodei. Está solicitando una exención antimonopolio mientras advierte sobre los peligros de la competencia. Está prometiendo curas médicas mientras encierra la investigación biológica detrás de puertas. Está diciéndole al mundo que confíe en su empresa y OpenAI como los guardianes del futuro de la IA, incluso cuando las dos empresas han demostrado repetidamente que no son de fiar.
Enfermedades, prosperidad, abundancia, libertad y democracia — las promesas son grandiosas. Las puertas están cerradas.
La opinión del autor es que Amodei se ha autoproclamado a su empresa y a su estrecho rival como los guardianes del futuro de la IA. El resto de la industria debería confiar en ellos, solo en ellos. Esa confianza no se ha ganado. La pieza señala que las dos empresas han demostrado una y otra vez que no son de fiar, y sin embargo su principal solicitud es ser confiados de todas formas.
La respuesta concluye con la contradicción. Enfermedades, prosperidad, abundancia, libertad y democracia — las promesas son grandiosas. Las puertas están cerradas. El punto final del autor es que el cura definitivo está reservado para la gente que lo construye, no para la gente que lo necesita. Esa es la incómoda verdad que la pieza se niega a eludir.
El autor no está convencido por las promesas. No están convencidos por el miedo. Y ciertamente no están convencidos por la solicitud. La respuesta termina donde comenzó: Dario, por favor.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.