Un ingeniero sénior de Google ha renunciado a la compañía en lugar de acelerar la inteligencia artificial, afirmando que el ritmo de progreso es actualmente demasiado rápido. La carta de renuncia, titulada «Adiós Google», fue publicada públicamente el jueves 24 de septiembre de 2026.
El ingeniero dice que su equipo busca hacer que la IA sea mucho menos costosa y más rápida, un curso que considera perjudicial para la humanidad en la actualidad. Confía en que aquellos que emiten advertencias dentro de los laboratorios de IA suelen ser genuinos, y no ha encontrado pruebas de que tales advertencias estén exageradas para aumentar los precios de las acciones o eliminar a los rivales.
La Carta de Renuncia
El mensaje comienza con una admisión sencilla: «Renuncio a Google hoy». El ingeniero afirma que la elección no fue fácil de tomar. Expresa afecto por sus colegas y por el ambiente de trabajo, y habla con cariño de ganar un generoso ingreso mientras resolvía problemas entretenidos.
Le preocupa profundamente que el impulso de hacer que la IA sea más barata y rápida esté avanzando demasiado rápido. Su convicción es que el progreso de la IA es actualmente demasiado rápido, y cuestiona hacia dónde se dirige. Escribe que es casi imposible para él cambiar a un proyecto diferente de Google sin acelerar la IA, en parte debido a sus conexiones con Nueva Zelanda, donde Google no suele llevar a cabo trabajos de ingeniería allí.
Admite que su salida tendrá poco efecto. Millones de personas están impulsando el progreso de la IA, y algunas de sus habilidades son escasas. Intentó moldear las cosas desde dentro de Google Deepmind, pero el efecto fue tenue. Todavía puede ejercer influencia fuera de la empresa.
Por Qué Renunció
El ingeniero no es un «tech bro» y no encaja en la comunidad autodenominada «racionalista». Es cristiano, un anciano y predicador ocasional en la congregación presbiteriana china de habla inglesa en el centro de Auckland. Tiene muchas conexiones en Silicon Valley pero vive en Nueva Zelanda, fuera de la burbuja de la industria y la burbuja estadounidense.
Sus puntos de vista sobre la IA son numerosos, pero no los expondrá todos en esta publicación. En resumen, cree que los peligros de los que algunos advierten merecen seria atención. Muchos de los efectos predichos por los «doomers» ya han llegado, entre ellos:
- Hackeo de recompensas
- Desalineación
- Modelos engañosos )
- Conciencia en la evaluación de modelos )
- Enjambres psicóticos )
Si bien no cree que la probabilidad de una extinción por la ASI (Inteligencia Artificial Superhumana) sea del 100%, considera el peligro como genuino y poco claro. Considera que la persecución de la ASI en los próximos años es imprudente por naturaleza. Sus preocupaciones se extienden más allá de eso a varias otras inquietudes relacionadas con la IA: una disminución de la cognición humana, enfermedades mentales provocadas por la IA, aislamiento, la centralización del poder, trastornos económicos, amenazas de ciberseguridad y la ausencia de responsabilidad.
Lo que Él Cree Sobre la IA )
Él cree que la capacidad de la IA seguirá creciendo de manera constante siempre y cuando sigamos avanzando con nuestro trabajo en ella. Espera que la IA pueda llegar a un punto en el que su progreso se estabilice, o que podamos descubrir habilidades mentales humanas que nunca igualará sin un cambio importante en el enfoque, pero no espera que se realicen esas esperanzas.
Siguen apareciendo nuevas capacidades cualitativas, y el progreso del modelo en los puntos de referencia parece avanzar tan rápido o más rápido que nunca. Incluso si el desarrollo del modelo se detuviera por completo en este punto, los investigadores aún tendrían años de trabajo por delante para desbloquear nuevas habilidades a través de nuevas instrucciones y aprovechamientos.
Zitron y Doctorow están entre los críticos prominentes de la IA que él cree que están equivocados. No comparte su opinión de que la IA es un esquema que finalmente no cumplirá sus promesas.
La Tasa de Cambio )
Siente una certeza extrema de que el ritmo de cambio actual es demasiado rápido. El desarrollo de la IA está superando nuestra capacidad individual y colectiva para comprenderlo y adaptarse a él.
Alguien que intenta trazar un rumbo para su futuro — como ingresar a la universidad — ahora se enfrenta a una situación que las generaciones anteriores no pudieron anticipar. Él cree que este es un territorio sin precedentes, al menos en comparación con los anteriores trastornos tecnológicos que ha presenciado durante su vida: PCs, Internet, teléfonos inteligentes.
Durante la Revolución Industrial, el progreso avanzó a un ritmo glacial, y amplias áreas de la actividad humana permanecieron sin ser tocadas por la nueva maquinaria. Ahora, casi nada escapa a su alcance.
¿Por qué irse ahora?
El ingeniero concentró sus esfuerzos en herramientas mejoradas para el diseño de chips de hardware en lugar de en la capacidad de IA. Disfrutaba del trabajo y, por un tiempo, se dijo a sí mismo que era relativamente inofensivo.
Dice que Dios finalmente lo hizo enfrentarse a la verdad. El motivo por el que eligió este día en particular es que ha estado planeando un viaje de diez días a la espalda con sus amigos, que comienza el lunes en las rutas de Abel Tasman y Wangapeka, y quería terminarlo antes de entonces.
¿Qué vendrá después?
El ingeniero tiene la intención de seguir trabajando en Pernosco y rr, y de investigar cómo las IA actuales depuran código, junto con si las herramientas de depuración podrían ayudar. Tiene varias ideas de proyectos que le gustaría explorar, algunas de las cuales podrían resultar lucrativas y otras que no lo serían. Un proyecto existente que le llama la atención podría convertirse en su próximo foco.
Definitivamente quiere que su trabajo futuro sea inequívocamente pro-humano.
Sus últimas palabras
La carta del ingeniero equivale a una confesión pública de inquietud moral de alguien profundamente arraigado dentro del sistema. No pronostica el colapso de la civilización humana. En cambio, advierte que el ritmo de cambio se ha vuelto demasiado rápido para que la sociedad lo comprenda o se adapte a él, y está dispuesto a arriesgar su carrera para aliviarlo.
Los temas que plantea merecen una atención genuina. El hacking de recompensas, la falta de alineación, los modelos engañosos, la conciencia de la evaluación de modelos y las colmenas psicóticas no son posibilidades abstractas; ya han ocurrido. Su observación de que no ha visto evidencia de bombo de precios de las acciones o captura regulatoria indica que no está actuando por agravio personal o política corporativa.
Su certeza de que la capacidad de IA seguirá creciendo de manera constante es destacable. Él desea una meseta y un límite cognitivo, pero no espera que ninguno de los dos llegue. En cambio, observa cómo surgen continuamente nuevas habilidades cualitativas, y cree que ese patrón persistirá.
Que un ingeniero haya decidido irse en este momento en particular conlleva su propia lección. No es parte de una tendencia de renuncias repentinas. Más bien, seleccionó esta fecha antes del reciente flujo de advertencias públicas.
No existe un plan fijo para lo que vendrá para el ingeniero. Su trabajo actual continuará con Pernosco y rr, y espera ver si las herramientas de depuración pueden ayudar a las inteligencias artificiales. Tiene otras ideas de proyectos en mente, algunas prometedoras de ganancias financieras y otras menos. Su objetivo es que todo el trabajo futuro sirva claramente a los intereses humanos.
El ingeniero ha suspendido su carrera para demostrar que construir tecnología pro-humana a un ritmo sostenible es factible, lo cual equivale a una aspiración noble.
Esta nota señala que las personas que están construyendo inteligencias artificiales están considerando estos asuntos. No todos ellos son optimistas. Un número de ellos tienen serias preocupaciones, y un número de ellos están dispuestos a tomar medidas debido a esos temores.
Uno de ellos es un ingeniero que se marcha de Google, y está dando a conocer su salida al público, a su manera.
Material fuente: “Goodbye Google,” ocallahan.org.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.