Un ingeniero experimentado que posee dos títulos en hardware y sistemas se ha cansado de escuchar que la IA ha resuelto la codificación. Su caso, titulado «Coding Is Not Solved», ha llamado la atención en línea y merece una segunda mirada.
El argumento se basa en una premisa sencilla: la inteligencia artificial puede producir código utilizable para proyectos modestos, pero cuando entra en juego la confiabilidad, la seguridad o la responsabilidad, falla. El autor, que construyó su propio arnés impulsado por un LLM y ha instruido al tema durante años, no se opone a la IA. Su oposición está dirigida a la promoción que la rodea. Desea disputar la «narrativa de cerebro muerto» que afirma que la codificación ha sido resuelta y que la ingeniería hoy en día no es más que una cuestión de preferencia.
El Caso del Autor Contra la Narrativa
Este autor posee dos títulos de ingeniería y ha pasado los últimos cuatro años trabajando realmente con IA y construyendo sistemas de IA. Se describe a sí mismo como un adoptante temprano de herramientas de codificación impulsadas por LLM en lugar de alguien que las duda. Esa distinción es importante para tenerla en cuenta. Está presentando su caso desde la experiencia práctica, no desde una posición alejada de ella.
Se enumeran tres tipos de productos que no necesitan estrictamente que el código sea leído.
- Software personal: solucionar un problema, automatización, parches de bricolaje
- POC (prueba de concepto): demostrar la viabilidad técnica y la viabilidad del producto
- IA «armada»: reconocer el riesgo y señalarlo deliberadamente a un objetivo para causar daño
Lo que une a estos tres es la disposición a aceptar el peligro. El primer par puede desmoronarse sin causar daño real. El tercero en cambio toma el peligro natural y lo incorpora al plan.
El Problema de la Responsabilidad
La queja fundamental aquí concierne a la responsabilidad: la IA no puede ser obligada a responder por sus acciones de la misma manera que una persona puede. No puede sentir el peso del castigo, no puede morir, no puede ser sometida a consecuencias. La acción más severa disponible contra un sistema de IA no es más que apagarlo.
«Si se anda jugueteando, los LLM hacen un buen trabajo», escribe. Pero ese es el problema. Las personas que impulsan la narrativa de que «la programación está resuelta» tienden a ser aquellas que no tienen nada que mostrar. Anthropic filtró accidentalmente Claude Code, que resultó tener muchas fallas, y su página de estado muestra que naranja es el nuevo verde.
Por qué la Programación No Está Resuelta
El autor sostiene que la programación sigue siendo uno de los últimos dominios donde los LLM aún no han tomado el control por completo. La explicación dada es que los humanos han construido un bucle de retroalimentación que devuelve sintaxis y errores de tiempo de ejecución al modelo, repitiendo el proceso hasta que la mayoría de los errores se resuelven o se encubren. Este enfoque funciona bien para tareas sencillas.
El mismo sistema que falla al contar las Rs en «Raspberry» o proponer un viaje al autolavado aún puede exponer falacias lógicas. Estos motores operan de manera estocástica y probabilística; la única vía hacia la lógica es encerrarlos en código tradicional, someterlos a pruebas y emplear técnicas como la cadena de pensamiento. El problema fundamental persiste: estos motores tienen dificultades con la lógica y la escala. A medida que la entrada crece y la ventana de contexto se llena, la precisión disminuye.
¿Quién Afirma Que el Software Generado por LLM es Suficiente?
Cinco rasgos caracterizan a aquellos que afirman que el software generado por LLM es suficiente, según la identificación del autor.
- Hace tiempo que no escriben código
- No pueden detectar si su código figuradamente tenía seis dedos
- Tienen un listón bajo para lo que se considera bueno
- No les importa la calidad ni los NFR (requisitos no funcionales)
- Tienen dificultades para entender una S-curva
El autor incluye un sexto rasgo: honestidad. La máquina produce código superior. Sin embargo, la afirmación de que funciona igual de bien en todo un campo es, en su opinión, un razonamiento absurdo.
Las Industrias Que No Pueden Permitirse el Fracaso
El autor enumera industrias con baja tolerancia al riesgo:
| Industria | Tolerancia al Riesgo |
|---|---|
| Atención Médica | Baja |
| Finanzas | Baja |
| Automotriz | Baja |
| Defensa | Baja |
| Plantas de energía ) | Bajo ) |
| Aviación ) | Bajo ) |
| Manufactura ) | Bajo ) |
Cuando un error conlleva un precio medido en dólares, vidas humanas o sanciones legales, debe haber alguien que rinda cuentas. Esa responsabilidad es algo que la IA simplemente no puede ofrecer. )
El Efecto Dunning-Kruger )
Una pizca del Efecto Dunning-Kruger es observada por el autor, con aquellos que no leen el resultado sintiéndose más seguros de él que aquellos que sí lo hacen. Esta diferencia en certeza se vuelve peligrosa cuando las apuestas son altas. )
Lo que el Autor Quiere )
El autor no está tratando de cambiar el flujo de trabajo ni la caja de herramientas de nadie. No le importa en absoluto. Lo que le importa es que los servicios por los que paga —mirando a Google y GitHub— están degradándose con errores estúpidos que podrían evitarse si se priorizara la confiabilidad y la responsabilidad sobre la velocidad. )
La guía para los gerentes es clara: dejen de presionar a sus desarrolladores, en su mayoría inteligentes, para que implementen la IA en cada superficie y flujo de trabajo disponible. La tecnología posee una fortaleza real, y representa el mayor cambio en la industria en décadas. Sin embargo, existe una excesiva dependencia de la IA, y cuando esta daña al cliente, usted asume la culpa. )
Los Límites de la IA (1)
El autor no afirma que la IA no ofrezca ninguna asistencia en absoluto. El argumento que se presenta es que la promoción en torno a ella ha superado lo que la tecnología puede entregar en realidad. Las LLM sirven como herramientas útiles, y sus capacidades están creciendo a lo largo de una curva en S. Sin embargo, llega un punto en el que los modelos más costosos no producen resultados que coincidan con el ritmo del gasto adicional. (2)
Este punto se basa en el propio cuerpo de trabajo del autor. Él construyó su propio arnés de LLM, instruyó al sujeto y creó productos impulsados por LLM a través de él. Habla de experiencia directa en lugar de como un mero observador. (3)
El Veredicto (4)
Lo que hace convincente el caso del autor es su especificidad. En lugar de abordar la IA en su conjunto, se dirige a la afirmación particular de que la IA ha resuelto la codificación, y apoya su posición con ejemplos concretos de dónde las LLM se quedan cortas. (5)
La observación de Dunning-Kruger es especialmente acertada: aquellos que no leen la salida tienen más confianza en ella, y ese es un patrón que vale la pena vigilar. (6)
De todos los problemas vinculados a la IA, responsabilizarla se destaca como el más difícil de resolver. El sistema no tiene forma física capaz de sufrir una sentencia de prisión o soportar multas, lo que significa que no hay nada con lo que una autoridad pueda castigarla. Como resultado, la IA nunca puede enfrentar las consecuencias de sus acciones. (7)
Lo que el escritor concluye es una súplica por la razón. Debe detenerse el reciclaje interminable de afirmaciones exageradas de los vendedores de tokens sobre lo que la IA puede hacer. Somos nosotros, los usuarios, quienes asumimos el costo. (8)
La atención en línea se ha dirigido hacia el trabajo del autor, y la discrepancia sobre él sigue sin resolverse. Sin embargo, el autor merece crédito por impulsar a todo el campo a reconocer dónde la tecnología se queda corta. (9)
Material fuente: “Coding Is Not Solved,” alexewerlof.com. (10)
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.