Ein erfahrener Ingenieur, der zwei Abschlüsse in Hardware und Systemen besitzt, hat es leid, zu hören, dass KI das Programmieren gelöst hat. Sein Fall, mit dem Titel „Coding Is Not Solved“ (Programmieren ist nicht gelöst), hat online Beachtung gefunden und verdient eine erneute Betrachtung.
Das Argument beruht auf einer einfachen Prämisse: Künstliche Intelligenz kann brauchbaren Code für bescheidene Unternehmungen produzieren, doch wenn Zuverlässigkeit, Sicherheit oder Verantwortung ins Spiel kommen, versagt sie. Der Autor, der seine eigene LLM-gesteuerte Ausrüstung gebaut und das Subjekt jahrelang geschult hat, ist KI nicht feindlich gesinnt. Seine Opposition richtet sich gegen die damit verbundene Werbung. Er möchte die „gehirntote Erzählung“ widerlegen, die besagt, dass das Programmieren gelöst sei und dass Ingenieurwesen heute lediglich eine Frage der Präferenz sei.
Der Fall des Autors gegen die Erzählung
Dieser Autor hat zwei Ingenieurabschlüsse und hat in den letzten vier Jahren tatsächlich mit KI gearbeitet und KI-Systeme konstruiert. Er bezeichnet sich selbst als frühen Anwender von LLM-gesteuerten Codierungswerkzeugen und nicht als jemand, der sie anzweifelt. Diese Unterscheidung ist wichtig zu beachten. Er vertritt seine Argumentation aus handlungsorientierter Erfahrung, nicht aus einer davon abgegrenzten Position.
Drei Produkttypen werden aufgeführt, bei denen der Code nicht unbedingt gelesen werden muss.
- Persönliche Software: Juckreiz stilllegen, Automatisierung, DIY-Patches
- POC (Proof of Concept): Demonstration der technischen Machbarkeit und Produktlebensfähigkeit
- „Weaponized AI“: Anerkennung des Risikos und gezieltes Ausrichten auf ein Ziel, um Schaden anzurichten
Was diese drei verbindet, ist die Bereitschaft, Gefahr zu akzeptieren. Das erste Paar kann zusammenbrechen, ohne wirklichen Schaden zu verursachen. Das dritte hingegen nimmt die natürliche Gefahr und macht sie zum Bestandteil des Plans.
Das Rechenschaftsproblem
Der Kern dieser Beschwerde betrifft Verantwortung: KI kann nicht auf die gleiche Weise zur Rechenschaft gezogen werden wie eine Person. Sie kann nicht das Gewicht von Strafe fühlen, sie kann nicht sterben, sie kann keinen Konsequenzen unterworfen werden. Die einschneidendste Maßnahme gegen ein KI-System ist lediglich, es abzuschalten.
„Wenn man herumspielt, machen LLMs einen tollen Job“, schreibt er. Aber das ist das Problem. Diejenigen, die die Erzählung „Programmierung ist gelöst“ verbreiten, sind oft diejenigen, die nichts vorzuweisen haben. Anthropic hat Claude Code versehentlich geleakt, was sich als fehlerhaft herausstellte, und ihre Statusseite zeigt, dass Orange die neue grüne Farbe ist.
Warum Programmierung nicht gelöst ist
Der Autor argumentiert, dass Programmierung weiterhin eines der letzten Bereiche ist, in denen LLMs noch nicht vollständig übernommen haben. Die Erklärung ist, dass Menschen einen Feedback-Loop aufgebaut haben, der Syntax- und Laufzeitfehler zurück ins Modell speist und diesen Prozess wiederholt, bis die meisten Fehler behoben oder verschleiert sind. Dieser Ansatz funktioniert gut für einfache Aufgaben.
Das System, das beim Zählen der Rs in „Raspberry“ ins Stocken gerät oder einen Ausflug zur Autowäsche vorschlägt, kann dennoch logische Fehlschlüsse aufdecken. Diese Engines arbeiten stochastisch und probabilistisch; der einzige Weg zu Logik ist es, sie in traditionellen Code einzuschließen, sie Tests zu unterziehen und Techniken wie Chain-of-Thought anzuwenden. Das grundlegende Problem besteht weiterhin: Diese Engines haben Schwierigkeiten mit Logik und Skalierung. Wenn die Eingabe größer wird und das Kontextfenster sich füllt, nimmt die Genauigkeit ab.
Wer behauptet, LLM-generierte Software sei gut genug
Fünf Merkmale kennzeichnen diejenigen, die behaupten, LLM-generierte Software sei ausreichend, so die Identifizierung des Autors.
- Haben schon lange keinen Code mehr geschrieben
- Können nicht erkennen, ob ihr Code bildlich gesehen sechs Finger hat
- Haben eine niedrige Messlatte für das, was gut aussieht
- Kümmert sich nicht um Qualität oder NFR (Non-Functional Requirements)
- Haben Schwierigkeiten, eine S-Kurve zu verstehen
Der Autor fügt ein sechstes Merkmal hinzu: Ehrlichkeit. Die Maschine produziert überlegenen Code. Aber die Behauptung, er performe in einem ganzen Feld genauso gut, ist in seinen Augen absurd.
Die Branchen, die keinen Ausfall sich leisten können )
Der Autor listet Branchen mit geringer Risikotoleranz auf: )
| Branche ) | Risikotoleranz ) |
|---|---|
| Gesundheitswesen ) | Gering ) |
| Finanzen ) | Gering ) |
| Automobil ) | Gering ) |
| Verteidigung ) | Gering ) |
| Kraftwerke ( | Niedrig ( |
| Luftfahrt ( | Niedrig ( |
| Produktion ( | Niedrig ( |
Wenn ein Fehler ein Preisschild in Dollar, Menschenleben oder rechtliche Strafen nach sich zieht, muss jemand dafür zur Rechenschaft gezogen werden. Diese Verantwortung kann KI schlichtweg nicht bieten. (
Der Dunning-Kruger-Effekt (
Ein wenig Dunning-Kruger wird vom Autor beobachtet, wobei diejenigen, die die Ausgabe nicht lesen, sich ihrer Aussage sicherer fühlen als diejenigen, die dies tun. Diese Differenz in der Sicherheit wird gefährlich, wenn die Einsätze hoch sind. (
Was der Autor will (
Der Autor versucht nicht, den Arbeitsablauf oder die Werkzeugkiste von jemandem zu ändern. Er könnte nicht weniger daran interessiert sein. Was ihn interessiert, ist, dass die Dienstleistungen, für die er bezahlt — ich schaue dich an, Google und GitHub — mit dummen Fehlern abgebaut werden, die vermieden werden könnten, wenn Zuverlässigkeit und Verantwortlichkeit gegenüber Geschwindigkeit priorisiert würden. (
Die Ausrichtung für Manager ist klar: Hören Sie auf, Ihre sonst intelligenten Entwickler unter Druck zu setzen, KI auf jede verfügbare Oberfläche und jeden Workflow zu bringen. Die Technologie hat eine echte Stärke und stellt den größten Wandel in der Branche seit Äonen dar. Dennoch besteht zu viel Vertrauen auf KI, und wenn diese den Kunden schädigt, tragen Sie die Schuld. (
Die Grenzen der KI (1)
Der Autor erhebt nicht den Anspruch, dass KI keinerlei Hilfe bietet. Es wird argumentiert, dass die damit verbundene Werbung über das hinausgewachsen ist, was die Technologie tatsächlich leisten kann. LLMs dienen als nützliche Werkzeuge, und ihre Fähigkeiten wachsen entlang einer S-Kurve. Allerdings gibt es einen Punkt, an dem teurere Modelle nicht zu Ergebnissen führen, die das Tempo der zusätzlichen Ausgaben rechtfertigen. (2)
Dieser Punkt basiert auf dem eigenen Werk des Autors. Er konstruierte seine eigene LLM-Harnesse, instruierte das Subjekt und schuf LLM-gestützte Produkte darüber. Er spricht aus direkter Erfahrung und nicht nur als bloßer Beobachter. (3)
Das Urteil (4)
Was an der Argumentation des Autors überzeugend ist, ist ihre Spezifität. Anstatt KI als Ganzes zu betrachten, zielt er auf die besondere Behauptung ab, dass KI das Programmieren gelöst hat, und stützt seine Position mit konkreten Beispielen dafür, wo LLMs versagen. (5)
Die Dunning-Kruger-Beobachtung trifft besonders ins Schwarze: diejenigen, die die Ausgabe nicht lesen, sind zuversichtlicher in sie, und das ist ein Muster, das man im Auge behalten sollte. (6)
Von allen Problemen, die mit KI verbunden sind, steht die Verantwortlichkeit vor den anderen als am schwierigsten zu lösen. Das System hat keine physische Form, die eine Haftstrafe oder eine Geldbuße erleiden könnte, was bedeutet, dass es nichts gibt, mit dem eine Behörde es bestrafen kann. Infolgedessen kann KI niemals die Konsequenzen für ihre Handlungen tragen. (7)
Was der Autor abschließend formuliert, ist ein Appell an die Vernunft. Die endlose Wiederverwertung übertriebener Behauptungen von Token-Verkäufern über das, was KI kann, muss aufhören. Es sind wir, die Nutzer, die die Kosten tragen. (8)
Online-Aufmerksamkeit richtet sich auf die Arbeit des Autors, und Uneinigkeit über diese bleibt ungelöst. Dennoch verdient der Autor Anerkennung dafür, dass er das gesamte Feld dazu gebracht hat, anzuerkennen, wo die Technologie versagt. (9)
Quellenmaterial: „Coding Is Not Solved“, alexewerlof.com. (10)
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.