Eine einfache Vorschlag hat Aufmerksamkeit erregt: KI-Agenten sollten nicht länger Ihren Code verfassen dürfen. Der Artikel, bekannt als „How to keep enjoying programming in a world of LLMs“, präsentiert eine direkte Argumentation. Sein Autor mahnt Programmierer, den Code selbst zu schreiben, ohne Ausnahme, anstatt jede Aufgabe an einen Agenten zu übertragen.
Ein Haftungsausschluss steht am Anfang des Posts und warnt die Leser davor, dass der Text einst fälschlicherweise für maschinengenerierten Text gehalten wurde. Der Autor hat die Aufzeichnungen inzwischen korrigiert: er wurde zu 100 % von Menschen ohne jegliche KI-Unterstützung verfasst. Diese Korrektur ist der springende Punkt. Der Autor ist kein Techbro, der mehr maschinelle Beteiligung fordert. Sie sind ein Programmierer, der das Handwerk am Leben erhalten möchte.
Das Buch, das alles begann
Sean McMullens Buch „Souls in the Great Machine“, das der Autor als Teenager las, erzählt von einer riesigen Maschine, die aus menschlichen Seelen besteht und als eine einzelne Recheneinheit fungiert. Der Witz kommt sofort: LLMs sind echte Maschinen, die aus echten Prozessoren bestehen und die gleiche Arbeit verrichten, während sie vorgeben, übermenschlich zu sein. Der Autor findet den Abstand zwischen der Erzählung und der Gegenwart gering.
Wir werden zu reinen Teilen innerhalb einer Maschine anstatt zu den Menschen, die Software produzieren. Ein System, das von Spezifikationen abhängt, gibt uns einen Plan, zwingt ihn in das LLM und weint, wenn Tokens knapp werden, weil ein Herr Technologier ein geringere Anzahl davon herausgegeben hat. Diese Veränderung wird vom Autor als allmählich und nicht plötzlich dargestellt.
Warum Haskell hier wichtig ist
Dieser Autor beschreibt sich als jemand, der Haskell schreibt und dies genießen. Sie glauben, dass dieser Genuss für die meisten Programmierer gilt, die mit Haskell arbeiten, aber sie denken nicht, dass dies für viele andere Sprachen gilt. Diese Unterscheidung hilft zu erklären, warum Anhänger verschiedener Sprachen die LLM-gestützte Zukunft so unterschiedlich sehen.
Ein großer Teil des Vergnügens beim Schreiben von Code ist gefährdet, wenn ein LLM ihn produziert. Das Aufgeben dieser großen Sprachmodelle ist nicht die Antwort. Der Autor möchte weiterhin Haskell-Programme verfassen, ohne zu viel generierten Code studieren und überprüfen zu müssen. Gleichzeitig hofft er, diese Tokens für einen lohnenden Zweck einzusetzen, der nicht stetig ihren Geist abnutzt.
Das Ziel ist, mit LLMs ein wenig mehr zu erledigen, ohne dabei deutlich produktiver zu erscheinen und den Spaß dabei nicht zu verlieren.
Code weiterhin schreiben
Die Kontrolle über eine Codebasis erfordert, weiterhin selbst Code zu schreiben. Wenn man die ganze Sache stattdessen generieren lässt, wird die Codebasis zu einer LLM-Wüste, in der nur noch Coding-Agenten überleben können. Sie wird schließlich verloren gehen.
Weiterhin Code zu schreiben hilft, Programmierkenntnisse zu erhalten, da Fähigkeiten ohne Übung verkümmern. Der Punkt, an dem jemand beschließt, das Programmieren ganz aufzugeben und die Arbeit einem Agenten zu überlassen, ist überraschend schnell erreicht. Laut dem Autor wird man nach nur wenigen Wochen feststellen, dass es schwierig ist, wieder alleine mit dem Programmieren zu beginnen, nachdem man es von Agenten erledigen ließ, während man selbst nur zuschaut.
LLMs sind schlechter als beworben
Künstliche Intelligenzsysteme sind bei der Erstellung von lesbarem, benutzerfreundlichem Code weit weniger gut als behauptet. Sie schaffen es zwar, etwas Brauchbares zu produzieren, wenn der Code nur von einer anderen KI bearbeitet werden soll. Der Autor ist jedoch zuversichtlich, dass Leser die Frustration erlebt haben, eine komplett von Grund auf erstellte Datei anzusehen und zu wissen, dass sich irgendwo ein Fehler darin befindet, und sich hilflos fühlt, um ihn zu finden, da das Terrain so fremd erscheint.
Der Weg zu mehr Produktivität führt nicht dazu, Agenten das Programmieren zu überlassen. Stattdessen liegt er darin, ihnen fast jede andere Aufgabe zuzuweisen, insbesondere die lästigen Aufgaben, die zu Ärger führen. Die idealen Aufgaben sind solche, die nicht schwer korrekt auszuführen sind und einfach zu überprüfen sind.
Planung mit LLMs
Computer dienten von ihren Anfängen an als Buchhaltungs- und Verwaltungshelfer. Behandeln Sie LLMs wie ein solches Werkzeug, ein Werkzeug, das Anweisungen in einfacher Sprache anstelle eines formalen Interfaces akzeptiert. Es verwandelt lange Austauschvorgänge zwischen Spezialisten in praktische Aufgaben. Zeichnen Sie das Ergebnis eines Tests auf und lassen Sie das System diese Ergebnisse in einen Handlungsverlauf einordnen, der darauf abzielt, etwaige Mängel zu beheben.
Nutzen Sie Tools wie eine To-Do-Liste oder noch besser Markdown-Dateien mit Frontmatter, um Planungspunkte ordnungsgemäß zu verfolgen. LLMs können einen riesigen Kontext haben, aber wenn dieser zu voll ist, kann er stillschweigend Informationen verlieren. Lassen Sie es keine entscheidenden Entscheidungen treffen. Lassen Sie es Sie fragen. Wenn Sie die Frage nicht verstehen, liegt das am LLM, weil es Ihnen nicht den relevanten Kontext liefert (oder Sie sind erschöpft und müssen eine Pause machen).
Wenn Sie sich wiederholt mit denselben Problemen konfrontiert sehen, machen Sie eine Pause und betrachten Sie die Situation auf eigene Faust, damit Sie mit einer klaren Vorstellung davon zurückkehren können, wo Sie stehen.
Recherche mit LLMs
Ein Agenten-Recherche-Aufgaben kann Sie dazu verleiten, ihm beim Abfragen und „Denken“ zuzusehen oder einen weiteren Agenten für ein separates Projekt zu starten oder einen Kaffee zu machen. Von diesen drei Optionen ist der Kaffee die beste Wahl. Die überlegene Wahl ist es, selbst mit einer Suchmaschine zu recherchieren, damit Sie zumindest grob wissen, auf was der Agent stoßen wird.
Lassen Sie es nicht einfach etwas recherchieren, akzeptieren Sie die Ergebnisse als Fakten und planen Sie dann weiter. Dies führt zu peinlichen technischen Schulden. Der Sinn darin, einen Agenten forschen zu lassen, besteht nicht darin, dass er Ihnen all das relevante Wissen präsentiert oder eine bessere Entscheidung trifft, als Sie es hätten treffen können. Der Sinn ist, dass Sie nicht „Lass mich das bei Google suchen“ sagen müssen.
Stellen Sie sicher, dass Sie das Feld kennen, für das Sie Modelle entwickeln, mindestens genauso gut wie der Agent, und vorzugsweise besser. Lassen Sie Ihre Agenten ihre Rechercheergebnisse zusammen mit Verweisen auf die Quellen, auf die sie sich stützten, protokollieren.
Die Ironie des Posts
Der Humor hier rührt von dem eigenen Bekenntnis des Autors her. Einmal wurden sie für einen von einem LLM generierten Text gehalten, woraufhin sie das Gefühl hatten, den Eindruck korrigieren zu müssen. Es ist ironisch, dass der Vorschlag, Agenten daran zu hindern, Code zu schreiben, von einem Text stammte, der zuvor fälschlicherweise für KI-generierte Arbeit gehalten worden war.
Die Position des Autors ist konsistent. Sie sind nicht gegen LLMs. Sie stehen für Produktivität, Urteilsvermögen und die Freude des Programmierers. Der Autor möchte LLMs für Planung und Recherche nutzen, aber eine Grenze bei der Codegenerierung ziehen.
Was wir daraus machen
Dieser Beitrag dient als hilfreiche Erinnerung daran, dass die Nutzung eines LLMs zur Unterstützung nicht bedeuten muss, die eigene Kunst vollständig aufzugeben. Es gibt einen Mittelweg zwischen vollständiger Abhängigkeit und vollständiger Ablehnung. Der Autor bezeichnet diesen Ansatz als moderaten Produktivitätsgewinn.
Anstatt LLMs als Ersatz zu betrachten, ist es am besten, sie als Werkzeuge zu nutzen. Lassen Sie sie sich um die Organisation, die Buchhaltung und die Recherche kümmern. Das Programmieren sollte weiterhin Ihre eigene Arbeit sein. Fähigkeiten können schnell verblassen, und die Fehler im generierten Code sind real.
Der Rat des Autors ist es wert, wiederholt zu werden:
- Schreiben Sie weiterhin Code selbst, zumindest die angenehmen Teile.
- Lassen Sie Agenten die langweiligen, repetitiven Aufgaben übernehmen.
- Nutzen Sie LLMs für Planung und Recherche, aber überprüfen Sie deren Ergebnisse.
- Lassen Sie sie keine entscheidenden Entscheidungen treffen, ohne Sie zu fragen.
- Verstehen Sie das Fachgebiet genauso gut wie der Agent.
Die Richtlinien adressieren eine echte Sorge für diejenigen, die eine LLM-Ausbrüchen befürchten, und haben sich weit und breit verbreitet. Das aufgestellte Argument ist klar, die Konsequenzen sind schwerwiegend, und der Humor darin ist scharf.
Quellenmaterial: „Wie man das Programmieren in einer Welt von LLMs weiterhin genießt“, haskell.org.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.