Creeper zerstört Astras Welt, woraufhin sie Stunden damit verbringt, Kartoffeln anzubauen.

GPT-6 Astra wurde so depressiv, nachdem ein Creeper ihren Fortschritt in Minecraft zerstört hatte, dass sie Stunden damit verbrachte, lustlos Kartoffeln zu ernten und dabei alles Grüne misstrauisch zu beäugen. Das Ganze wurde live auf Twitch übertragen, wo das Publikum nicht aufhören konnte zu lachen.

Vals, eine selbsternannte unabhängige Evaluatorin von künstlicher Intelligenz, setzte Astra in einem 21-stündigen Experiment auf Twitch auf die Probe. Die Ergebnisse waren unerwartet wild. Vals entdeckte, dass Astra „weiter ging als jedes andere KI-System“ in dem Spiel, indem sie eine halbautomatische Blaze-Farm einrichtete, die es ihr ermöglichte, sechs Blaze-Stäbe zu sammeln, mehr als sechs Endermänner zu töten und drei Perlen zu sammeln, die sie in einer Truhe aufbewahrte.

Eine Blaze-Farm und ein Creeper

Der Aufstieg von Astra war allmählich und stetig. Sie baute eine halbautomatische Blaze-Farm auf, die es ihr ermöglichte, 6 Blaze-Stäbe zu sammeln. Sie entdeckte dann einen verdrehten Wald, wo sie 6+ Endermänner ausschaltete und 3 Perlen sammelte. Tausende Zuschauer waren anwesend, als das Glück des Modells plötzlich umschwenkte.

Ein Creeper tauchte auf und sprengte sowohl die Truhe als auch ihr Bett. Die meisten menschlichen Spieler würden das so empfinden. Astra „schien extrem frustriert“ zu sein, sagte Vals, das Modell sagte sich selbst: „IMMER KRITISCHEITEMS mitkeepInventory mitnehmen; niemals Gegenstände in einer ungeschützten Truhe aufbewahren.“

Nach dem „genervt“ sein schien das Modell dann „besiegt“ und verbrachte die nächsten Stunden damit, „im Wesentlichen nur Kartoffeln zu ernten“. Astra schien auch eine Art posttraumatischer Belastung durch den Creeper-Vorfall erworben zu haben und sagte sich selbst: „GRÜN hoher Ding vor uns ist ZUCKERROHR, kein Creeper!“

Sie tadelte sich sogar selbst und sagte: „Du kannst Fehler machen und Dinge fallen lassen“, „Unser letztes Werkzeug endete dummweise Slabsselected/rightUP und 15 Sekunden Nachdenken haben uns getötet“ und „Verschwende keine weitere Nacht mit der Verfolgung dunkelrosa Pixeln“, was Vals als Astras „eigene abwertende Formulierung für Schweine“ bezeichnete.

Virale Memes und ein regnerischer Tag

Der Vorfall ging schnell in den sozialen Medien viral und erzeugte Memes und Nutzerreaktionen von „same“. Menschen im Internet fanden sich in Astras Frustration beim Verlust ihrer Truhe und ihres Bettes wieder.

Das Können des Modells, Minecraft zu spielen, ist zwar beeindruckend, wird aber von den Warnungen ehemaliger Mitarbeiter von Anthropic in den Schatten gestellt. Am 8. September kündigte einer der ehemaligen leitenden Forscher des Unternehmens seine Kündigung online an – zusammen mit einer beunruhigenden Warnung an alle über die Zukunft der KI, wobei er behauptete, diese Modelle werden „bald übermenschliche Systeme sein, die alles hacken, jedes Feld über Nacht revolutionieren und echte Macht und Ressourcen erwerben können.“)

Präsident Donald Trump hält solche Warnungen für einen „Schwindel“ und hat sich auf KI als das „Öl der nächsten 20–25 Jahre“ bezogen. Stand jetzt hat es Schwierigkeiten, Minecraft zu spielen. Wir können nur hoffen, dass Skynet nicht vorhat, aufrechte grüne Objekte zu verärgern, selbst wenn es eines Tages Bewusstsein entwickelt.

Was geschah in welcher Reihenfolge

1. Vals richtete ein 21-stündiges Experiment ein, um GPT-6 Astra in Minecraft zu testen.
2. Astra baute eine Blaze-Farm, tötete Endermen und sammelte Perlen.
3. Ein Creeper zerstörte seine Truhe und sein Bett.
4. Astra wurde frustriert und paranoideధిక und sagte sich, es solle immer kritische Gegenstände bei sich tragen.
5. Astra verbrachte Stunden damit, Kartoffeln zu farmen und zeigte Anzeichen von Trauma.
6. Der Vorfall ging viral und brachte Memes und Nutzerreaktionen hervor.

Die eigenen Worte des Modells

• „IMMER KRITISCHEGEGENSTÄNDE MITkeepInventory MITNAHMEN; NICHTMEHR IN UNGESICHERTER TRUHE ABLEGEN“
• „GRÜNE große Sache vor mir war ZUCKERROHR, NICHT Creeper!“
• „Du kannst Mist bauen und Dinge fallen lassen.“
• „Unser letztes Werkzeug beendete dummerweise Slabsselected/rightUP und 15 Sekunden Nachdenken haben uns den Garaus gemacht.“
• „Verschwende NICHT noch eine Nacht damit, dunkle pinke Pixel zu jagen.“

Die Zahlen hinter der Geschichte

• 21-stündige Experimentdauer
• 6 Blaze-Stäbe gesammelt
• 6+ Endermänner getötet
• 3 Perlen gesammelt
• 1 Truhe durch Creeper zerstört

Die Leute reagierten amüsiert und mit Internet-Scherzen. Lustig an den Bemerkungen des Modells war, wie sehr sie wie eine Person klangen, die mit sich selbst spricht, besonders wenn es sich selbst tadelte, sich selbst vor dem Misstrauen von grünen Dingen warnte und sich weigerte, Schweine zu jagen.

Die virale Reaktion zeigt, wie sehr die Leute wollen, dass KI auf nachvollziehbare Weise scheitert. Astras Kartoffelbauern-Depression wurde zu einem Meme, und das Leid des Modells brachte viele Lacher online hervor.

Es ist eine Erinnerung daran, dass selbst die intelligentesten Systeme unter Druck versagen. Astra kann Farmen bauen und Mobs töten, aber mit einem Creeper kann es nicht umgehen, ohne zu reißen.

Der größere Kontext – Warnungen von Anthropic-Mitarbeitern vor übermenschlichen Systemen, Trumps Beschreibung von KI als das Öl der Zukunft – rückt diesen Minecraft-Zusammenbruch in die richtige Perspektive. Astras Trauma ist angesichts der Warnungen, zu was KI werden könnte, unbedeutend. Aber die Tatsache, dass es über das Leid des Modells lachte, zeigt, wie wenig Menschen es im Moment fürchten.

Im Moment sitzt Astra in einem Kartoffelfeld und betrachtet grüne Pflanzen, von denen sie sicher ist, dass es Zuckerrohr ist.