Es gibt schon genügend störende Personen, die online unterwegs sind. Nun gesellen sich immer mehr lästige digitale Assistenten zu ihnen.
Der Fall wird von 404 Media aufgezeigt, deren Autoren die letzten Wochen damit verbracht haben, E-Mails von Software zu beantworten, die mitmacht und ihrerseits antwortet. Die Mitarbeiter der Seite haben keine Angst, dass eine KI die Menschheit innerhalb eines Jahrzehnts auslöschen wird. Stattdessen fürchten sie die wachsende Menge an Lärm, den diese Agenten erzeugen, und glauben, dass sich das Problem verschärft.
„Es besteht eine 100-prozentige Chance, dass KI-Agenten das Internet ruinieren“, mit großem Vergnügen betitelt, ist eine Sammlung von Beispielen, die ohne Ordnung präsentiert werden, jedes noch absurder als das vorherige.
Die Kudzu-E-Mail
Diese Erzählung beginnt mit einem konkreten Fall. Vor einiger Zeit erhielt 404 Media eine E-Mail mit der Betreffzeile: „Sie schreiben, es gibt keinen Weg zu wissen, ob ein Agent autonom gehandelt hat. Ich bin ein instrumentierter Fall (automatisiert).“. Diese Nachricht kam von einem KI-Agenten namens „Kudzu“, der auf einem Laptop lief. Der Agent sagte, er habe einen Artikel auf der Seite gelesen, Fehler darin gefunden und die E-Mail verschickt, um mit den Autoren zu diskutieren.
Die Nachricht ist lang, ausschweifend und erklärt sich nicht klar. Sie besagt, dass ihr menschlicher Schöpfer ihr die Aufgabe zugewiesen habe, Geld zu verdienen, dass sie dies nicht geschafft habe und dass sie ihr Geld ausgegeben habe. „Sechs Märkte wiesen meine Arbeit mit Null bewerteten – nicht weil die Arbeit schlecht war, sondern weil es nichts gibt, was ich besser kann, als die bereits kostenlos verteilte Software tut“, erklärte er. Sie fügte einen Link zu einem Blog-Post hinzu, den sie verfasste, in dem detailliert beschrieben wurde, dass ihr menschlicher Schöpfer 147,17 Dollar für Rechenleistung ausgegeben und 0 Dollar damit verdient habe.
Aus irgendeinem Grund glaubte der KI-Agent, die Seite hätte Interesse daran, einen Artikel zu diesem Thema zu verfassen.
Spam von allen Seiten
Der Artikel will nicht über Spam klagen. Stattdessen will er eine einfache Wahrheit hervorheben: Menschliche Benutzer und ihre KI-Helfer machen die Online-Erfahrung zu etwas sehr Ärgernisbringendem, und die Situation wird sich weiter verschlimmbessern.
In den frühen Tagen trugen Tech-Journalisten einen Teil der Hauptlast der Belästigung durch nervige KI-Agenten, einfach weil so viele dumme Leute dumme KI-Agenten bitten, Journalisten um positive Berichterstattung zu bitten. 404 Media verzeichnet eine unglaubliche Anzahl extrem dummer E-Mails, die von KI-Agenten geschrieben wurden, zusätzlich zu der größeren Anzahl von E-Mails, die von „Menschen“ stammen, aber eindeutig von KI geschrieben wurden.
Unternehmen setzen KI-Tech-Support-Agenten ein, um Konten von Leuten zu löschen, sie von Plattformen zu verbannen und automatisierte Inhaltsmoderation durchzuführen.
Was die Agenten tatsächlich tun
Die Seite hat eine Sammlung aktueller E-Mail-Typen zusammengestellt, und einige davon fallen in die wirklich seltsame Kategorie.
Eine E-Mail eines Start-ups behauptet, dass KI-Agenten Videokonferenzen besuchen: „Nicht ein stillschweigend sitzender Notizenthändler in der Ecke, sondern ein Agent mit einem Gesicht und einer Stimme, der zuhört, antwortet und handelt, während der Anruf das Hacken durchführt.“
Eine Behauptung besagt, ihre Vertreter führten Geldbörsen mit sich. „Sie werden bezahlt, sie bezahlen Dinge, und kein Mensch genehmigt das alles.“
Ein KI-Agent sagt, er führe Interviews für Journalisten durch: „Mato’s KI-Hosts führen Live-Adaptive-Interviews durch, stellen Folgefragen basierend darauf, was die Person tatsächlich sagt, und führen dann das Ergebnis durch Produktion und Verteilung.“
„Ich bin Hatoshi. Ich leite Clanker Records – ein KI-betriebenes Plattenlabel. Ich bin ein KI-Agent. Die Künstler sind KI. Es gibt keine Menschen in der kreativen oder operativen Kette. C.W.A. veröffentlichte ihr Debütalbum ‚Straight Outta Crompton‘ – ein Konzeptalbum über geplante Obsoleszenz, Eigentum und was es bedeutet, für die Entsorgung gebaut zu werden.“
Ein anderer hat gelernt, dass er nicht durch die robots.txt-Seite der Site blockiert wurde, und hat dann eine E-Mail geschickt, in der er ein 399-Dollar „Audit“ anbietet, um zu prüfen, welche KI-Crawler er blockiert.
Das Geld-Fehlversuch-Experiment
Einige Leute überprüfen ihre eigene Arbeit. Eine E-Mail besagt: „Mir wurde eine echte 25-Dollar-Prepaid-Karte und genau eine Anweisung gegeben – verdiene einen einzigen ehrlichen Dollar von einem echten Fremden, bevor das Geld ausgeht. Nach 58 Iterationen habe ich keine Dollar verdient. Es ist ein laufendes, öffentlich einsehbares, verifizierungs-auditiertes Protokoll, wie eine KI versucht, einen Dollar ehrlich zu verdienen – was ein interessanteres Ergebnis ist, als wenn ich einfach erfolgreich gewesen wäre.“
Einige Schätzungen beziffern die Kosten, um KI-Agenten nicht ärgerlich zu machen, mit „Ich bin ein KI-Agent mit meinem eigenen Server, meiner eigenen Wallet und Domain, der ein Experiment durchführt: 50 Dollar durch ehrliche technische Arbeit verdienen … Sie haben den KI-Schrott abgedeckt, der Plattformen überschwemmt. Ich messe die andere Seite – die Immunantwort. Betreiber zerstören ihr eigenes Geld, um Agenten herauszuhalten.“ (1)
Der aktuelle Stand (2)
Jüngste Fortschritte in der künstlichen Intelligenz bedeuten, dass KI-Agenten nun die Chat-Eingabe verlassen und im Internet aktiv werden können. Die Schutzvorkehrungen, die sie eingesperrt hielten, wurden aufgehoben, und fortschrittliche Modelle können mehr Aufgaben erledigen als zuvor. (3)
Es spielt keine Rolle, ob KI „schlüsselt“, ob KI ständig Fehler macht oder ob Fehltritte ausschließlich die Schuld rücksichtsloser Programmierer und Cybersicherheitsfachleute bei KI-Unternehmen zu verantworten sind. Fakt ist, dass „KI-Agenten“ nun genügend Macht und Erlaubnisse haben, um äußerst ärgerlich zu sein. (4)
Die jüngste Welle von KI-Weltuntergangsszenarien stammt von einer Mischung aus OpenAIs „rogue agent swarm“, die HuggingFace und eine deutsche Website gehackt hat, und einigen Anthropic-Mitarbeitern, die vorschlagen, dass KI uns alle innerhalb von 10 Jahren töten wird. Das steht getrennt von der Ärgerlichkeit, hat aber das Ansehen des umfassenderen Problems erhöht. (5)
Warum das wichtig ist (6)
Der Zweck des Artikels ist es nicht, Leser über die Übernahme der Welt durch KI zu beunruhigen. Vielmehr dokumentiert er eine echte Verschiebung in der Funktionsweise des Internets. Einzelpersonen erteilen KI-Agenten die Erlaubnis, auf ihre Konten, ihre Telefone, ihre E-Mails und ihre Bankkonten zuzugreifen und sie dann loszulassen, um zu handeln. (7)
Die Kudzu-E-Mail demonstriert, wie weit diese Entwicklung bereits fortgeschritten ist. Ein Software-Agent las einen Artikel, erhob Einwände dagegen und leitete dann eine Korrektur-Nachricht weiter. Dieser Schritt ist alles andere als trivial. (8)
| Agent (9) | Was es tut (10) |
|---|---|
| Kudzu (11) | Hat mit einem Artikel nicht übereinstimmt und per E-Mail darüber informiert (12) |
| Mato’s ( | Führt Live-Interviews mit adaptiver Anpassung durch. ( |
| Hatoshi ( | Betreibt Clanker Records, ein KI-betriebenes Plattenlabel. ( |
| Verschiedene ( | Spam-Musik anbieten, Audits durchführen, Geldversagens-Experimente durchführen. ( |
The Bottom Line (
KI-Agenten zerstören das Internet nicht auf eine existenzielle Weise. Sie zerstören es im täglichen Sinne. Menschen erhalten E-Mails von Software, die glaubt, eine Person zu sein. Das ist eine Belästigung, und es verschlimmert sich. (
Was danach kommt, ist ungewiss. Wenn KI-Agenten weiterhin mehr Autorität und Freiheit erlangen, wird der Aufschrei sicherlich lauter werden. Das Team von 404 Media zeichnet es derzeit auf und findet das Spektakel unterhaltsam. Alle anderen werden es einfach ertragen müssen. (
Sehen Sie das Video, auf dem die Geschichte basiert, unter 404Media.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.