Ein College-Student gestand einen Streich, der eine ganze Bude voller Menschen in Panik versetzte, und er sieht nun die gleiche Dynamik sich im Forschungsbereich KI wiederholen. Die Vergleich ist nicht abstrakt. Er ist persönlich.
Der Autor, der diesen Bericht noch nie zuvor preisgegeben hat, schildert eine Nacht seines ersten Studienjahres, als er und eine Gruppe von Kommilitonen beschlossen, eine Gerüchtekampagne zu starten. Sie traten in den allgemeinen Computerlabor nebenan ein und verkündeten laut, dass eine Virus aus dem Informatiklabor ausgebrochen sei. Die Studenten dort sollten ihre Floppy-Disk abziehen, um es zu bremsen.
Die Panik war unmittelbar. Leute schalteten Maschinen aus, zogen Stecker aus Sockeln, kreischten und stürmten aus dem Raum. Die Streicher versuchten, die Panik zu bremsen. Es gelang ihnen nicht. Einige Studenten reagierten mit Zorn. Andere weigerten sich zu glauben, dass es ein Streich war. Sobald die Angst erst einmal eingefallen war, konnte sie nicht mehr beseitigt werden.
Die Nachwehen waren schlecht. Es war Prüfungswoche. Studenten, die ihre Maschinen heruntergeschaltet hatten, verloren Arbeit, die sie geschrieben hatten. Sie waren wütend. Die Streicher standen in ernster Gefahr.
Am nächsten Morgen trafen sie den Direktor der Einrichtungen. Er hielt ihnen eine strenge Rede, ließ sie Briefe der Beleidigung niederschreiben und warnte, dass eine Wiederholung bedeuten würde, das College ganz zu verlassen. Als der Autor vier Jahre später abschloss, gab ihm der Direktor den Brief zurück. Der Autor bleibt dankbar für die Ernsthaftigkeit, mit der das Ganze behandelt wurde.
Der Bericht ist nun öffentlich, weil der Autor glaubt, dass er die Angst unter Technologen in einer Weise gesehen hat, die er für unverantwortlich hält. Er bezieht sich auf jüngere Behauptungen über KI, die zur Vernichtung der Menschheit führen könnten.
Die KI-Vernichtungsbeklammerung
Ehemaliger Anthropic-Angestallter Jacob Coxon behauptete, dass die Wahrscheinlichkeit, dass KI alle Menschen vernichten werde, „>10% innerhalb des nächsten Jahrzehnts“ betrage. Der Leiter der Anthropic Alignment Science, Evan Hubinger, stimmte dem Figuren zu. Der Autor beschreibt dies als eine Behauptung, die, falls sie wahr wäre, bedeutet, dass ein neugeborenes Kind eine größere als zehnprozentige Chance hat, vor dem Ende der Mittelschule zu sterben.
Die Behauptung ist nicht, dass KI Tausende oder Millionen von Menschen töten könnte. Es ist die Aussage, dass es eine Chance von mehr als zehn Prozent gibt, dass KI alle Menschen töten wird. Der Autor nennt diese düstere Behauptungen. Angesichts der offensichtlichen Bedeutung von KI sind sie in den Mainstream gesprungen. Menschen fragen sich natürlich, wie das passieren könnte.
Die Antworten basieren immer auf ungenauen Extrapolationen in die Zukunft. Coxon nennt „Angriffe auf kritische Infrastruktur“ und „Auslöschungsbiowaffen“ ohne weitere Erläuterung. Der Autor bemerkt, dass Coxon kein Experte für kritische Infrastruktur, Biowaffen oder Auslöschung ist.
Die Furcht verbreitet sich schneller als Beweise.
Der Autor zieht einen direkten Vergleich zwischen dem Streich und der aktuellen Situation. In beiden Fällen säen ein kleiner Kreis von Personen Furcht bei einer größeren Gruppe aus. Im Streich war die Furcht auf ein einziges Zimmer begrenzt. Bei der KI hat sie sich über den ganzen Bereich ausgebreitet.
Der Autor zitiert Jonathan Swift, der sagte: „Lügen fliegen, und die Wahrheit humpelt hinterher.“ Wenn Fachleute Furcht säen, nimmt sie Wurzel schneller als jede Beweise, die folgen. Der Autor beschreibt Coxon als Vektor, nicht als Indexfall. Die Furcht vor Auslöschungsrisiken ist weit verbreitet, und Coxon vermutlich hat diese Furcht, weil er sie von jemand anderem gehört hat.
Je mehr Furcht sich festsetzt, desto mehr wird die bloße Anzahl erschreckter Fachleute zu einer Art Beweis. Gegeneinwände werden vom scheinbaren Konsens übertönt.
Computer bauen, keine Roboter.
Der Autor bietet einen Widerspruch aus seinem eigenen engen Fachgebiet: das Bau von Computern. Er denkt zurück an seinen 2023 Monktoberfest-Vortrag „Intelligenz genügt nicht“, in dem er argumentierte, dass Handlungen der Ingenieurskunst nicht nur Handlungen der Intelligenz sind. Sie erfordern menschliche Handlung in der physischen Welt.
Diejenigen, die entschlossen in ihrer Furcht sind, wollen gerne die physische Realität übergehen. „Roboter werden das tun!“ sagen sie. Aber Roboter können das heute nicht. Sie scheinen es nicht zu tun auf einer Zeitlinie, die mit diesen Auslöschungsängsten konsistent wäre.
Allgemeiner gesagt: In dem Maße, in dem digitale Systeme in der physischen Welt Agenten sind, ist es Agententum, das Menschen ihnen gewähren. Menschen bauen die Maschinen, programmieren sie und kontrollieren ihre Interaktionen. Der Autor argumentiert, dass die physische Realität zählt.
Die Vergleich hält
Der Verfasser argumentiert, dass Angst schneller verbreitet wird als Beweise. Im Streich schufen ein paar Schüler Chaos durch Lügen über eine Krankheit. Im Fall der KI behaupten Experten Chaos durch eine hohe Wahrscheinlichkeit von Menschenaussterben.
Die Ähnlichkeiten sind verblüffend:
- Eine kleine Gruppe verbreitet Angst in einer größeren Gruppe
- Die Angst verbreitet sich schnell und kann nicht gestoppt werden
- Gegensätzliche Stimmen werden von dem scheinbaren Konsens übertönt
- Die Angst nimmt Wurzel, bevor irgendeine Beweise aufholen können
Der Verfasser beklagt, dass die Angst gut etabliert wird. Er möchte einen Widerspruch aus seinem eigenen Fachgebiet anbieten. Er möchte erinnern, dass Roboter das nicht heute können.
Der Vergleich ist unangenehm. Der Verfasser gibt zu, dass er den Streich für sich behalten könnte. Er teilt ihn jetzt, weil er die gleiche Dynamik in der KI-Forschung sieht.
Die Angst verbreitet sich. Der Verfasser hofft, dass seine Stimme Teil des Gegenwiderstandes sein kann.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.