Die heutige Ausgabe des Newsletters mit dem Titel „The Download“ landete als Werktags-Update zu KI in den Posteingängen der Leserinnen und Leser und beginnt mit einer Frage, die eher wie eine Schlagzeile als wie eine Einladung zur Antwort klingt: Könnte KI uns wirklich alle umbringen? Der Newsletter antwortet darauf, die Frage kursiere weit und breit – und der Publikation gehe inzwischen der Platz aus, um sie zu behandeln.
Die Runde, die zu lange dauerte
Die Frage, ob KI die Menschheit tatsächlich vernichten könnte, war Thema einer Live-Veranstaltung der Reihe Roundtables, die MIT Technology Review am Mittwoch abhielt. Die Zusammenkunft brachte mehr Anfragen hervor, als in der vorgesehenen Zeit behandelt werden konnten, was den Newsletter dazu veranlasste, den leitenden KI-Redakteur Will Douglas Heaven und die KI-Reporterin Grace Huckins einzuladen, auf mehrere der bemerkenswertesten zu antworten.
Zu den Fragen, die sie zu beantworten suchten, gehören: Werde ich sterben? Warum sollte KI uns umbringen wollen, wenn sie es überhaupt tut? Ist KI wirklich gefährlich, oder erzeugen bloß Tech-Unternehmen Publicity? Und welche Maßnahmen können ergriffen werden, um sicherzustellen, dass KI ordnungsgemäß kontrolliert, überwacht und reguliert wird?
Die dunkle Wende der Biotech
Eine der Möglichkeiten, wie KI potenziell katastrophalen Schaden anrichten könnte, ist die Unterstützung bei der Entwicklung und Herstellung von Biowaffen. Im Jahr 2022 fanden Forschende heraus, dass dies mit einem KI-„Molekülgenerator“, der für die Entwicklung von Medikamenten gebaut wurde, bemerkenswert einfach war. In weniger als sechs Stunden erzeugte das Modell 40.000 Moleküle, die als chemische Kampfstoffe dienen könnten.
Nahezu jedes Feld der Wissenschaft verfügt heute über KI-Werkzeuge, die Fragen beantworten können, und Genbearbeitung und synthetische Biologie haben Biotech-Werkzeuge zugänglicher gemacht. Es gibt Schutzvorkehrungen, doch keine davon ist narrensicher. Wissenschaftlerinnen und Wissenschaftler sind sich nicht einmal darüber einig, wie gravierend das Risiko tatsächlich ist.
Die Geschichte stammt aus The Checkup, der wöchentlichen Biotech-Ausgabe des Newsletters.
Die Astronautenfrage
Die Gründe, aus denen wir ins All aufbrechen, reichen von nationalem Stolz bis zu einem Gefühl göttlicher Bestimmung, von Wissensdurst bis zu finanziellem Gewinn. Nach dem Start von Artemis II argumentieren eine Reihe neuer Bücher, dass all diese Begründungen auf eine einzige zugrunde liegende Wahrheit hinauslaufen: Menschen haben einen angeborenen Drang zu wandern, und dieser Impuls treibt uns nach draußen.
Deana L. Weibel, eine Weltraumanthropologin, eröffnet The Ultraview Effect mit der Darstellung der menschlichen Weltraumerkundung als einer Form der Pilgerfahrt. Eiman Jahangir, eine zivile Astronautin, schildert anschließend in A Heart for Space ihre eigene Reise mit Blue Origin. Leroy Chiao, ein ehemaliger NASA-Astronaut, beschließt das Trio in Dinner with an Astronaut mit dem Argument, die Menschen müssten einfach „wissen, was auf der anderen Seite ist“.
Alle drei Autoren tragen zu dem Argument bei, dass es beim Weltraumreisen nicht bloß um Nationalstolz oder wissenschaftliche Forschung geht, sondern um etwas Tieferes in der menschlichen Natur, und sie tun dies als Teil einer Welle neuer Literatur über den Weltraum.
The Must-Reads List
Eine Auswahl von Schlagzeilen der vergangenen Woche wurde in einer einzigen Sammlung zusammengestellt, die von alarmierenden Einträgen bis zu solchen reicht, die absurd sind. Die vollständige Liste lautet wie folgt:
| Position | Schlagzeile |
|---|---|
| 1 | Beschäftigte von Microsoft und OpenAI sagen, KI zerstöre das Web |
| 2 | Roboterschiffe haben erstmals gegeneinander gekämpft |
| 3 | Sicherheitsforscher drangen unter Verwendung von Anthropics Werkzeugen in OpenAI ein |
| 4 | OpenAI erwartet Berichten zufolge, bald ein weiteres berühmtes Matheproblem zu knacken |
| 5 | Elon Musks SpaceXAI will Daten von gescheiterten Start-ups kaufen |
| 6 | Schulen wehren sich gegen die Übernahme der Klassenzimmer durch Big Tech |
| 7 | Hacker haben enthüllt, wie Flock-Kameras Autos – und Menschen – verfolgen |
| 8 | Chinesische Firmen verstärkten ihre Wissenschaft nach US-Technologiebeschränkungen |
| 9 | Der Krebs eines dreijährigen Kindes verschwand nach einer experimentellen Zelltherapie |
| 10 | New Yorks neue Robotertoiletten werfen dich nach 10 Minuten hinaus |
Das Line-up enthält Material hinter einer Bezahlschranke, darunter den Nature-Artikel über chinesische Unternehmen, die ihre Wissenschaft verstärken. Die New York Times, das Wall Street Journal, die Financial Times, The Information, Bloomberg, Wired und Fast Company tauchen hier alle auf, sodass jeder, der diesen Links folgt, irgendwann ein Abonnement benötigen wird.
In der gesamten Liste taucht Gizmodo zweimal auf, während MIT Technology Review selbst dreimal erscheint. Dies deutet darauf hin, dass die eigene Berichterstattung des Newsletters in dieser Ausgabe erhebliches Gewicht hat, obwohl er die Leser meist auf andere Medien lenkt.
Das Zitat von Brent Hecht
„Der größte Diebstahl von Arbeit in der Geschichte der Menschheit.“
Brent Hecht, Microsofts Direktor für Angewandte Wissenschaft, äußert Bedenken hinsichtlich der Trainingsdaten, die von KI-Systemen verwendet werden, in Äußerungen, die durch Gerichtsunterlagen aus dem Urheberrechtsprozess der New York Times gegen OpenAI öffentlich wurden. Diese spezielle Aussage steht in einem Newsletter-Abschnitt mit dem Titel „One more thing“, einem eigenständigen Bericht, der nicht mit der Hauptzusammenstellung verbunden ist.
Was das Zitat hervorhebt, ist, dass es von einer namentlich genannten Person stammt, die sich einprägsam äußert, und dass es auf die Quelle des Konflikts hinweist – den Urheberrechtsstreit zwischen der Times und OpenAI. Der Newsletter bietet keine Erklärung, worin der Diebstahl von Arbeit besteht, noch wie Hecht ihn definiert; er merkt lediglich an, dass er die Sorge in Gerichtsunterlagen geäußert hat.
Das Vera-C.-Rubin-Observatorium
Die Ausgabe des Newsletters schließt mit einer Anmerkung über das Vera-C.-Rubin-Observatorium, das bereit ist, unser Verständnis des Kosmos zu verändern. Hoch oben auf Chiles 2.700 Meter hohem Cerro Pachón ist die Luft klar und trocken, sodass nur wenige Wolken den wunderschönen Blick auf die Sterne versperren. Das Observatorium verwendet eine auto-große digitale Kamera mit 3.200 Megapixeln – die größte, die je gebaut wurde –, um alle drei Tage eine neue Karte des gesamten Nachthimmels zu erstellen.
Jede Nacht produziert das Observatorium 20 Terabyte an Daten, während es über 10 Jahre hinweg Milliarden neuer Objekte katalogisiert. Dieser Ausstoß an Daten stellt eine bemerkenswerte Leistung dar, und er erinnert daran, dass das Universum viele Geheimnisse birgt, die ganz ohne künstliche Intelligenz angegangen werden können.
Die Ausgabe lässt die eigenen Fragen des Newsletters unbeantwortet. Die Debatte über das Risiko von Biowaffen geht weiter. Die Astronautenbücher liefern einen menschlichen Kontext für die Raumfahrt. Was das Web betrifft, so scheint es aufgrund von KI auseinanderzufallen – obwohl das die Behauptung von Mitarbeitern von Microsoft und OpenAI ist.
Diese dichte Ausgabe von The Download wirft ernste Fragen zum Aussterberisiko durch KI und zu Biowaffenbedrohungen auf, und sie zahlt sich am meisten aus, wenn Leser sich Zeit für sie nehmen. Meistens weisen die Antworten woandershin, auf andere Publikationen. Ob dieser Ansatz als Stärke oder Schwäche zählt, hängt ganz davon ab, was der Leser zu finden hofft.
Eine Zusammenfassung der Technologienachrichten der Woche mit den wichtigsten, beängstigendsten und faszinierendsten Geschichten ist genau das, was der Newsletter bietet. Er versucht nicht, als eigenständige Publikation durchzugehen; stattdessen weist er Leser einfach darauf hin, was sie als Nächstes lesen sollten, und diese Aufgabe erfüllt er äußerst gut.
Quellenmaterial: „The Download: AI’s extinction risk and bioweapons threat“, MIT Technology Review.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.