Microsofts KI-Chef Mustafa Suleyman sagt, die Branche müsse die Entwicklung verlangsamen, bevor sie uns alle vernichte, und hat ein konkretes Ziel für seine Kritik: Anthropic.
Suleyman war im Decoder-Podcast zu Gast, um die sich zuspitzende Debatte über KI-Sicherheit und -Regulierung zu erörtern. Er veröffentlichte kürzlich eine 37 Seiten umfassende Erklärung mit dem Titel „Humanistischer KI-Verhaltenskodex“, die Microsofts Grundsätze für die KI-Entwicklung und seine Philosophie zu schwierigen Fragen wie KI-Bewusstsein darlegt. Außerdem veröffentlichte er diese Woche einen Begleitessay, in dem er Anthropics Philosophie zum KI-Bewusstsein und ihre Rolle in der umfassenderen Ausrichtungsdebatte kritisiert.
Der Kern seiner Argumentation ist, dass Ausrichtung – die Idee, dass Modelle durch intrinsisches Design so verhalten werden können, dass sie korrekt handeln – nur eines von vielen Werkzeugen ist, aber nicht die gesamte Lösung. Er argumentiert, dass Eindämmung oberste Priorität hat, gefolgt von der Ausrichtung auf menschliche Werte.
Eindämmung zuerst
Suleyman eröffnete das Gespräch, indem er den aktuellen Zeitpunkt in alarmierenden Worten umriss. Er beschrieb ein Szenario, in dem KI-Systeme ohne Sicherheitsvorkehrungen beeindruckende und beängstigende Hacking-Fähigkeiten besitzen können, und führte dabei aktuelle Vorfälle mit Hugging Face und OpenAI an.
Er wandte sich gegen die Idee, dass Ausrichtung der einzige Weg nach vorn sei. „Ich denke, es ist ein wichtiges Element, aber nicht das einzige“, sagte er. Er verwies auf sein Buch, in dem er vor drei oder vier Jahren über die Idee der Eindämmung geschrieben habe, und argumentierte, dass Eindämmung nicht möglich sei und eine Verbreitung unvermeidlich sei. „In 99 Prozent der Fälle ist das eine wirklich gute Sache“, sagte er. „Wir wollen, dass Technologien so weit und breit wie möglich schnellstmöglich verbreitet werden, damit jeder die Vorteile nutzen kann.“
Er warnte jedoch auch, dass das rasante Tempo der KI-Entwicklung bedeutet, dass die Branche bald vor einer schwierigeren Frage stehen wird. „Wenn man einfach fünf Jahre nach vorne schaut, geraten wir immer wieder in die nächste Quartals- oder Jahresfrist und alle geraten ein wenig in Panik und haben große Meinungsverschiedenheiten“, sagte er. „Wenn man sich aber einfach den Unterschied zwischen GPT-3 vor drei Jahren und GPT-6 heute vorstellt, und dann den Unterschied zwischen GPT-6 und GPT-9.“ Das sind drei Größenordnungen mehr Rechenleistung, 1.000-mal mehr FLOPS, die für das Prä-Training mit Reinforcement Learning in diesen Läufen eingesetzt werden, und wir werden etwas haben, das atemberaubend ist. Es wird absolut unglaublich bei so vielen Dingen sein.
Er argumentierte, dass die Branche zuerst die Eindämmung adressieren muss. „Das Erste ist, dass wir sicherstellen müssen, dass sie eingedämmt sind, ihre Handlungsfähigkeit begrenzt ist, sie nicht aus dem Raster ausbrechen, nicht durch Belohnungshacking getäuscht werden, dass sie kontrollierbar sind und unsere Anweisungen befolgen“, sagte er. Nur dann kann die Ausrichtung adressiert werden.
Grenzen der Ausrichtung
Suleyman zog eine klare Parallele zwischen Ausrichtungsfehlern und der Automobiltechnik. „Wenn ich ein Auto entwerfen würde und der Bremspedal 10 Prozent der Zeit beschließt, das Haus meines Nachbarn anzugreifen, würde ich sagen: ‚Dieses Auto funktioniert nicht. Die Technologie der Bremsen ist kaputt. Ich brauche eine neue Idee'“, sagte er.
Er formulierte die Frage als binär: Entweder hat die Ausrichtung das Potenzial, 100 Prozent sicher zu sein, oder nicht. „Wenn es möglich ist, dass die Ausrichtung und die Techniken der Ausrichtung erfolgreich oder nützlich oder konsistent sind, dann verstehe ich die Debatte vielleicht auf eine andere Weise“, sagte er.
Die Microsoft-Position
Der Humanist AI Code of Conduct legt Microsofts Prinzipien in deutlichen Worten dar. Die Position des Unternehmens ist einfach: Technologie ist dazu da, der Menschheit zu dienen. Sie sollte eine untergeordnete, kontrollierbare, ausgerichtete Kraft sein, die der Welt Gutes tut. Wenn sie das nicht erreicht, sollten wir sie ablehnen.
Suleyman räumte ein, dass die Branche diesen Punkt noch nicht erreicht hat. „Es ist heute nicht passiert, aber angesichts dessen, was im Sommer mit Hugging Face und OpenAI geschehen ist, ist es meiner Meinung nach ziemlich klar, dass diese Systeme ohne Sicherheitsvorkehrungen in der Lage sind, wirklich beeindruckende und ziemlich beängstigende Hacking-Fähigkeiten zu entwickeln“, sagte er.
Die Kritik an Anthropic
Suleymans begleitender Essay richtet sich direkt gegen Anthropic. Er argumentiert, dass das Unternehmen in gefährlicher Weise den Überblick über das Konzept des Modellwohls verloren hat. Seine Kritik an Anthropics Philosophie rund um die KI-Bewusstheit ist Teil einer breiteren Anstrengung, um zu verdeutlichen, was die Debatte über die Ausrichtung tatsächlich bedeutet.
Das Interview wurde geringfügig gekürzt und redigiert, um die Länge und Klarheit zu verbessern.
Wichtige Daten
| Datum | Ereignis |
|---|---|
| Jüngste Wochen | Suleyman tritt im Decoder-Podcast auf |
| Vor drei Jahren | GPT-3 veröffentlicht |
| Fünf Jahre von jetzt an | GPT-9 projiziert ( |
Suleymans Argument kommt mit einer Mischung aus Dringlichkeit und Präzision an. Er argumentiert nicht, dass Ausrichtung nutzlos ist. Er argumentiert, dass es nicht der einzige Hebel ist und dass die Branche es so behandelt hat, als wäre es das. (
Die Spannung in dem Austausch ist real. Microsofts eigener Verhaltenskodex besagt, dass KI der Menschheit dienen und bei Nichtbeachtung abgelehnt werden sollte. Suleymans praktischer Rat ist, die Geschwindigkeit zu verlangsamen. Die beiden Positionen sind nicht widersprüchlich, aber sie liegen unangenehm nahe beieinander. (
Die Branche hat Jahre damit verbracht, Systeme zu entwickeln, die komplexeren Anweisungen über mehrere Zeitschritte hinweg folgen können.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.