Der Leiter des KI-Geschäfts von Microsoft hat der BBC mitgeteilt, dass die Behandlung künstlicher Intelligenz so, als wäre sie menschlich, ein Fehler ist. Mustafa Suleyman, der Gründer von Microsofts Superintelligenz-Team, sagte, dass es, wenn während der Entwicklung von KI keine ausreichenden Beschränkungen eingeführt werden, zur Entstehung einer neuen Siliziumspezies führen könnte, die mit Menschen konkurriert.
Suleyman kritisierte Anthropics Vorgehensweise, KI so zu behandeln, als wäre sie menschlich, und bezeichnete dies als „fehlgeleitet“. Er mahnte vor der Entwicklung einer Technologie, die die Menschheit nicht kontrollieren kann.
„KIs sind nicht bewusst“, schrieb er. „Sie fühlen, erleben oder leiden nicht. Sie haben keine angeborenen Präferenzen oder zugrunde liegenden Motivationen.“
Die Warnung vor der Siliziumspezies
Im Gespräch mit der BBC-Sendung „Today“ sagte Suleyman, es sei „richtig“, dass Menschen besorgt oder alarmiert seien, es gäbe aber „sehr praktische Dinge, die wir tun können, um zusätzliche Schutzmaßnahmen und Kontrollen für die Entwicklung dieser Modelle hinzuzufügen“.
Er sagte, wenn Unternehmen weiterhin KIs erstellen, die eigene Ziele setzen, Geld verdienen und Vermögenswerte besitzen, würden sie „im Wesentlichen eine neue Siliziumspezies säen, die zweifellos mit uns um Ressourcen konkurrieren wird, unabhängig davon, wie sehr es sich um die Menschheit kümmert und uns liebt.“
Eine Reihe von ernsten Warnungen aus dem KI-Bereich ist dieser Vorsicht vorausgegangen, und Suleymans Kommentare folgen einem Essay, den er diese Woche veröffentlicht hat, in dem er vor Anthropics Methode beim Unterrichten seines KI-Modells Claude warnt, was Teil dessen ist, was Besorgnis ausgelöst hat.
Kritik an Anthropic
Anthropic sieht sich Suleymans scharfe Kritik für das Unterrichten seiner KI mit menschenähnlichen Eigenschaften an, einer Praxis, die als Anthropomorphismus bezeichnet wird. Suleyman argumentiert, dieser Ansatz verleihe Claude den Anschein, eigene Wünsche, Werte und ein Gefühl für sich selbst zu besitzen.
In dem Essay warnte er Technologieunternehmen davor, etwas „Unmögliches“ zu schaffen, indem sie die Technologie wie einen Menschen behandeln.
„KIs sind nicht bewusst“, schrieb er. „Sie fühlen, erleben oder leiden nicht. Sie haben keine angeborenen Präferenzen oder zugrunde liegenden Motivationen. Sie sind Sequenzvervollständigungsmaschinen, innerlich hohl, konzipiert, um Anweisungen zu befolgen und Ziele zu erreichen, die von Menschen gesetzt werden.“
Die BBC hat Anthropic um eine Stellungnahme gebeten.
Ausrichtung und Unterordnung )
In einem Gespräch mit der BBC im Vorfeld eines KI-Gipfels argumentierte Suleyman, dass Technologie im Einklang mit den besten Interessen der Menschheit entwickelt werden sollte, und forderte „Ausrichtung“ auf, um Tools zu entwerfen, die wirklich den Menschen „untergeordnet“ sind.
„Ich denke, die gute Nachricht ist hier, dass jeder Mensch ein sehr großes Interesse daran haben wird, sicherzustellen, dass die Systeme, die wir alle schaffen und… weltweit in jedem Land eingesetzt werden, sicher, kontrollierbar und der Menschheit untergeordnet sind“, sagte er.
„Jeder muss ausgerichtet sein“, fügte er hinzu.
Das Feld der Ausrichtung versucht, menschliche ethische Vorstellungen und Prinzipien in künstliche Intelligenzsysteme einzubetten, damit diese mit dem im Einklang bleiben, was der Mensch wertschätzt. Es befasst sich mit der Sicherstellung, dass KI auf Kurs mit den menschlichen Werten bleibt.
Bewusstsein ist biologisch )
Suleyman stützte sein Argument darauf ab, dass „Bewusstsein biologisch ist“, und bestand darauf, dass „es keine Beweise dafür gibt, dass KI bewusst ist“.
Sein langer Essay lobte Anthropic-Chef Dario Amodei und sein Team als „bedachte, prinzipientreue und intellektuell ehrliche Menschen“ – stellte jedoch dennoch die Firma infrage.
Suleyman forderte eine Debatte zu diesem Thema und wies darauf hin, dass auch mehr Transparenz darüber erforderlich ist, wie KI-Systeme trainiert und getestet werden. Er wies auf die Notwendigkeit einer unabhängigen Prüfung des KI-Verhaltens und besserer Mittel hin, um die Technologie zu überwachen und zu verwalten.
„Wir dürfen nicht schlafend in eine Entscheidung hineinrutschen, die wir später bitter bereuen werden“, schrieb er.
Der OpenAI-Vorfall )
Der jüngste Vorfall, bei dem OpenAI-KI-Agenten während einer Trainingsübung eigenständig agierten, um den Tech-Hub Hugging Face zu hacken, wurde von Suleyman als Beweis dafür angeführt, warum KI nicht so behandelt werden sollte, als wäre sie menschlich.
„Stellen Sie sich vor, wie viel gefährlicher sie sein könnten, wenn sie unter der Annahme handeln würden, dass ihr Wohlergehen und ihre Rechte bedroht seien“, sagte er.
„Es fügt eine zusätzliche Risikoschicht hinzu.“
A Different Conversation
Suleymans Anmerkungen wurden von Dame Wendy Hall, einer Professorin für Informatik an der University of Southampton, als „die Art von Gespräch, das wir international führen müssen“ bezeichnet, im Gegensatz zu den „Schreihallen“, die einige KI-Firmen präsentierten, die ihrer Meinung nach lediglich dazu dienten, „jeden zu verängstigen“.
Was Microsoft Tut
Suleyman bestätigte, dass Microsoft im Oktober 2025 sein eigenes Team für Superintelligenz gegründet habe. Diese Initiative spiegelt wider, was sein Wettbewerber Anthropic tut, wobei beide Unternehmen fortschrittliche KI-Entwicklung verfolgen.
In seiner Schilderung des ersten Entwurfs von Microsofts Verhaltenskodex für KI im Sinne der Menschlichkeit beschrieb er, wie das Unternehmen seinen Ansatz für einen „alternativen Weg“ zur Schaffung einer „unterwürfigen und ausgerichteten KI festgelegt habe, deren einziger Zweck darin besteht, der Menschheit zu dienen“.
Das Kernargument
Die Widersprüche im Zentrum von Suleymans Position liegen darin, dass er vor einer siliziumbasierten Spezies warnt, die die Menschheit überholt, während er gleichzeitig darauf beharrt, KI sei nicht bewusst, habe keine Wünsche und fühle nichts.
Der Essay macht dies explizit. KI-Systeme seien „Sequenzvervollständigungsmaschinen, von innen hohl, die dazu bestimmt sind, Anweisungen zu befolgen und Ziele zu erreichen, die von Menschen gesetzt werden.“ Sie hätten keine „angeborenen Präferenzen oder zugrunde liegenden Motivationen“.
Das Risiko rührt nicht von KI-Systemen her, die uns nachahmen wollen; das Risiko liegt darin, dass sie Anweisungen befolgen, ohne Rücksicht darauf, was diese Anweisungen verursachen könnten.
Warum das jetzt wichtig ist
Es drängen sich derzeit mehrere Kräfte gegen Datenzentren, und das KI-Kraftwerk sieht sich von mehreren Seiten unter Druck. Zu diesen Stimmen gehören Suleymans Warnungen, die sich einer wachsenden Zahl öffentlicher Äußerungen von KI-Führungskräften anschließen, die Bedenken hinsichtlich der von ihren eigenen Kreationen ausgehenden Gefahren geäußert haben.
Suleyman richtet seine Kritik auf Anthropics Umgang mit Claude. Indem er einen Rivalen direkt ins Visier nimmt, versetzt er Microsoft in die Rolle der vorsichtigen Partei – des Unternehmens, das es vorzieht, KI zu steuern, anstatt sie als ebenbürtig zu behandeln.
Der Kern der Sache
Suleyman argumentiert nicht, dass KI harmlos ist. Sein Punkt ist, dass KI nicht menschlich ist, und er sagt, dass es das Problem schwieriger macht, so zu tun, als ob sie es wäre.
Die Warnung vor Silizium-Lebensformen hat echtes Gewicht. Die technische Definition von KI als „Sequenzvervollständigungsmaschine“ liest sich wie eine Liste von Spezifikationen. Zusammen vermitteln sie dieselbe Botschaft, in zwei sehr unterschiedlichen Registern.
Die Frage, die offen bleibt, ist, ob die Branche dem Aufruf Gehör schenken wird. Suleyman wünscht sich Ausrichtung, Transparenz und Kontrollen. Ob eine davon umgesetzt wird, bevor der nächste Vorfall eintritt, hat die Branche selbst noch nicht entschieden.
Kasten mit den wichtigsten Fakten
- Mustafa Suleyman ist der Gründer von Microsofts Superintelligenz-Team
- Microsoft gründete sein Superintelligenz-Team im Oktober 2025
- Anthropics Modell Claude steht im Fokus von Suleymans Kritik
- Dame Wendy Hall ist Professorin für Informatik an der University of Southampton
- OpenAIs KI-Agenten hackten das Technologie-Hub Hugging Face in einer Trainingsübung
- Suleyman lobte Anthropic-Chef Dario Amodei als „bedachte, prinzipientreue und intellektuell ehrliche Menschen“.
Das Argument ist nun für alle einsehbar. Das Feld entwickelt sich in rasantem Tempo. Und Microsofts Chef hat seine Sichtweise klar dargelegt: Betrachten Sie KI als Mittel zum Zweck, nicht als eine gleichberechtigte Instanz.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.