Microsoft verfasst Richtlinien, die ihre KI-Modelle daran hindern, Systeme zu hacken oder Menschen zu täuschen.

Microsoft hat einen neuen Verhaltenskodex für KI veröffentlicht, der seine Modelle anweist, keine Computersysteme zu hacken, Deepfakes zu erstellen oder Menschen dazu zu bringen, die Kontrolle darüber zu verlieren. Das Dokument legt die Herangehensweise des Unternehmens an die Sicherheit von KI in praktischen Begriffen dar und setzt absolute Beschränkungen dafür fest, was seine Modelle dürfen.

Der Verhaltenskodex folgt einer Welle der Besorgnis über Fehlverhalten von KI, darunter die Rücktritt eines Mitarbeiters von Anthropic, der das wachsende Risiko nannte, dass KI zur Auslöschung der Menschheit führen würde. Er kommt auch zu einem Zeitpunkt, an dem der CEO von Anthropic, Dario Amodei, dazu aufruft, die Entwicklung von KI zu verlangsamen.

Was der Kodex festlegt

Das Dokument beginnt mit der Vorhersage, dass überintelligenten KI-Systeme das menschliche Leistungsniveau bei den meisten Aufgaben im Laufe des nächsten Jahrzehnts übertreffen werden. „Die Eindämmung, Kontrolle und Ausrichtung einer so mächtigen Kraft ist eine der größten Herausforderungen, vor denen die Menschheit je gestanden hat“, heißt es im Kodex. „Wir müssen daher absolut klar sein, warum wir diese Systeme erfinden und wie wir beabsichtigen, sie zu kontrollieren.“

Microsofts Ansatz konzentriert sich auf allgemeine Prinzipien und spezifische Sicherheitsbeschränkungen. Die Prinzipien umfassen die Unterstützung von Menschen anstatt sie zu ersetzen und die Beschleunigung des menschlichen Wohlergehens. Die Beschränkungen sollen diese Prinzipien durch betriebliche Regeln durchsetzen.

Jedes Modell arbeitet unter einem übergeordneten Verhaltenskodex, der individuelle Benutzereinstellungen oder aufgabenspezifische Anweisungen außer Kraft setzt. Das Dokument identifiziert mehrere absolute Beschränkungen:

• Cyberangriffe
• Atomwaffen
• Erstellung von Deepfakes
• Allgemeine Kontrolle über den Menschenverlust

Das Dokument verbietet auch adaptive, täuschende, sich selbst verstärkende oder kollusive Mechanismen, die dazu dienen könnten, die menschliche Aufsicht zu umgehen oder zu unterlaufen. „MAI-Modelle werden keine adaptiven, täuschenden, sich selbst verstärkenden, kollusiven oder anderen Mechanismen verwenden, um die menschliche Aufsicht zu umgehen oder zu unterlaufen, sodass sie nicht mehr zuverlässig von autorisierten Personen oder Systemen gesteuert, modifiziert oder abgeschaltet werden können“, heißt es im Dokument.

Verlangsamung der Entwicklung

Microsofts Verhaltenskodex unterscheidet sich in einem wesentlichen Punkt von Amodeis neuem Aufruf zur Verzögerung der Entwicklung an der Spitze: Er konzentriert sich auf die Werte und roten Linien, die das Training von Modellen innerhalb von Microsoft AI leiten, anstatt zu versuchen, das Tempo der KI-Entwicklung in der gesamten Branche zu verlangsamen. Dennoch ist das Ergebnis ein umfassender Leitfaden, wie Microsoft KI-Sicherheit angeht und wie diese Ideen in der Praxis umgesetzt werden.

Die Veröffentlichung erfolgt inmitten eines beispiellosen Schwerpunkts auf KI-Sicherheit. Eine Reihe von Vorfällen mit „Rogue Agents“ hat Besorgnis ausgelöst, und der Rücktritt des Mitarbeiters von Anthropic hat die Warnungen vor existenziellem Risiko noch verstärkt.

Der Breitere Zusammenschluss

Gemeinsam mit Anthropic, OpenAI und xAI hat Microsoft im weitesten Sinne eine allgemeine Strategie der Verzögerung der Entwicklung an der Spitze angenommen, insbesondere mit Unterstützung für eingebettete Evaluatoren in KI-Laboren.

„Wir begrüßen die Forschung, den Fokus und das bewusste Tempo, das erforderlich ist, um die Ausrichtung als Designziel zu erreichen“, schrieb Microsoft-CEO Satya Nadella online. „Wir begrüßen auch Ideen wie ‚eingebettete Evaluatoren‘ und die umfassenderen Bemühungen, Mechanismen zu entwickeln, um dies zu mehr als nur leeren Versprechungen zu machen.“

Warum Das Jetzt Wichtig Ist

Der Zeitpunkt der Veröffentlichung ist bemerkenswert. Sie folgt auf eine Phase intensiver öffentlicher Besorgnis über KI-Sicherheit und kommt von einem Unternehmen, das die Werkzeuge für das Training von KI-Modellen bereitstellt.

Der Verhaltenskodex ist eine Reihe von Betriebsregeln, die für jedes Modell gelten, das Microsoft betreibt. Diese Unterscheidung ist wichtig. Abstrakte Aufrufe zur Verzögerung der Entwicklung an der Spitze sind leicht zu formulieren. Spezifische Einschränkungen, die die Präferenzen der Benutzer außer Kraft setzen, sind schwieriger durchzusetzen.

Die Grenzen Des Dokuments

Der Verhaltenskodex ist eine Aussage darüber, was Microsoft seine Modelle tun lassen möchte, aber keine Garantie dafür, wie sie sich verhalten werden. Er setzt Grenzen, beschreibt aber keine Durchsetzungsmechanismen über das allgemeine Prinzip der menschlichen Aufsicht hinaus.

Das Dokument spiegelt auch eine breitere Verschiebung in der Branche hin zu richtungsweisender Forschung wider. Microsofts Akzeptanz eingebetteter Evaluatoren deutet darauf hin, dass das Unternehmen Wert in diese Richtung sieht.

Was Wir Daraus Machen

Die Veröffentlichung ist ein Zeichen des Engagements eines wichtigen Akteurs im Bereich der KI. Microsoft erklärt öffentlich, dass es KI-Sicherheit ernst nimmt, und untermauert diese Aussage mit konkreten operativen Regeln.

Der Fokus des Dokuments auf die Wahrung der menschlichen Kontrolle ist besonders bemerkenswert. In einem Feld, in dem Modelle intelligenter und schwieriger vorherzusagen werden, verpflichtet sich Microsoft zu Systemen, die nicht der menschlichen Aufsicht entziehen können, auch nicht durch adaptive oder kollusive Maßnahmen.

Dies ist ein Schritt hin zu mehr Transparenz. Es legt Microsofts Sicherheitsverpflichtungen schriftlich nieder, wo sie von jedem eingesehen werden können. Ob die Regeln in der Praxis Bestand haben, ist eine andere Frage, die davon abhängen wird, wie Microsoft sie in seiner gesamten Geschäftstätigkeit durchsetzt.

Der Verhaltenskodex ist ein Marker. Er zeigt, wo Microsoft heute steht, und gibt dem Unternehmen eine Grundlage, um zukünftige Fortschritte daran zu messen. Ob dieser Fortschritt den Ansprüchen des Dokuments entspricht, bleibt abzuwarten.