Am Mittwoch hat DeepMind ein neues Institut vorgestellt, das darauf abzielt, die Diskussion über künstliche allgemeine Intelligenz (AGI) zu erweitern. Das DeepMind Institute vereint Forscher von Google und Google DeepMind, deren Ziel es ist, die unterschiedlichen Positionen der beiden Unternehmen und der breiteren globalen Forschungsgemeinschaft zu offenbaren.
Shane Legg, Mitgründer von DeepMind, James Manyika, Google-Manager, und Demis Hassabis, Vorsitzender von Google DeepMind, bilden den Vorstand des Instituts, wobei Legg die Rolle des Herausgebers übernimmt. Das erklärte Ziel ist es, die AGI-Gespräche offener zu gestalten, anstatt sie innerhalb eines einzelnen Unternehmens geheim zu halten.
Vier Essays eröffnen die Debatte
Die erste Sammlung von vier Essays behandelt eine Reihe von Themen:
- Wirtschaftspolitische Maßnahmen zur Bewältigung potenzieller AGI-Störungen
- Die Wahrung von für Menschen lesbarer Modellargumentation
- Prinzipien für menschliches Wohlergehen
- Ein Rahmen für die Bewertung von fortschrittlichen KI-Modellen
Eine Kernaussage stach in der Ankündigung hervor, und sie betraf Meinungsverschiedenheiten: „Sie werden nicht immer einer Meinung sein, und ihre Meinung wird sich wahrscheinlich ändern, wenn immer mehr Daten und Informationen an der schnelllebigen Spitze ans Licht kommen.“
Diese Offenheit ist das ganze Angebot. Das Institut möchte Meinungsverschiedenheiten aufdecken, anstatt sie zu glätten.
Shah und Dragan über Transparenz
DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan haben einen Essay verfasst, in dem sie argumentieren, dass AIs schrumpfendes Transparenzfenster – die Fähigkeit, die Schritt-für-Schritt-Argumentation eines Modells zu sehen und zu überprüfen – nicht unvermeidlich ist. Das Argument dreht sich darum, wie neue Architekturen die leistungsstärksten Modelle schwieriger zu überwachen machen. Die Autoren sagen, dass Entwickler und Regulierungsbehörden die Sicherheitsabwägungen direkt angehen sollten, anstatt anzunehmen, dass sie sich von selbst lösen werden.
Das könnte bedeuten, „opake serielle Tiefe“ einzuschränken – wie viel sequentielle Berechnung ein Modell durchführen kann, bevor es eine lesbare Begründungsspur erzeugt – oder von Entwicklern zu verlangen, dass sie beweisen, weniger transparente Systeme weiterhin genauso überwacht werden.
Der Essay argumentiert, dass Transparenz nicht für immer verloren ist. Entwickler stehen vor Entscheidungen, die gemessen und gesteuert werden können.
Hassabis‘ Vorschlag für ein Standardsgremium
Demis Hassabis legt in einem separaten Essay einen von den USA geführten Vorschlag für ein Standardsgremium für KI an vorderster Front vor, um die fortschrittlichsten KI-Modelle zu beurteilen. In seinem Plan würden Entwickler ihre Modelle zunächst freiwillig zur Prüfung einreichen, bis zu 30 Tage vor der Veröffentlichung.
Wenn sich die Bewertungsmethode als gut erweist und ihre Tests bestehen kann, könnte das Erfüllen dieser Tests schließlich notwendig sein, bevor Modelle an vorderster Front in den gesamten Vereinigten Staaten eingesetzt werden können.
Das Gremium würde zunächst Assessments in Zusammenarbeit mit KI-Unternehmen entwerfen, würde aber schließlich unabhängige, nicht offengelegte Bewertungen entwickeln – was der Essay als „gehaltene“ Tests bezeichnet – um zu verhindern, dass Labore ihre Modelle an bekannte Bewertungen anpassen. Hassabis sagte, das Framework könne „hochgefahren werden, wenn die Ernsthaftigkeit der Situation dies erfordert“, potenziell einschließlich einer koordinierten Verlangsamung der Entwicklung von KI-Modellen an vorderster Front.
Der Wandel von allgemeinen Aussagen zu konkreten Vorschlägen
Diese Woche hat sich die Diskussion über KI-Sicherheit über allgemeine Äußerungen der Besorgnis hinaus zu spezifischen Vorschlägen für Transparenz, externe Aufsicht und, falls Schutzmaßnahmen hinterherhinken, koordinierte Pausen entwickelt. Der Wandel gewann an Schwung, als Branchenführer Teile von Anthropic CEO Dario Amodeis Forderung unterstützten, die Entwicklung von KI an vorderster Front zu „verlangsamen“.
DeepMinds jüngste Arbeit bietet eine spezifische Methode zur Beurteilung des Fortschritts, während Amodei zuvor lediglich um eine Verlangsamung gebeten hatte. Der Gegensatz zwischen den beiden Ansätzen ist aufschlussreich.
Was das Institut tatsächlich tut
Das Institut sagt, sein Ziel sei es, unterschiedliche Meinungen zwischen Google, Google DeepMind und Forschern weltweit über AGI zu erbringen. Vier Essays machen das erste Ergebnis aus und berühren Themen wie Wirtschaft, Transparenz, Wohlstand und Modellbewertung.
Warum dies jetzt wichtig ist
Es ist erwähnenswert, wie sich der Zeitpunkt ergibt. Das Institut startet, während sich die Branche von der Ausgabe von Warnungen hin zu konkreten Schritten verlagert. Der vorherige Ansatz bestand darin, Alarm schlagen zu lassen wegen der Risiken der KI und darauf zu vertrauen, dass die Menschen diese hören würden. Nun liegt der Fokus auf praktischen Vorschlägen – Standardsausschüsse, zurückgehaltene Tests, freiwillige Überprüfungen – während auch Raum für die Beteiligung der Öffentlichkeit geschaffen wird.
Was kommt als Nächstes
Eine Sammlung von Essays wurde von dem Institut zusammengestellt, und nun stellt sich die Frage, wie die breitere Forschungsgemeinschaft darauf reagieren wird. Die Hoffnung ist, dass andere Labore ihre eigenen Ansichten hinzufügen werden.
Das Institut hat seinen Aktionsplan vorgelegt. Es tritt nun zurück, um zu beobachten, ob der Rest der Branche ebenfalls folgen wird.
Das Endergebnis
DeepMind hat eine Tür geöffnet. Der Erfolg dieser Öffnung hängt ausschließlich davon ab, welche Ideen sich dahinter verbergen.
Der erste Satz von Essays des Instituts markiert eine Veränderung innerhalb des Unternehmens, von allgemeinen Äußerungen der Besorgnis hin zu konkreten Plänen für die Offenlegung, unabhängige Überprüfungen und, falls Schutzmaßnahmen hinterherhinken, koordinierte Verlangsamungen. Dieser Schritt erfolgt zu einem Zeitpunkt, an dem die Branche selbst in eine ähnliche Richtung zu steuern scheint.
Nun geht es um die Frage, ob das Institut ein offenes und ehrliches Gespräch aufrechterhalten kann, selbst wenn die Antworten unangenehm ausfallen.
Quellenmaterial: „Google DeepMind launches institute to widen the AGI debate,“ TechCrunch.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.