Anthropic hat Accenture als ersten eingebetteten Evaluator gewonnen, um Dario Amodeis Plan, die Entwicklung von KI zu verlangsamen, in die Tat umzusetzen. Die Vereinbarung ermöglicht es Anthropic, weiterhin nach anderen Evaluatoren zu suchen, während das Unternehmen erwartet, in den kommenden Wochen weitere Partner bekannt zu geben.
Amodei veröffentlichte am 12. September einen dreistufigen Vorschlag zur Verlangsamung der KI-Entwicklung und zur Schaffung von Zeit für die Einführung von Schutzmaßnahmen, eine Maßnahme, die angesichts von Warnungen vor katastrophalen Gefahren durch rasante, ungeprüfte Fortschritte ergriffen wurde. OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk reagierten positiv auf den Vorschlag, während Nvidia-CEO Jensen Huang sagte, eine solche Regulierung sei nicht notwendig.
In seinem Vorschlag schrieb Amodei, „KI hat sich drastisch schneller entwickelt, hauptsächlich angetrieben von der wachsenden Fähigkeit der KI, die nächste Generation von KI zu entwickeln. Diese Dynamik wird als rekursive Selbstverbesserung bezeichnet“ und „wenn sie ungeprüft bleibt, könnte sie unsere Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, übertreffen“.
Der erste Schritt des Vorschlags
Amodeis Vorschlag beginnt mit unabhängigen Evaluatoren, die Mitarbeiter-ähnlichen Zugang haben, und Anthropic hatte sich bereits dazu verpflichtet, diesen Schritt selbstständig umzusetzen, schrieb er. Das Unternehmen gab am Freitag bekannt, dass es mit Accenture und dessen KI-Tochtergesellschaft Faculty zusammenarbeiten wird, um KI-Modelle zu evaluieren, die Ausrichtung von Systemen zu bewerten und Sicherheitsfunktionen zu testen.
Die spezifischen Vereinbarungen für dieses Projekt werden noch ausgearbeitet, da eingebettete Evaluierung ein aufkommendes Arbeitsfeld darstellt. Sowohl Anthropic als auch Accenture haben sich verpflichtet, in den nächsten fünf Jahren mindestens jeweils 1 Milliarde Dollar in das Projekt zu investieren, wie in der Ankündigung angegeben.
Die Finanzierung des Aufwands
Anthropic hat darauf hingewiesen, dass es kein bestehendes System zur Finanzierung unabhängiger Evaluierung gibt. Es ist davon überzeugt, dass langfristige Unterstützung von gemeinsamen oder staatlichen Quellen kommen sollte. Angesichts der Dringlichkeit der Arbeit wird Anthropic jedoch die Arbeit von Accenture direkt bezahlen.
„Eingebettete Evaluierung ist ein aufkommendes Gebiet, und wir freuen uns darauf, mit Anthropic zusammenzuarbeiten, um die Entwicklung eingebetteter Evaluatoren zu beschleunigen, die wir als einen wichtigen Bestandteil der Sicherheitslandschaft in Zukunft sehen“, sagte Julie Sweet, Vorsitzende und CEO von Accenture.
Was die Partnerschaft abdeckt
Accenture’s Faculty ist Experte bei der Prüfung und Bewertung von Modellen für einige der weltweit führenden KI-Labore und beim Aufbau komplexer KI-Systeme, die sicher und ethisch gestaltet sind, teilte das Unternehmen am Freitag mit.
| Rolle | Unternehmen | Investition |
|---|---|---|
| Eingebetteter Evaluator | Accenture | 1 Milliarde Dollar über fünf Jahre |
| Partnerschaft mit Faculty | Anthropic | 1 Milliarde Dollar über fünf Jahre |
Anthropic’s Systeme sind so aufgebaut, dass unabhängige Evaluatoren ihre Funktionsweise prüfen können, und die Partnerschaft existiert, um sicherzustellen, dass dieser Zugang für sie erhalten bleibt.
Anthropic setzt auf Accenture’s Erfahrung bei der Bewertung und Prüfung von Modellen für große KI-Labore, was das Unternehmen für anpassbar an ein integriertes Bewertungssystem hält. Das Unternehmen glaubt, dass dieser Ansatz es ihm ermöglichen wird, seine Systeme zu erfassen und zu verwalten.
Die Entscheidung von Anthropic, Accenture direkt zu finanzieren, beruht auf dem Bekenntnis, die Arbeit jetzt umzusetzen, was zeigt, wie dringend das Unternehmen das Projekt einschätzt.
Anthropic ist nicht die einzige Einheit, die an dieser Vereinbarung teilnehmen darf, sodass das Unternehmen möglicherweise später zusätzliche Bewerter in das Programm einbeziehen wird.
Quelle: „Anthropic tabs Accenture as embedded evaluator to help with AI slowdown proposal,” Cointelegraph.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.