Mistral AI, ein französisches KI-Labor, hat ein multimodales Modell mit einer Billion Parametern veröffentlicht. Das Unternehmen positioniert sich als eine Mittelposition in der KI-Industrie, zwischen zwei Gruppen: geschlossenen Modellen, die abgeschaltet werden können, und Open-Source-Modellen, die häufig aus China stammen.
Das Modell, mit dem Namen Mistral Large 4 (ML4) und dem Spitznamen Le Chonk, wurde am Dienstag angekündigt. Es folgt einer Aussage des französischen Präsidenten Macron, der eine „dritte Möglichkeit in der KI“ beschrieben hat. Mistral positioniert ML4 als eine Alternative zu amerikanischen und chinesischen Rivalen.
Das Problem des Chonks mit dem Gewicht
Die ML4-Gewichte sind zum jetzigen Zeitpunkt nicht öffentlich zugänglich. Stattdessen können sie derzeit über einen öffentlichen Guardrail-Endpunkt erreicht werden. Sobald die Sicherheitstests abgeschlossen sind, wird Mistral die Gewichte innerhalb von drei Wochen veröffentlichen.
VP Science Pierre Stock sagte TechCrunch, dass das Unternehmen mit vertrauenswürdigen Partnern und Regierungen zusammenarbeiten werde, bevor die Gewichte veröffentlicht werden. „In der Zwischenzeit werden wir mit vertrauenswürdigen Partnern und Regierungen zusammenarbeiten, um sicherzustellen, dass die Open-Source-Gewichte zur Verteidigung verwendet werden können, aber nicht [für] böswillige Angriffe“, sagte er.
Sicherheit und der Kompromiss beim offenen Gewicht
Die Sicherheitsbedenken haben unter Mistrals wichtigstem Publikum – Unternehmen und Institutionen – zugenommen, während Stock darauf hinwies, dass ein Design mit offenem Gewicht einfacher zu überprüfen ist.
Mistral möchte zwei Dinge gleichzeitig bewahren. Eine Seite ermöglicht es, ein Modell auszuschalten. Die andere Seite ermöglicht es, es für eine genaue Inspektion zu öffnen. Jede Wahl gibt etwas auf. Geschlossene Modelle können eingesteckt werden, während Open-Source-Modelle eingehend untersucht werden können.
Training auf 4.000 Nvidia GPUs
Laut Stock hat Mistral ML4 unter Verwendung seiner eigenen Hardware entwickelt, wobei nur 4.000 Nvidia GPUs in den Trainingsprozess einbezogen wurden. Diese Zahl entspricht zwei- bis dreimal weniger GPUs als von chinesischen Rivalen verwendet werden, und sie reicht auch nicht aus für die Anzahl der von Closed-Source-Konkurrenten eingesetzten GPUs.
Mistrals Effizienzanspruch sticht hervor. Das Unternehmen argumentiert, dass es ein Top-Modell mit deutlich weniger Ressourcen trainieren kann als seine Konkurrenten benötigen.
Benchmark-Ergebnisse ausstehend
Mistral erwartet weiterhin Benchmark-Ergebnisse für sein ML4-Modell, von dem das Unternehmen glaubt, dass es zu den leistungsstärksten Open-Weight-Modellen gehören wird, insbesondere außerhalb Chinas. Es argumentiert außerdem, dass das Modell in bestimmten Bereichen möglicherweise die Leistung von Closed-Modellen übertreffen könnte, in denen multimodale Fähigkeiten einen Mehrwert bieten können.
Stock wies auf mehrere optimierte Anwendungsfälle hin:
| Anwendungsfall | Beschreibung |
|---|---|
| Cybersecurity | Kernbedürfnis der Kunden |
| Finance | Kernbedürfnis der Kunden |
| Chipdesign | Schlüssel für die Unterstützung durch ASML und Samsung |
Die Unterstützer hinter Le Chonk
Zwei der wichtigsten Unterstützer von Mistral sind der niederländische Gigant ASML, der seine Series C anführte, und Samsung, das seine Series D im letzten Monat mit einer Bewertung von 21 Milliarden Euro (etwa 24,39 Milliarden US-Dollar) anführte.
Das Unternehmen versuchte während dieser Finanzierungsrunde zu kommunizieren, dass das Hosting chinesischer Modelle keine Abwendung davon ist, lediglich ein Inferenz-Anbieter zu werden. Es glaubt, dass es mit Le Chonk an seiner Seite immer noch als ein Spitzenlabor betrachtet werden kann.
Was das für Open Source bedeutet
Stock präsentierte den Ansatz als eine gemeinsame Anstrengung, bei der vertrauenswürdige Partner und Regierungen zusammenarbeiten. Die Gewichte werden erst nach Abschluss der Tests freigegeben, nicht vorher.
ASML führte Mistrals Series C an, während Samsung ebenfalls stark investiert hat. Beide können von einem Modell profitieren, das bei der Chipentwicklung gut funktioniert.
Das Urteil über Le Chonk
Mistral wird als ein Labor präsentiert, das in der Lage ist, ein erstklassiges Modell mit weniger Ressourcen zu trainieren als seine Rivalen, jedoch werden seine Gewichte unter Bewachung zurückgehalten, bis die Tests abgeschlossen sind.
Es wurde bereits eine Kreation geschaffen. Ihre Prüfung beginnt nun. Abzuwarten bleibt, ob die Zahlen, die sie bestimmen, ohne jede Verschleierung kommen.
Eine Billion Parameter, ein französischer Spitzname und ein Labor, das eine dritte Möglichkeit in der KI anbieten will: Diese Kombination bildet die Idee hinter Le Chonk, die sich zu der Bezeichnung für den Umfang seiner Ziele entwickelt hat.
Quelle: „Mistrals neues 1T-Modell zielt darauf ab, geschlossene und Open-Source-Konkurrenten zu überholen“, TechCrunch.
Das Notizbuch abonnieren.
Die besten Geschichten des Tages und jedes neue Urteil, in klarem Deutsch, um sieben im Postfach. Eine Mail am Tag, nicht mehr.