Das französische KI-Unternehmen Mistral hat am 29. Oktober 2026 sein bisher ambitioniertestes Modell veröffentlicht: ML4. Mit rund einer Billion Parametern und einer Mixture-of-Experts-Architektur, bei der pro Token nur rund 49 Milliarden Parameter aktiv sind, erreicht es Benchmark-Ergebnisse auf dem Niveau der führenden US-Cloud-Modelle — und kann dennoch vollständig auf unternehmenseigener Hardware betrieben werden. Eine Kombination, die es bisher bei Frontier-Modellen dieser Größenordnung nicht gab.
Was Mistral wirklich veröffentlicht hat
ML4 basiert auf einer Mixture-of-Experts-Architektur (MoE). Das bedeutet: Das Modell hat eine nominale Größe von rund einer Billion Parametern, lädt beim Verarbeiten einer Anfrage aber nur einen Bruchteil davon in den Arbeitsspeicher — konkret etwa 49 Milliarden. Damit sinkt der Rechenaufwand pro Token erheblich, ohne die Modellqualität zu opfern.
Auf dem Coding Agent Index erreicht ML4 laut heise.de 48 Prozent — damit liegt es auf dem Niveau von GLM-5.3. Beim CyberGym-E2E-Benchmark, der KI-Agenten in Cybersecurity-Aufgaben misst, erzielt es 79 Prozent und befindet sich damit auf Augenhöhe mit MiMo-V2.6-Pro. Beide Referenzmodelle gehören zur aktuellen Spitze im jeweiligen Bereich.
Technisch vorausgesetzt werden vier Nvidia-GB300-GPUs in FP4-Quantisierung. Das ist eine anspruchsvolle Hardware-Anforderung — für Forschungseinrichtungen und größere Mittelständler mit eigenem Rechenzentrum aber grundsätzlich realisierbar. Eine Cloud-Version über Mistrals API ist ebenfalls verfügbar, falls der Selbstbetrieb nicht in Frage kommt.
Warum das für den Mittelstand zählt
Das entscheidende Argument für ML4 ist nicht die Benchmark-Position, sondern die Betriebsform: Wer das Modell auf eigener Hardware betreibt, schickt keine Daten an externe Server. Das ist für viele Mittelständler aus zwei Gründen relevant.
Erstens stellt die DSGVO konkrete Anforderungen daran, wo personenbezogene Daten verarbeitet werden dürfen. Cloud-APIs von US-Anbietern sind rechtlich nicht unkompliziert, wenn sensible Kundendaten im Spiel sind. Ein selbst gehostetes Modell umgeht diesen Zielkonflikt vollständig.
Zweitens gibt es Branchen — Recht, Steuer, Medizin, Versicherung — in denen vertrauliche Informationen strukturell nicht an externe Dienste übertragen werden sollten. ML4 macht hier erstmals ein Frontier-fähiges Modell verfügbar, das vollständig im eigenen Netzwerk bleibt.
Konkrete Anwendungsszenarien
Vertragsprüfung in der Rechts- und Einkaufsabteilung
Verträge enthalten häufig sensible Konditionen, die nicht über externe APIs laufen sollten. Mit ML4 on-premises lässt sich eine automatisierte Erstprüfung aufsetzen, die Klauseln markiert, Risiken einordnet und Handlungsempfehlungen formuliert — ohne dass Vertragsinhalte das Unternehmensnetz verlassen. Der manuelle Prüfaufwand sinkt in solchen Setups erfahrungsgemäß um rund 40 bis 60 Prozent bei klar definierten Prüfroutinen.
Interne Wissensdatenbank ohne Cloud-Anbindung
Produktionsdaten, Qualitätshandbücher, interne Prozessdokumente — viele Mittelständler verfügen über umfangreiche Wissensspeicher, die bisher nicht maschinell auswertbar waren. Ein lokal betriebenes Sprachmodell kann diese Daten indizieren und als unternehmensinterner Assistent dienen: Mitarbeitende fragen auf Deutsch, das System antwortet aus den eigenen Dokumenten.
Code-Review und interne Entwicklungsunterstützung
Unternehmen mit eigenen Entwicklungsteams und proprietärem Code haben ein nachvollziehbares Interesse daran, dass Sourcecode nicht über externe APIs läuft. ML4 liegt beim Coding-Benchmark auf dem Niveau aktueller Spitzenmodelle und eignet sich damit für automatisierte Code-Reviews, Dokumentationsgenerierung und Fehleranalysen — alles lokal.
„Ein Modell auf Frontier-Niveau, das vollständig im eigenen Rechenzentrum läuft — das war bisher eine Lücke, die ML4 nun schließt."
warning
Hardware-Hürde realistisch einschätzenVier Nvidia-GB300-GPUs kosten aktuell je nach Konfiguration zwischen 100.000 und 150.000 Euro. Der Betrieb ist damit für Unternehmen ohne eigenes Rechenzentrum oder Cloud-GPU-Zugang nicht direkt realisierbar. Mistrals Cloud-API bleibt eine valide Alternative — mit dem Unterschied, dass dann Daten auf Mistrals europäischen Servern verarbeitet werden, nicht auf den eigenen. Wichtig: Das ist regulatorisch deutlich besser als US-Cloud-APIs, aber nicht identisch mit On-premises.
| Modell | Betriebsform | Coding-Benchmark | Besonderheit |
| Mistral ML4 | On-premises möglich | 48 % (Coding Agent Index) | Datensouveränität, Europa |
| Claude Opus 5.5 | Nur Cloud-API | Führend Agentic | Stärkstes Allroundmodell |
| Llama 4 (Meta) | On-premises möglich | Mittelfeld | Kostenlos, weniger Leistung |
| Gemini 4 Carbon | Nur Cloud-API | Führend Cybersecurity | Eingeschränkter Zugang |
Kosten und Implementierungsaufwand
Wer ML4 selbst betreiben will, braucht vier Nvidia GB300 — aktuell die teuerste verfügbare GPU-Generation. Realistisch kalkuliert landet man für eine Produktivinstanz bei einer Hardware-Investition von 400.000 bis 600.000 Euro, hinzu kommen Betrieb, Wartung und Integration. Das ist kein KMU-Einstiegsprojekt.
Realistischer für viele Mittelständler ist der Weg über Mistrals API oder über Managed-GPU-Dienste europäischer Cloud-Anbieter wie Hetzner, OVH oder Scaleway, die GB300-Kapazitäten in der Vergangenheit als Mietmodell angeboten haben. Das kombiniert Datensouveränität mit überschaubarem Kapitaleinsatz.
Fazit
ML4 ist das erste Modell, das Frontier-Leistung und echte On-premises-Betriebsoption in einem vereint. Für Unternehmen, bei denen Datensouveränität keine optionale Anforderung ist, sondern eine strukturelle, verändert das die Lage spürbar. Bisher hieß die Wahl: Entweder leistungsschwächere Open-Source-Modelle lokal, oder starke Modelle in der Cloud.
Bei ATLAS Consulting beobachten wir die Verfügbarkeit über europäische Managed-GPU-Anbieter und werden ML4 in unsere Modellempfehlungen für Kunden mit erhöhten Datenschutzanforderungen einbeziehen, sobald belastbare Praxistests vorliegen. Wer heute ein KI-Projekt mit sensiblen Daten plant, sollte ML4 als Option auf dem Radar behalten.
The French AI company Mistral released its most ambitious model to date on October 29, 2026: ML4. With approximately one trillion parameters and a Mixture-of-Experts architecture that keeps only 49 billion parameters active per token, it reaches benchmark scores that place it level with the leading US cloud models — yet it can run entirely on company-owned hardware. That is a combination without direct parallel among top-tier models today.
What Mistral Actually Released
ML4 is built on a Mixture-of-Experts (MoE) architecture. This means the model has a nominal size of around one trillion parameters, but only loads a fraction of them into working memory when processing a request — roughly 49 billion. This significantly reduces the compute cost per token without sacrificing model quality.
On the Coding Agent Index, ML4 achieves 48 percent according to heise.de — placing it on a level with GLM-5.3. On the CyberGym-E2E benchmark, which measures AI agents on cybersecurity tasks, it scores 79 percent, matching MiMo-V2.6-Pro. Both reference models are at the current frontier in their respective domains.
The hardware requirement is four Nvidia GB300 GPUs running FP4 quantization. This is a demanding specification — but feasible in principle for research institutions and larger SMEs with their own data centre. A cloud version via Mistral's API is also available for those for whom self-hosting is not an option.
Why This Matters for SMEs
The decisive argument for ML4 is not its benchmark ranking, but its deployment model: running the model on your own hardware means no data is sent to external servers. For many mid-sized companies, this is relevant for two reasons.
First, the GDPR places concrete requirements on where personal data may be processed. Cloud APIs from US providers are legally complex when sensitive customer data is involved. A self-hosted model eliminates this conflict entirely.
Second, there are industries — law, tax, medicine, insurance — where confidential information structurally should not be transmitted to external services. ML4 makes a frontier-capable model available here for the first time that remains entirely within the company's own network.
Practical Use Cases
Contract Review in Legal and Procurement Departments
Contracts frequently contain sensitive terms that should not pass through external APIs. With ML4 on-premises, an automated initial review can be set up that flags clauses, assesses risks, and formulates recommendations — without contract content leaving the corporate network. Manual review effort typically falls by around 40 to 60 percent for well-defined review routines in such setups.
Internal Knowledge Base Without Cloud Connectivity
Production data, quality manuals, internal process documents — many mid-sized companies hold extensive knowledge repositories that have so far been inaccessible to machine analysis. A locally operated language model can index this data and serve as an in-house assistant: employees ask questions in German, and the system answers from the company's own documents.
Code Review and Internal Development Support
Companies with in-house development teams and proprietary code have an understandable interest in keeping source code off external APIs. ML4 sits at the frontier coding benchmark level and is therefore suited for automated code reviews, documentation generation, and error analysis — all running locally.
"A frontier-level model that runs entirely in your own data centre — that was a gap, and ML4 now closes it."
warning
Realistic hardware cost assessmentFour Nvidia GB300 GPUs currently cost between €100,000 and €150,000 each depending on configuration. Running ML4 is therefore not a direct option for companies without their own data centre or GPU access. Mistral's cloud API remains a valid alternative — with the difference that data is then processed on Mistral's European servers, not your own. That is significantly better from a regulatory standpoint than US cloud APIs, but not identical to on-premises.
| Model | Deployment | Coding Benchmark | Notable Feature |
| Mistral ML4 | On-premises possible | 48% (Coding Agent Index) | Data sovereignty, European |
| Claude Opus 5.5 | Cloud API only | Leading — Agentic | Strongest all-round model |
| Llama 4 (Meta) | On-premises possible | Mid-tier | Free, lower capability |
| Gemini 4 Carbon | Cloud API only | Leading — Cybersecurity | Restricted access |
Costs and Implementation Effort
Running ML4 yourself requires four Nvidia GB300 GPUs — currently the most expensive GPU generation available. A realistic production setup would cost between €400,000 and €600,000 in hardware, plus ongoing operations, maintenance, and integration. This is not an SME entry project.
A more realistic path for many mid-sized companies is Mistral's API or managed GPU services from European cloud providers such as Hetzner, OVH, or Scaleway, which have historically offered GB300 capacity as a rental model. This combines data sovereignty with manageable capital outlay.
Conclusion
ML4 is the first model to combine frontier performance with a genuine on-premises deployment option. For companies where data sovereignty is a structural requirement rather than an optional preference, this meaningfully changes the picture. Until now, the choice was: either less capable open-source models on-premises, or powerful models in the cloud.
At ATLAS Consulting, we are monitoring availability through European managed GPU providers and will incorporate ML4 into our model recommendations for clients with elevated data protection requirements once reliable real-world tests are available. Anyone planning an AI project today that involves sensitive data should keep ML4 on their radar.