Ein deutsches Forschungskonsortium hat mit Soofi S ein offenes KI-Sprachmodell veröffentlicht, das nach eigenen Angaben unter allen vollständig quelloffenen Modellen die besten Werte in deutschen und englischen Benchmarks erreicht. Trainiert wurde das Modell komplett auf der Industrial AI Cloud der Deutschen Telekom in München, mit 31,6 Milliarden Parametern, von denen pro Token nur rund 3,2 Milliarden aktiv sind. Der Fall zeigt exemplarisch, wie ernst Europa das Thema KI-Souveränität inzwischen nimmt, wenige Wochen bevor Artikel 50(4) des EU AI Act neue Kennzeichnungspflichten für KI-generierte Inhalte einführt.
Was ist Soofi S? Der Überblick zum deutschen KI-Modell
Soofi steht für „Sovereign Open Source Foundation Models”. Hinter dem Projekt steht ein Konsortium aus deutschen Forschungseinrichtungen und Unternehmen, koordiniert vom KI Bundesverband und gefördert vom Bundesministerium für Wirtschaft und Energie im Rahmen des europäischen IPCEI-CIS-Programms mit rund 20 Millionen Euro. Beteiligt sind unter anderem die Fraunhofer-Institute IAIS und IIS, das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), die TU Darmstadt, die Universität Würzburg, das L3S Research Center, die Berliner Hochschule für Technik sowie die KI-Unternehmen ellamind und Merantix Momentum.
Das offizielle Modell trägt die technische Bezeichnung Soofi-S-30B-A3B. Es handelt sich um ein vortrainiertes Basismodell für Textvervollständigung, keinen fertigen Chatbot. Für Dialoge stellt das Projekt eine Variante namens Soofi-S-Instruct-Preview bereit, ergänzt um zwei Reasoning-Varianten mit den Namen Isar und Rhine. Laut einem Update des Pretraining-Reports vom 24. Juli 2026 sollen die nachtrainierten Instruct- und Reasoning-Varianten in den kommenden Wochen unter einer permissiven Lizenz erscheinen. Ein größeres Modell, Soofi L, befindet sich bereits im Training.
Die technischen Eckdaten: 31,6 Milliarden Parameter, nur 3,2 Milliarden aktiv
Soofi S verwendet eine Mixture-of-Experts-Architektur (MoE). Das Modell besteht aus zahlreichen spezialisierten Teilnetzen, den sogenannten Experten. Ein Router entscheidet pro Token, welche Experten aktiviert werden. Von den insgesamt 31,6 Milliarden Parametern sind bei jeder einzelnen Berechnung nur etwa 3,2 Milliarden gleichzeitig im Einsatz. Die Rechenkosten liegen dadurch näher an einem 3B-Modell als an einem klassischen 30B-Modell, auch wenn sämtliche Gewichte weiterhin gespeichert und geladen werden müssen.
Für die lokale Ausführung bleibt deshalb die Gesamtgröße entscheidend. Ein unquantisiertes Modell mit rund 32 Milliarden Parametern benötigt allein für die Gewichte in BF16 rechnerisch etwa 64 Gigabyte Speicher. Bei einer 4-Bit-Quantisierung sinkt dieser Bedarf auf ungefähr 16 Gigabyte, was das Modell auf einem Mac mit Apple Silicon und 32 Gigabyte Unified Memory grundsätzlich ausführbar macht. Quantisierte Varianten für llama.cpp, Ollama und LM Studio stehen bereits als GGUF-Dateien zur Verfügung, befinden sich aber noch im Preview-Stadium mit projektspezifischem Modellcode.
Mixture-of-Experts und Mamba-2: Wie die Hybrid-Architektur funktioniert
Das Konsortium übernimmt für Soofi S die Grundarchitektur von Nvidias Nemotron 3 Nano, einer Hybridkonstruktion aus Mamba-2-Schichten und klassischen Attention-Schichten. Transformer-Modelle speichern während der Textgenerierung bisherige Tokens in einem KV-Cache, der mit der Kontextlänge linear wächst. Bei langen Eingaben und vielen parallelen Anfragen wird das Nachladen dieses Caches zum Flaschenhals. Bei Soofi S unterhalten nur 6 von 52 Schichten überhaupt einen solchen Cache, den Rest übernehmen Mamba-2-Schichten, die Sequenzen verarbeiten können, ohne für jedes Token einen wachsenden Speicher vorzuhalten.
Der Effekt zeigt sich beim Durchsatz: Bei einem Kontext von 40.000 Token und 32 parallel bearbeiteten Anfragen erzeugt Soofi S pro GPU rund achtmal mehr Token pro Sekunde als dichte Modelle im Bereich von 14 bis 24 Milliarden Parametern. Während der Durchsatz bei klassischen Transformern mit wachsendem Kontext deutlich einbricht, bleibt er bei Soofi S zwischen 4.000 und 256.000 Token nahezu konstant. Ein ähnliches Verhalten zeigt unter den verglichenen Modellen nur Alibabas Qwen3.5 35B-A3B, das ebenfalls auf eine Hybridarchitektur setzt. Ein großer theoretischer Kontext bedeutet allerdings nicht automatisch, dass das Modell jede Information darin zuverlässig wiederfindet, wie ein Schwachpunkt beim Long-Context-Test RULER zeigt: Jenseits von 32.000 Token bricht die Trefferrate bei einer Extraktionsaufgabe auf rund 3 Prozent ein, während die architekturgleiche Nemotron-Referenz noch 60 bis 64 Prozent erreicht.
27 Billionen Trainings-Token mit bewusstem Deutsch-Schwerpunkt
Insgesamt hat das Konsortium etwa 27 Billionen Token in drei Phasen verarbeitet. In der ersten Phase lernt das Modell auf rund 20 Billionen Token aus einer breiten Mischung von Web-, Code-, Mathematik- und Fachtexten die sprachlichen Grundlagen. Eine zweite Phase mit rund 6 Billionen Token aus besonders hochwertigen Quellen schärft die zuvor gelernten Muster. Eine dritte, kürzere Phase erweitert das Kontextfenster durch Training auf Dokumenten von bis zu einer Million Token.
Zentral ist der Fokus auf Deutsch. In der ersten Phase macht die Sprache 7,2 Prozent des Trainingsmixes aus, in der zweiten Phase steigt der Anteil auf 15,3 Prozent. Zum Vergleich: Im Nemotron-Referenzrezept entfallen insgesamt nur rund 5 Prozent auf alle nicht-englischen Sprachen zusammen. Als Datenquellen kombiniert das Konsortium deutsche Webtexte aus HPLT, das offen lizenzierte Korpus German Commons, deutsche Anteile aus FinePDFs und FineWiki sowie den kommerziell lizenzierten Genios-Korpus mit 193 Millionen Zeitungsartikeln aus 916 deutschen Publikationen, ergänzt um maschinell übersetzte und synthetisch erzeugte Texte.
Souveräne Infrastruktur: Training auf der Industrial AI Cloud der Telekom
Der Trainingslauf fand zwischen März und Mai 2026 auf bis zu 512 Nvidia-B200-GPUs der Industrial AI Cloud der Deutschen Telekom in München statt, insgesamt rund 253.000 GPU-Stunden. Die Anlage wird nach Angaben der Telekom vollständig mit erneuerbarer Energie betrieben, mit Wasser aus dem Eisbach-Kanal gekühlt und speist Abwärme in das umliegende Tucherpark-Viertel ein. Soofi S gehörte zu den ersten großen Trainingsläufen auf dieser Infrastruktur.
Digitale Souveränität bedeutet hier keine vollständige technologische Unabhängigkeit. Die Infrastruktur läuft weiterhin auf Nvidia-Hardware und nutzt zahlreiche internationale Cloud- und Open-Source-Komponenten. Der Unterschied liegt in der Kontrolle über Modell, Trainingsprozess und Betrieb: Unternehmen können Soofi S auf eigener oder europäischer Infrastruktur weiterentwickeln, statt ausschließlich die geschlossene API eines einzelnen US-Anbieters zu nutzen. Für Unternehmen und Behörden mit Anforderungen an Datenstandort und Datenschutz ist das ein relevanter Faktor, gerade weil am 2. August 2026 mit Artikel 50(4) des EU AI Act eine Vorschrift in Kraft trat, die Unternehmen zur klaren Kennzeichnung KI-generierter Inhalte verpflichtet.
Benchmark-Ergebnisse: Soofi S schlägt Apertus 70B und Olmo 3 32B
In der Evaluation gegen 16 andere offene Modelle liegt Soofi S laut Pretraining-Report auf den Aggregatwerten für Deutsch und Englisch vor allen anderen vollständig offenen Modellen, einschließlich Olmo 3 32B vom Allen Institute for AI und Apertus 70B von ETH Zürich und EPFL, teils mit zweistelligem Punktabstand auf den deutschen Benchmarks. Bei Code-Aufgaben erreicht Soofi S mit 73,8 Prozent auf HumanEval, 70,2 Prozent auf MBPP und 84,2 Prozent auf der deutschen MBPP-Variante die besten Werte im Open-Source-Vergleich. Auf INCLUDE-DE, einem Test für Deutschland-spezifisches Regionalwissen, teilt sich das Modell mit 61,2 Punkten den ersten Platz mit dem deutlich größeren Qwen3.5 35B-A3B.
Schwächer schneidet Soofi S bei deutscher Wettbewerbsmathematik ab: Auf Minerva MATH-DE erreicht das Modell 56 Punkte, während Qwen3.5 35B-A3B auf 76,5 und Gemma 3 27B auf 65,6 Punkte kommen. Auch bei NaturalQuestions, einem Benchmark für Faktenwissen, bleibt Soofi S hinter größeren dichten Modellen zurück, was mit den nur 3,2 Milliarden aktiven Parametern zusammenhängen dürfte, in denen sich weniger Weltwissen speichern lässt als in einem vollständig aktiven 27B- oder 32B-Modell. Die folgende Tabelle fasst die zentralen Werte zusammen.
| Benchmark | Soofi S 30B-A3B | Vergleichswert | Kategorie |
|---|---|---|---|
| Deutscher Gesamtwert | 79,1 | bester Wert unter offenen Modellen | Sprache (DE) |
| Englischer Gesamtwert | 70,1 | bester Wert unter offenen Modellen | Sprache (EN) |
| HumanEval (Code) | 73,8 % | bester Open-Source-Wert | Programmierung |
| MBPP (Code) | 70,2 % | bester Open-Source-Wert | Programmierung |
| MBPP Deutsch | 84,2 % | bester Open-Source-Wert | Programmierung (DE) |
| INCLUDE-DE (Regionalwissen) | 61,2 | gleichauf mit Qwen3.5 35B-A3B | Deutschlandwissen |
| Minerva MATH-DE | 56,0 | Qwen3.5 35B-A3B: 76,5 / Gemma 3 27B: 65,6 | Mathematik (DE) |
| RULER Long-Context (>32k Token, Extraktion) | ≈3 % | Nemotron 3 Nano: 60–64 % | Langkontext |
Wichtig für die Einordnung: Die Benchmarks wurden vom Projektteam selbst ausgewählt und ausgewertet, eine vollständige unabhängige Überprüfung durch externe Organisationen steht noch aus. Zur Nachprüfbarkeit stellt das Team laut eigenen Angaben rund 152.000 Einzelergebnisse bereit, eine zusätzliche Evaluation des Konsortialpartners ellamind mit zurückgehaltenen Testdaten soll die Resultate stützen.
Der Kontaminationsvorfall: Wie das Konsortium auf den eigenen Fehler reagierte
Am 24. Juli 2026 veröffentlichte das Konsortium Version 3.0 des Pretraining-Reports und dokumentierte darin einen Kontaminationsvorfall, den die Community nach der Erstveröffentlichung in den offengelegten Trainingsdaten entdeckt hatte. Der QA-base-Datensatz sollte eigentlich nur umformulierte Trainingssplits von 25 Standard-Benchmarks enthalten, also Übungsaufgaben zum Erlernen der Testformate. Tatsächlich fanden sich darin auch umformulierte Fragen aus dem Test-Set des Wissenschafts-Benchmarks GPQA samt der GPQA-Diamond-Variante, sowohl auf Englisch als auch maschinell ins Deutsche übersetzt.
Ursache war eine Eigenheit von GPQA: Der Benchmark besitzt auf Hugging Face kein separates Trainings-Set, sein gesamtes Prüfungsmaterial liegt unter der Standardbezeichnung „train”. Weil die Datenpipeline anhand solcher Split-Namen auswählte, gelangte das Prüfungsset in die Übungsaufgaben. Eine anschließende Prüfung fand drei weitere Benchmarks mit demselben Muster (TruthfulQA, BLiMP, Inverse Scaling), die aber keiner in der Soofi-S-Evaluation genutzt wird. Das Konsortium strich GPQA daraufhin komplett aus der Bewertung und rechnete die Gesamtergebnisse für alle 16 verglichenen Modelle neu, an der Rangfolge änderte sich nach Angaben der Autoren dabei nichts. Auffällig: Das Modell wurde in den betroffenen GPQA-Aufgaben zwar stetig besser, von 32,3 auf 43,4 Punkte, dieser Zuwachs lag aber im normalen Bereich und löste während des Trainings kein Warnsignal aus. Künftig gleicht das Team seine Trainingsdaten automatisch mit allen Testfragen ab, statt sich auf Split-Bezeichnungen zu verlassen. Details dazu finden sich im technischen Bericht, den The Decoder ausgewertet hat.
Übertrainiert? Die Debatte um Chinchilla und Mixture-of-Experts
Nach der Veröffentlichung kam Kritik auf, Soofi S sei gemessen an den klassischen Chinchilla-Skalierungsgesetzen stark übertrainiert. Diese 2022 von Google DeepMind aufgestellten Regeln beschreiben, wie Modellgröße und Trainingsdatenmenge bei festem Rechenbudget optimal balanciert werden, mit einem rechenoptimalen Richtwert von rund 20 Token pro Parameter. Soofi S liegt mit rund 27 Billionen Token bei 30 Milliarden Parametern bei mehreren Hundert zu eins, rechnet man nur die pro Token aktiven 3,2 Milliarden Parameter, sogar im Bereich mehrerer Tausend zu eins.
Michael Fromm, der im Projekt für den Pretraining-Datenmix verantwortlich zeichnet, hält dem laut einer öffentlichen Stellungnahme entgegen, dass sich diese für dichte Modelle entwickelten Regeln nicht ohne Weiteres auf Mixture-of-Experts-Architekturen übertragen lassen. Als Begründung führt er an, dass einzelne Experten davon profitieren, dieselben Dokumente mehrfach zu sehen, wodurch Wiederholungen in einem großen, hochwertigen Datensatz bei MoE-Modellen weniger problematisch seien als bei dichten Modellen. Als Vergleichspunkt verweist er auf Nvidia, das eigene Modelle ebenfalls auf bis zu 25 Billionen Token trainiert hat. Nicolas Flores-Herr vom Fraunhofer IAIS wertet den gesamten Vorgang, inklusive der öffentlichen Fehlerkorrektur, als Beleg für den Wert des offenen Ansatzes: Nur weil Trainingsdaten und Code öffentlich einsehbar waren, konnte die Community den Kontaminationsfehler überhaupt aufspüren.
Ist Soofi S wirklich Open Source? Die Lizenzfrage bleibt offen
Das Projekt bezeichnet Soofi S als Open-Source-Modell und veröffentlicht dafür deutlich mehr als viele kommerzielle Anbieter: Modellgewichte, Trainings- und Evaluationscode, ausgewählte Zwischencheckpoints sowie eine detaillierte Datenauflistung mit Rohtokenzahl, Epochenanzahl und effektivem Beitrag pro Quelle. Sogar geprüfte, aber ausgeschlossene Quellen sind dokumentiert. Das Projekt beruft sich damit auf die Erfüllung der Open Source AI Definition der Open Source Initiative.
Ganz abgeschlossen ist die Frage trotzdem nicht. Auf Hugging Face wird die Lizenz derzeit als „Other” geführt, der vollständige Lizenztext fehlt laut Modellkarte noch. Der Zugriff auf die Dateien setzt eine Registrierung und die Zustimmung zu Nutzungsbedingungen voraus. Hinzu kommt, dass rund 1,3 Prozent der Trainingsdaten aus dem kommerziell lizenzierten Genios-Korpus stammen und nicht frei weitergegeben werden können, auch wenn sich laut Projektangaben etwa 99 Prozent des gesamten Trainingsmixes unabhängig rekonstruieren lassen. Einen strengeren Vorschlag für eine europäische Open-Data-Definition, der die freie Weitergabe jedes einzelnen Trainingstokens verlangt, erreicht Soofi S wegen des Genios-Anteils nicht. Bis die endgültigen Lizenzbedingungen vorliegen, ist „offenes Modell” die vorsichtigere Bezeichnung als „Open Source” im engeren Sinne.
Konkurrenzvergleich: Soofi S gegen GPT-5.6, Claude Opus 5, Kimi K3 und Hy3
Soofi S tritt nicht in einem Vakuum an. Zeitgleich mit der Debatte um das deutsche Modell rollen international mehrere neue Spitzenmodelle aus, die im DACH-Raum Aufmerksamkeit binden. OpenAI hat GPT-5.6 mit den Varianten Sol, Terra und Luna seit dem 9. Juli 2026 allgemein verfügbar gemacht, nach einer begrenzten Preview seit Ende Juni. Anthropics Claude Opus 5 führt im GDPval-AA-v2-Benchmark mit 1846 Elo vor Claude Fable 5 und GPT-5.6 Sol. Moonshot AI hat am 16. Juli 2026 mit Kimi K3 ein „agentisches” Flaggschiff-Modell der 3-Billionen-Parameter-Klasse veröffentlicht, dessen vollständige Gewichte seit dem 27. Juli 2026 unter einer Modified-MIT-Lizenz offenliegen, nach Angaben von Moonshot das bislang größte offene Modell dieser Größenordnung. Tencent wiederum stellte am 6. Juli 2026 sein Hunyuan-Modell Hy3 vor und rollt es seit dem 5. August 2026 international über Werkzeuge wie WorkBuddy, Miora Design Studio und Tencent Cloud TokenHub aus, in WorkBuddy bis zum 31. August 2026 kostenlos nutzbar.
Soofi S positioniert sich damit zwischen breit multilingualen europäischen Souveränitätsprojekten wie EuroLLM oder Teuken, die viele Sprachen gleichzeitig abdecken wollen, und den leistungsstärksten internationalen Open-Weight-Modellen aus den USA und China. Die folgende Tabelle stellt die bekannten Eckdaten gegenüber. Bei proprietären Modellen legen die Anbieter Parameterzahlen üblicherweise nicht offen.
| Modell | Anbieter | Parameter (aktiv) | Architektur | Verfügbarkeit | Trainingsstandort |
|---|---|---|---|---|---|
| Soofi S 30B-A3B | Dt. Konsortium / KI Bundesverband | 31,6 Mrd. (3,2 Mrd.) | MoE + Mamba-2/Attention | Preview, Lizenz „Other” | Deutschland (München) |
| GPT-5.6 (Sol/Terra/Luna) | OpenAI | nicht offengelegt | proprietär | API, seit 9.7.2026 GA | USA |
| Claude Opus 5 | Anthropic | nicht offengelegt | proprietär | API | USA |
| Kimi K3 | Moonshot AI | ≈3 Billionen (Klasse) | MoE, agentisch | Offene Gewichte seit 27.7.2026, Modified-MIT | China |
| Hy3 (Hunyuan) | Tencent | nicht offengelegt | proprietär/teiloffen | International seit 5.8.2026 | China |
| Qwen3.5 35B-A3B | Alibaba | 35 Mrd. (3 Mrd.) | MoE + Hybrid | Offene Gewichte | China |
Historischer Kontext: Europas langer Weg zur KI-Souveränität
Soofi S ist nicht der erste Versuch, ein europäisches Gegengewicht zu US-amerikanischen und chinesischen Sprachmodellen zu schaffen. Das OpenGPT-X-Projekt brachte mit Teuken-7B bereits ein kleineres mehrsprachiges Modell hervor, EuroLLM verfolgt einen ähnlichen Ansatz mit Fokus auf viele EU-Amtssprachen gleichzeitig. Apertus, entwickelt von ETH Zürich und EPFL, und Olmo 3 32B vom Allen Institute for AI zählten bislang zu den stärksten vollständig offenen Referenzmodellen, gegen die sich Soofi S nun laut eigenem Bericht durchsetzt. Der Unterschied bei Soofi S liegt im expliziten Fokus auf Deutsch statt auf Mehrsprachigkeit über viele Sprachen hinweg, kombiniert mit einer Trainingsinfrastruktur, die vollständig in Deutschland steht.
Diese Entwicklung fällt in eine Phase, in der die EU regulatorisch nachzieht: Der AI Act verpflichtet Unternehmen seit dem 2. August 2026 über Artikel 50(4) zur Kennzeichnung KI-generierter Inhalte, und die Debatte um digitale Souveränität hat durch geopolitische Spannungen rund um Cloud-Infrastruktur und Chip-Exporte zusätzlichen Rückenwind bekommen. In diesem Umfeld dient Soofi S weniger als Konsumentenprodukt, sondern als Signal: Deutschland und die EU wollen zeigen, dass souveräne KI-Infrastruktur auf Augenhöhe mit internationalen Referenzmodellen trainiert werden kann, wenn auch bislang nur in der Preview-Phase.
Marktauswirkungen: Was das für die Telekom und den KI-Standort Deutschland bedeutet
Für die Deutsche Telekom und ihre Geschäftskundensparte T-Systems ist Soofi S vor allem ein Vitrinenprojekt für die eigene Industrial AI Cloud. Ein prominent begleitetes Training eines konkurrenzfähigen offenen Modells demonstriert Kunden, dass Training und Inferenz komplett innerhalb europäischer Cloud-Infrastruktur möglich sind, ohne Daten an außereuropäische Hyperscaler zu übergeben. Für Unternehmen mit strengen Compliance-Anforderungen, etwa in der öffentlichen Verwaltung, im Gesundheitswesen oder in regulierten Finanzdienstleistungen, kann das ein entscheidendes Argument sein, selbst wenn Soofi S in reinen Leistungswerten noch nicht mit geschlossenen Spitzenmodellen mithält.
Gleichzeitig bleibt der praktische Nutzen für die breite Masse an Unternehmen vorerst begrenzt. Solange nur eine Preview-Instruct-Version existiert und die Lizenz nicht final geklärt ist, dürften produktive Einsätze auf Forschungsprojekte, Pilotanwendungen und Fine-Tuning-Experimente beschränkt bleiben. Das Konsortium selbst sucht laut eigener Projektseite aktiv nach Industriepartnern, die Soofi S in Anwendungen rund um technische Dokumente, Code-Generierung und agentische Systeme erproben wollen. Der wirtschaftliche Wert des Projekts entscheidet sich damit weniger an den Benchmark-Tabellen als daran, wie viele Unternehmen in den nächsten Monaten tatsächlich Anwendungen darauf aufbauen.
Für wen sich Soofi S eignet – und wer besser wartet
Für Privatnutzer ersetzt Soofi S aktuell weder ChatGPT noch Claude oder Gemini. Interessant ist das Modell vor allem für Forschungseinrichtungen, die offene Sprachmodelle systematisch untersuchen wollen, für Unternehmen mit umfangreichen deutschsprachigen Dokumentenbeständen, für Entwickler, die eigene Instruct- oder Branchenmodelle trainieren möchten, sowie für Organisationen mit klaren Anforderungen an europäischen Datenstandort. Auch Projekte im Bereich Code-Generierung und Software-Engineering sowie Anwendungen, die sehr lange Dokumente verarbeiten müssen, profitieren potenziell von der Architektur, sofern sie die Schwäche bei präzisen Extraktionsaufgaben in sehr langen Kontexten einkalkulieren.
Öffentliche Einrichtungen mit hohen Transparenzanforderungen dürften die ausführliche Dokumentation der Trainingsdaten schätzen, die bei kommerziellen Anbietern in dieser Tiefe selten verfügbar ist. Wer dagegen ein sofort einsatzbereites, vollständig sicherheitsausgerichtetes Assistenzsystem sucht, ist mit etablierten Produkten wie ChatGPT, Claude oder Gemini aktuell besser bedient, bis die Instruct- und Reasoning-Varianten von Soofi S den Preview-Status verlassen haben.
Prognosen: Wie es mit Soofi S und Europas KI-Souveränität weitergeht
- Finale Instruct-Lizenz binnen Wochen: Das Konsortium hat für die kommenden Wochen eine permissive Lizenz für die Instruct- und Reasoning-Varianten Isar und Rhine angekündigt, was die praktische Nutzbarkeit deutlich erhöhen dürfte.
- Soofi L folgt als größeres Modell: Ein größeres Modell mit dem Namen Soofi L befindet sich laut Projektangaben bereits im Training und dürfte die nächste Ausbaustufe der Modellfamilie markieren.
- Unabhängige Benchmarks werden zum Lackmustest: Solange externe Organisationen die selbst berichteten Werte nicht bestätigt haben, bleibt der Vorsprung gegenüber Apertus 70B und Olmo 3 32B mit Vorbehalt zu lesen, besonders nach dem bereits eingeräumten Kontaminationsvorfall.
- EU AI Act erhöht die Nachfrage nach auditierbaren Modellen: Mit den Kennzeichnungspflichten aus Artikel 50(4) dürfte das Interesse an Modellen mit vollständig dokumentierten Trainingsdaten wie Soofi S in regulierten Branchen weiter steigen.
- Konsolidierung um Industriepartner entscheidet über Relevanz: Ob Soofi S über Forschungsprojekte hinaus wirtschaftlich relevant wird, hängt maßgeblich davon ab, wie viele Unternehmen die gesuchten Partnerschaften für Dokumenten-, Code- und Agentenanwendungen tatsächlich eingehen.
Häufig gestellte Fragen zu Soofi S
Was ist Soofi S genau?
Soofi S ist ein in Deutschland entwickeltes offenes Sprachmodell mit 31,6 Milliarden Parametern. Durch eine Mixture-of-Experts-Architektur sind bei der Verarbeitung eines einzelnen Tokens nur rund 3,2 Milliarden Parameter aktiv.
Kann ich Soofi S schon nutzen?
Ja, über Hugging Face stehen Preview-Modelle der Base- und Instruct-Variante sowie quantisierte GGUF-Dateien für llama.cpp, Ollama und LM Studio bereit. Der Zugriff erfordert eine Registrierung und die Zustimmung zu vorläufigen Nutzungsbedingungen.
Ist Soofi S wirklich Open Source?
Das Projekt veröffentlicht Modellgewichte, Trainingscode und detaillierte Angaben zu den Trainingsdaten und beruft sich auf die Open Source AI Definition der Open Source Initiative. Die endgültige Lizenz ist auf Hugging Face aktuell noch als „Other” geführt, und rund 1,3 Prozent der Trainingsdaten stammen aus einer kommerziell lizenzierten Quelle, die nicht frei weitergegeben werden darf.
Läuft Soofi S lokal auf einem normalen Rechner?
Nur mit Quantisierung. Ein unquantisiertes 32-Milliarden-Parameter-Modell benötigt rechnerisch rund 64 Gigabyte Speicher für die Gewichte in BF16. Bei 4-Bit-Quantisierung sinkt der Bedarf auf etwa 16 Gigabyte, was ein Mac mit Apple Silicon und 32 Gigabyte Unified Memory grundsätzlich schaffen kann.
Ersetzt Soofi S ChatGPT oder Claude?
Nein. Das Basismodell wurde weder auf Anweisungsbefolgung noch auf vollständige Sicherheitsausrichtung trainiert und ist nicht für den direkten Einsatz als öffentlicher Assistent gedacht. Selbst die Instruct-Preview-Variante befindet sich noch im Testbetrieb.
Wer finanziert und trägt das Projekt?
Koordiniert wird Soofi vom KI Bundesverband, gefördert vom Bundesministerium für Wirtschaft und Energie im Rahmen des europäischen IPCEI-CIS-Programms mit rund 20 Millionen Euro. Trainiert wurde das Modell auf der Industrial AI Cloud der Deutschen Telekom in München.
Wie schneidet Soofi S gegen andere offene Modelle ab?
Laut Pretraining-Report übertrifft Soofi S bei deutschen und englischen Aggregatwerten alle 16 verglichenen vollständig offenen Modelle, darunter Apertus 70B und Olmo 3 32B. Bei deutscher Mathematik und Faktenwissen liegt es dagegen hinter größeren dichten Modellen wie Qwen3.5 35B-A3B zurück.
Was hat es mit dem Kontaminationsvorfall auf sich?
Die Community entdeckte, dass umformulierte Testfragen des GPQA-Benchmarks versehentlich in den Trainingsdaten landeten. Das Konsortium hat den Fehler öffentlich eingeräumt, GPQA aus der Bewertung entfernt und alle Ergebnisse neu berechnet, ohne dass sich laut eigenen Angaben die Rangfolge der verglichenen Modelle änderte.
