Der zweite DeepSeek-Moment:
Frontier-KI auf 128 GB?
DeepSeek V4 Flash verschiebt die Grenze lokaler KI erneut. Ein Modell mit 284 Milliarden Gesamtparametern kann auf einem 128-GB-Desktop starten — allerdings nur stark quantisiert, mit knapper Speicherreserve und experimenteller Software. Für Unternehmen ist das weniger ein fertiges Produkt als ein deutliches Signal: leistungsfähige Open-Weight-KI wandert vom Rechenzentrum auf den Arbeitsplatz.
Ja, DeepSeek V4 Flash kann auf 128 GB laufen. Aber „passt“ heißt noch nicht „produktionsreif“. Der offizielle Checkpoint belegt rund 160 GB. Erst eine Community-Quantisierung mit etwa zwei bis drei Bit pro Gewicht drückt das Modell unter die 128-GB-Grenze. Für stabilen Betrieb, lange Kontexte und mehrere Nutzer sind 192 bis 256 GB die realistischere Klasse.
Warum das ein zweiter DeepSeek-Moment ist
Der erste DeepSeek-Moment war die Veröffentlichung von R1 Anfang 2025: Ein frei verfügbares Reasoning-Modell zeigte, dass starke Schlussfolgerungsfähigkeit nicht dauerhaft an geschlossene US-APIs gebunden sein muss. V4 Flash verschiebt jetzt eine andere Grenze — die Hardwaregrenze.
DeepSeek kombiniert 284 Milliarden Gesamtparameter mit nur 13 Milliarden aktivierten Parametern pro Token. Dazu kommen ein Kontextfenster von bis zu einer Million Tokens und eine offene MIT-Lizenz. Die Architektur zielt damit nicht nur auf Chat, sondern auf lange Coding-Sitzungen, Dokumentbestände und agentische Workflows. Die offiziellen Gewichte und technischen Eckdaten sind im DeepSeek-Modell-Repository dokumentiert.
Der Durchbruch ist nicht, dass ein Frontier-Modell plötzlich bequem auf jedem PC läuft. Der Durchbruch ist, dass ein Desktop mit großem gemeinsamem Speicher überhaupt in Reichweite kommt.
13B aktiv sind nicht 13B im Speicher
Bei einem Mixture-of-Experts-Modell werden für jeden Token nur ausgewählte Experten berechnet. Das reduziert Rechenaufwand und kann die Generierung beschleunigen. Die Gewichte aller Experten müssen trotzdem im Speicher oder schnell erreichbar bleiben. Deshalb sind drei Zahlen getrennt zu betrachten:
- Gesamtparameter bestimmen zusammen mit dem Zahlenformat vor allem die Größe der Modellgewichte.
- Aktive Parameter bestimmen einen großen Teil des Rechenaufwands pro erzeugtem Token.
- Kontext und Parallelität bestimmen den zusätzlichen Speicher für KV-Cache und Laufzeitdaten.
Je nach Betriebssystem, Backend, Kontextlänge und Umrechnung zwischen GB und GiB kann die Reserve kleiner ausfallen. Ein beworbenes 128-GB-System stellt dem Modell nicht automatisch 128 GiB frei zur Verfügung.
Was auf 128 GB wirklich läuft
| Variante | Gewichte ca. | 128 GB | Einordnung |
|---|---|---|---|
| Offizieller V4-Flash-Checkpoint | ~160 GB | Nein | Mixed FP4/FP8, mehr Speicher nötig |
| Q4_K_M Community-Quant | ~163 GiB | Nein | Gute Qualität, Zielklasse ab 192/256 GB |
| Q2_K-XL Community-Quant | ~100 GiB | Knapp | Interessant für Tests und Einzelplatzbetrieb |
| IQ2_XS / IQ2_XXS | ~73–81 GiB | Ja | Mehr Reserve, aber höheres Qualitätsrisiko |
Die Größen der GGUF-Varianten stammen aus einer Community-Portierung für llama.cpp. Sie ist wertvoll für Evaluation, aber kein offizieller DeepSeek-Build. Unterstützung und Performance hängen noch vom jeweiligen Fork, Backend und Gerät ab. Für ein Unternehmensprojekt sollte deshalb zunächst ein reproduzierbarer Qualitätstest mit den eigenen Dokumenten, Tools und deutschen Prompts erfolgen.
DeepSeek, Qwen, Kimi und GLM: dieselbe Welle, andere Hardwareklasse
2026 bringt mehrere offene Modelle auf Frontier-Niveau. „Open Weight“ sagt jedoch nichts darüber aus, ob ein Modell auf persönlicher Hardware sinnvoll betrieben werden kann.
| Modell | Gesamt / aktiv | 128-GB-Urteil | Beste Rolle |
|---|---|---|---|
| DeepSeek V4 Flash | 284B / 13B | Experimentell | Lokales Frontier-Reasoning und Coding testen |
| Qwen 3.5 122B-A10B | 122B / 10B | Gut passend | Produktiver Allrounder mit Speicherreserve |
| Qwen 3.5 27B | 27B / 27B | Komfortabel | Mehrere Instanzen, RAG und schnellere Antworten |
| GLM-5.2 | 753B / MoE | Nein | Long-Horizon-Agenten auf Multi-GPU/API |
| Kimi K3 | 2,8T / MoE | Nein | Multimodale Agenten auf Cluster/API |
Qwen 3.5 bietet von 27B bis 122B-A10B Größen, die auf 128 GB deutlich mehr Luft für RAG-Kontext, Tool-Aufrufe und parallele Sessions lassen. Die offiziellen Varianten sind in der Qwen-3.5-Sammlung dokumentiert. GLM-5.2 bringt laut Z.ai-Modellkarte rund 753 Milliarden Parameter und 1M Kontext mit. Kimi K3 skaliert laut Moonshot-Modellkarte sogar auf 2,8 Billionen Parameter. Beide sind offen, aber keine 128-GB-Modelle.
Welche 128-GB-Systeme sinnvoll sind
Die Zahl „128 GB“ allein reicht nicht. Entscheidend sind Speicherarchitektur, Bandbreite, Backend-Unterstützung und die Frage, ob der Beschleuniger auf den gesamten Speicherpool zugreifen kann.
NVIDIA GB10 / DGX Spark
128 GB kohärenter Unified Memory und 273 GB/s Bandbreite. Der CUDA-Stack ist für neue Modellarchitekturen attraktiv; DeepSeek-V4-Unterstützung bleibt backendabhängig.
Offizielle Spezifikationen →Mac mit 128 GB Unified Memory
Hohe Speicherbandbreite und ein gemeinsamer Pool sind ideal für große GGUF-/MLX-Modelle. Bei DeepSeek V4 müssen Port und Langzeitstabilität vor dem Einsatz geprüft werden.
Apple-Spezifikationen →Ryzen AI Max+ 395
128 GB LPDDR5x mit 256 GB/s; AMD weist unter Windows bis zu 96 GB als Variable Graphics Memory aus. Sehr gut für Qwen 122B Q4, für DeepSeek V4 Q2_K ist die Reserve besonders knapp.
AMD-Spezifikationen →Was nicht dasselbe ist: 128 GB DDR5 plus kleine GPU
Ein klassischer Desktop mit 128 GB System-RAM und einer 24-GB-GPU kann große Modelle über CPU-Offload starten. Er ist aber nicht mit 128 GB gemeinsamem Beschleunigerspeicher gleichzusetzen. PCIe-Transfers und die niedrigere CPU-Speicherbandbreite reduzieren die Tokenrate. Das kann für Offline-Batchjobs ausreichen, ist für interaktive Mehrnutzer-Chats häufig unbefriedigend.
Unsere Empfehlung für Unternehmen
128 GB vorhanden
Qwen 3.5 122B-A10B Q4 als belastbare Basis evaluieren. DeepSeek V4 Flash Q2 zusätzlich als Technologietest, nicht als zugesagte Produktionsplattform.
DeepSeek V4 ist Pflicht
Für bessere Quantisierung, längeren Kontext und Reserve mindestens 192 bis 256 GB gemeinsamen Speicher oder eine passende Multi-GPU-Konfiguration planen.
Kimi K3 oder GLM-5.2
API oder Rechenzentrum wählen. Ein einzelner 128-GB-Desktop ist dafür nicht die richtige Zielarchitektur — unabhängig davon, wie wenige Experten pro Token aktiv sind.
Vor der Beschaffung: fünf Tests statt Benchmark-FOMO
- Qualität: 30–50 reale deutsche Aufgaben aus dem Zielprozess testen.
- Speicher: Modell, KV-Cache, RAG-Kontext und zwei parallele Nutzer gemeinsam messen.
- Geschwindigkeit: Prompt-Verarbeitung und Generierung getrennt dokumentieren.
- Stabilität: lange Agentenläufe, Tool Calls und Neustarts reproduzierbar prüfen.
- Betrieb: Lizenz, Updateprozess, Logging, Zugriffsschutz und Rollback festlegen.
128 GB sind 2026 die neue ernsthafte Einstiegsklasse für lokale Spitzenmodelle.
DeepSeek V4 Flash beweist, dass starkes Open-Weight-Reasoning persönliche Hardware erreicht. Es beweist noch nicht, dass jedes 128-GB-System ein fertiger Frontier-KI-Server ist. Wer heute zuverlässig arbeiten will, wählt ein Modell mit Reserve. Wer die nächste Generation evaluieren will, findet in V4 Flash den spannendsten Grenzfall.
Weiterlesen
- Open-Source-LLM-Vergleich — Modellfamilien, Lizenzen und Einsatzprofile
- LLM-Hardware-Anforderungen — VRAM, RAM und Quantisierung planen
- vLLM vs. Ollama — Inference Engine für Test und Produktion wählen