Ollama auf 8 GB RAM: Welche Modelle laufen 2026

Hast du einen Laptop mit 8 GB RAM und möchtest KI lokal ausführen? Dieser Artikel ist eine Analyse: Was funktioniert, was kaum läuft, und was sich nicht einmal lohnt herunterzuladen. Ohne Illusionen, mit konkreten Modellen und Befehlen für jede Aufgabe. Wenn du Ollama noch nicht kennst – beginne mit dem Einführungsartikel darüber, was Ollama ist und wozu es benötigt wird.

Aktualisiert: Oktober 2026. Ich habe die Modellgrößen gemäß der Ollama-Bibliothek überprüft und Empfehlungen entfernt, die nicht auf 8 GB passen.

📚 Inhaltsverzeichnis

• 📌 RAM und verfügbarer Speicher
• 📌 Code und Ersatz für Copilot
• 📌 Text und Chat-Modelle
• 📌 Reasoning und Logik
• 📌 CPU vs GPU vs Apple Silicon
• 📌 Quantisierung (Q4 vs Q8)
• 📌 Ollama-Konfiguration für 8 GB
• 📌 Was auf 8 GB nicht funktioniert
• 📌 Reale Geschwindigkeitstests
• ❓ FAQ
• ✅ Schlussfolgerungen

🎯 Wie viel RAM bleibt tatsächlich für das Modell übrig

Kurze Antwort: Mit 8 GB RAM stehen für KI-Modelle realistisch 3–5 GB zur Verfügung. Der Rest wird vom Betriebssystem, dem Browser und Hintergrundprozessen beansprucht. Dies bestimmt die Hauptregel: Auf 8 GB laufen Modelle, die auf der Festplatte bis zu 3–3,5 GB wiegen (normalerweise 3–4B Parameter in 4-Bit-Quantisierung), komfortabel, während 7–8B-Modelle am Limit laufen.

8 GB RAM sind nicht 8 GB für das Modell. Es sind 8 GB minus Betriebssystem, minus Chrome, minus alles, was du vergessen hast zu schließen.

Bevor du ein Modell auswählst, musst du das reale Speicherbudget verstehen. Hier ist eine typische Aufteilung auf einem System mit 8 GB RAM:

• ✔️ Betriebssystem: 1,5–2,5 GB (macOS näher an 2,5, Windows – 2, Linux – 1,5)
• ✔️ Browser (5–10 Tabs): 1–2 GB
• ✔️ IDE (VS Code / IntelliJ): 0,5–1,5 GB
• ✔️ Hintergrundprozesse: 0,3–0,5 GB

Rest für das Modell: 3–5 GB.

Laut LocalLLM.in benötigt ein Modell mit 7B Parametern in Q4_K_M-Quantisierung etwa 4–5 GB, plus 1–2 GB für den KV-Cache und System-Overhead. Das bedeutet: Ein 7B-Modell auf 8 GB ist möglich, aber am Limit, und es ist besser, alles Überflüssige zu schließen.

📏 Festplattengröße ≈ Speichergröße

Die Größe eines Modells in der Ollama-Bibliothek entspricht fast dem Speicherplatz, den seine Gewichte belegen. Dazu kommen noch der KV-Cache (der mit dem Kontextfenster wächst) und der Dienstspeicher. Schau also nicht auf die Anzahl der Parameter im Namen, sondern auf die tatsächliche Größe des Tags. Hier ist, was die Ollama-Bibliothek für die im Artikel behandelten Modelle anzeigt:

🔗 Quellen: Modellseiten in der Ollama-Bibliothek, Größenübersichten bei NeedToKnowIT, Gemma 4-Größen bei iTechGuides. Tags und Größen in Ollama werden aktualisiert, also überprüfe vor dem Download die Modellseite.

Praktische Regel für 8 GB:

• ✔️ Komfortzone: Modelle bis ca. 3,5 GB auf der Festplatte (1–4B Parameter in Q4_K_M) – es bleibt Platz für IDE und Browser
• ✔️ Arbeitszone: Modelle 5–5,5 GB (7–8B in Q4_K_M) – alles Überflüssige muss geschlossen werden
• ❌ Rote Zone: Alles, was über ~6 GB wiegt, und 13B+ Modelle – Abstürze oder Swap auf die Festplatte

⚠️ Besonderheit Mac: Auf Apple Silicon ist der Speicher vereinheitlicht, aber macOS weist der GPU standardmäßig nur einen Teil zu (auf Macs mit 8 GB sind das etwa 5–5,5 GB). Wenn das Modell größer ist, verschiebt Ollama einige Schichten auf die CPU, und die Geschwindigkeit sinkt drastisch.

Fazit: Schließe vor der Modellauswahl den Browser, überprüfe ollama ps und sieh dir den tatsächlichen verbleibenden Speicher an. Auf 8 GB ist jeder Gigabyte Gold wert.

🎯 Für Code: Welches Modell ersetzt Copilot auf 8 GB

Code-Vervollständigung Für die Code-Vervollständigung auf 8 GB sind die besten Optionen im Jahr 2026 Qwen3.5 4B, Qwen3 4B oder Phi-4 Mini (3,8B) in Q4_K_M-Quantisierung. Qwen3.5 4B ist das neueste der drei, mit Multimodalität und großem Kontext, aber auch das schwerste (3,4 GB). Qwen3 4B und Phi-4 Mini wiegen jeweils 2,5 GB.

GitHub Copilot kostet 10 $/Monat. Ein lokales Modell für Code – 0 $/Monat und funktioniert offline. Die einzige Frage ist, welches Modell auf deiner Hardware läuft.

Coding ist eine Aufgabe, bei der auch kleine Modelle nützlich sein können. Autovervollständigung, Generierung von Funktionen, Erklärung von Code, Schreiben von Tests – dafür braucht man kein GPT-4, sondern ein schnelles und präzises Modell, das die Syntax versteht.

Top-Modelle für Code auf 8 GB

1. Qwen3.5 4B (Q4_K_M) – ~3,4 GB

Veröffentlicht im März 2026 als Teil der kleinen Qwen3.5-Serie (0,8B, 2B, 4B, 9B). Das Modell ist nativ multimodal (Text, Bilder), unterstützt den Denkmodus und Tool-Calling, und das 256K-Token-Kontextfenster deckt die meisten realen Codebasen ab. Die Apache 2.0-Lizenz erlaubt die kostenlose kommerzielle Nutzung. Dies ist ein universelles Modell, kein eng spezialisierter Coder, daher solltest du für reinen Code auch die nächste Option in Betracht ziehen.

ollama pull qwen3.5:4b
ollama run qwen3.5:4b "Schreibe eine Funktion zum Sortieren eines Arrays in Python"

⚠️ Zum Denkmodus: Im Reasoning-Modus generiert das Modell zuerst „Gedanken“, wodurch die Antwort länger und langsamer wird. Für Autovervollständigung und einfache Anfragen ist es besser, ihn zu deaktivieren. In Ollama wird das Denken durch das Flag --think oder den Befehl /set nothink im Chat gesteuert, und bei Qwen3-Modellen funktionieren auch die Textschalter /think und /no_think im Prompt.

2. Qwen3 4B (Q4_K_M) – ~2,5 GB

Veröffentlicht im April 2025 und bleibt eine zuverlässige Wahl: leichter als Qwen3.5 4B um ~0,9 GB, was auf 8 GB spürbar ist. Laut Ollama Library kommt es in der Qualität der Antworten an deutlich größere Modelle der vorherigen Generation heran. Wenn Multimodalität nicht benötigt wird und Speicher knapp ist, ist dies die optimale Balance.

ollama pull qwen3:4b
ollama run qwen3:4b "Finde den Fehler in diesem Java-Code: ..."

3. Phi-4 Mini (3.8B) – ~2,5 GB

Ein kompaktes Modell von Microsoft mit 128K Kontext. Laut SitePoint läuft es komfortabel auf Systemen mit 8 GB, insbesondere auf MacBook Air mit M1. Es eignet sich gut für Autovervollständigung, einfache Erklärungen und leichte Chat-Aufgaben.

ollama pull phi4-mini
ollama run phi4-mini "Erkläre den Unterschied zwischen HashMap und TreeMap in Java"

4. Qwen2.5-Coder 1.5B oder 3B – für Hintergrund-Autovervollständigung

Wenn das Modell im Hintergrund zusammen mit VS Code, Browser und Terminal laufen soll, wähle die leichtesten spezialisierten Code-Modelle. Die Qwen2.5-Coder-Serie hat Versionen 1.5B (~1 GB) und 3B (~2 GB) und wurde speziell für Inline-Autovervollständigung entwickelt. Dies ist ein modernerer Ersatz für den alten deepseek-coder:1.3b (2023), den ich in der vorherigen Version empfohlen habe.

ollama pull qwen2.5-coder:3b
# noch leichtere Option
ollama pull qwen2.5-coder:1.5b

Was wählen?

• Qwen2.5-Coder 1.5B / 3B – Autovervollständigung im Hintergrund, Arbeit mit geöffnetem Browser
• Qwen3 4B – Generierung von Funktionen und Erklärung von Code bei minimaler Größe
• Qwen3.5 4B – dasselbe plus Analyse von UI-Screenshots und lange Kontexte
• Phi-4 Mini – universelles Modell für Code und Textaufgaben

Fazit: Auf 8 GB kann man mit lokaler KI coden. Erwarte keine GPT-4-Qualität – aber für die tägliche Autovervollständigung, die Generierung von Boilerplate-Code und Code-Erklärungen ist das mehr als ausreichend. Qwen3.5 4B erwies sich nach Überprüfung der Größen als schwerer als ich zuvor schrieb (3,4 GB statt 2,5 GB), daher hängt die Wahl zwischen ihm und Qwen3 4B auf 8 GB davon ab, wie viel Speicher du bereit bist abzugeben.

🎯 Für Text und Kommunikation: Chat, Übersetzung

Für Textaufgaben Für Textaufgaben auf 8 GB ist die optimale Wahl Llama 3.2 3B für allgemeinen Chat, Gemma 3 4B für Multimodalität und Mehrsprachigkeit, oder Phi-4 Mini wenn Analyse und CPU-Arbeit benötigt werden. Alle drei lassen Platz für andere Software und laufen stabil ohne Hardware-Upgrade.

Nicht jede Aufgabe erfordert GPT-4. Text zusammenfassen, Fragen beantworten, einen Artikel wiedergeben – das erledigt ein Modell, das weniger als ein 4K-Film wiegt.

Textaufgaben sind die breiteste Kategorie: vom einfachen Chat bis zur Analyse von Dokumenten und Übersetzung. Auf 8 GB gibt es hier eine Auswahl. Wenn du bereits qwen3:4b oder qwen3.5:4b aus dem vorherigen Abschnitt heruntergeladen hast – sie erledigen auch Textaufgaben hervorragend. Aber wenn du eine spezialisierte Empfehlung speziell für Text suchst, hier ist die aktuelle Liste.

🇺🇦 Wenn du auf Ukrainisch schreibst. Nicht alle kleinen Modelle funktionieren gleich gut mit Ukrainisch. Zum Beispiel unterstützt Llama 3.2 offiziell 8 Sprachen (Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch, Thai), und Ukrainisch ist nicht darunter. Qwen3 und Gemma geben eine Unterstützung von über 100 Sprachen an, darunter Ukrainisch. Bevor du ein Modell für die tägliche Arbeit auswählst, gib ihm einige deiner typischen Texte und vergleiche das Ergebnis.

Top-Modelle für Text auf 8 GB

1. Llama 3.2 3B (Q4_K_M) – ~2 GB

Laut StudyHUB ist Llama 3.1/3.2 das beliebteste Modell auf Ollama mit über 111 Millionen Downloads. Die 3B-Version ist eine leichtere Variante, behält aber die Qualität in allgemeinen Gesprächen, Zusammenfassungen und Beantwortung von Fragen. Dies ist das leichteste Modell in unserer Liste. Zum Vergleich: Llama 4 Scout, das 2025 veröffentlicht wurde, wiegt in Ollama etwa 67 GB (ein MoE-Modell mit 17B aktiven Parametern), daher ist es für 8 GB nicht geeignet. In der Llama-Familie bleibt 3.2 3B die beste Wahl für 8 GB.

ollama pull llama3.2:3b
ollama run llama3.2:3b "Fasse die Hauptidee dieses Textes zusammen: ..."

2. Gemma 3 4B (Q4_K_M) – ~3,3 GB

Ein Modell von Google DeepMind, das Text und Bilder verarbeiten kann und eine Unterstützung von über 140 Sprachen angibt. Auf 8 GB passt es und lässt Platz für IDE und Browser. Dies ist eine gute Wahl, wenn Multimodalität und Mehrsprachigkeit, einschließlich Ukrainisch, benötigt werden.

ollama pull gemma3:4b
ollama run gemma3:4b "Erstelle eine kurze Beschreibung für dieses Produkt: ..."

⚠️ Und was ist mit Gemma 4? Die neue Generation Gemma 4 (April 2026) ist multimodal, mit Denkmodus und 128K Kontext, aber die Standard-Tags in Ollama sind deutlich schwerer: gemma4:e2b – 7,2 GB, und gemma4:e4b (Standard-Tag) – 9,6 GB. Auf 8 GB passen sie nicht. Es gibt quantisierte QAT-Versionen, die Berichten zufolge etwa 4,3 GB wiegen (e2b), aber überprüfe vor dem Download die aktuellen Tags auf der Gemma 4-Seite. Mehr über Gemma 4 – im Artikel Gemma 4: Vollständiger Überblick – Größen, Lizenz, Vergleich mit Gemma 3 und über den Denkmodus – Denkmodus in Gemma 4: wie man ihn einschaltet, wann er benötigt wird und was er kostet.

3. Phi-4 Mini (3.8B) – ~2,5 GB

Eines der wenigen 3–4B-Modelle mit einem Kontextfenster von 128K Token, das die Analyse langer Dokumente ermöglicht. Laut PromptQuorum läuft es gut auf CPUs ohne dedizierte Grafikkarte, daher ist es für Laptops ohne GPU und sogar Raspberry Pi 4/5 geeignet. Überprüfe die Qualität auf Ukrainisch anhand eigener Beispiele.

ollama pull phi4-mini
ollama run phi4-mini "Übersetze ins Ukrainische: The quick brown fox jumps over the lazy dog"

Was wählen?

• ✔️ Leichteste Option für allgemeinen Chat → Llama 3.2 3B
• ✔️ Multimodalität (Text + Bilder) und Mehrsprachigkeit → Gemma 3 4B
• ✔️ Analyse, lange Dokumente und CPU-only → Phi-4 Mini
• ✔️ Ein Werkzeug für Code und Text → Qwen3 4B oder Qwen3.5 4B (siehe vorheriger Abschnitt)

Fazit: Für Textaufgaben sind 8 GB ein komfortabler Bereich. 2–4B-Modelle laufen schnell, lassen Platz für andere Programme und liefern eine Qualität, die für die meisten täglichen Bedürfnisse ausreicht. Die Hauptregel: Wähle nach der Tag-Größe in Ollama, nicht nach dem schönen Namen einer neuen Generation.

🎯 Für Reasoning, Logik, Code-Debugging

Für Aufgaben, die schrittweises Denken erfordern – Mathematik, logische Rätsel, Debugging komplexen Codes – gibt es auf 8 GB drei reale Optionen: DeepSeek R1 8B als klassisches „denkendes“ Modell, Qwen3 8B für mehrsprachiges Reasoning, und Phi-4 Mini Reasoning als leichtere Option mit Chain-of-Thought.

Ein normales Modell antwortet sofort. Ein Reasoning-Modell denkt zuerst – Schritt für Schritt – und antwortet dann. Wie der Unterschied zwischen „zufällig antworten“ und „auf Papier rechnen“.

Reasoning-Modelle sind eine relativ neue Kategorie. Sie arbeiten nach dem Prinzip Chain-of-Thought: Sie zerlegen die Aufgabe in Schritte, überprüfen Zwischenergebnisse und formulieren erst dann die endgültige Antwort. Der Reasoning-Modus ist jetzt nicht nur in schweren 8B-Modellen verfügbar, sondern auch in kompakten 3–4B-Varianten.

Was auf 8 GB funktioniert

1. DeepSeek R1 8B (Q4_K_M) – ~5,2 GB

Laut StudyHUB liefert dieses Modell bei mathematischen Aufgaben, logischen Rätseln und technischem Reasoning bessere Ergebnisse als Llama 3.1 gleicher Größe. Wichtig: Dies ist nicht das ursprüngliche DeepSeek R1, sondern eine destillierte Version – die Reasoning-Fähigkeiten eines großen Modells wurden auf ein kleineres übertragen. Vor der endgültigen Antwort generiert es sichtbare Denkschritte in den Tags <think> – nützlich für das Debugging, um zu verstehen, warum das Modell zu diesem Schluss gekommen ist. Kompromiss: Es antwortet langsamer und benötigt fast den gesamten verfügbaren Speicher auf einem 8-GB-System.

ollama pull deepseek-r1:8b
ollama run deepseek-r1:8b "Finde den Fehler in dieser SQL-Abfrage: SELECT * FROM users WHERE id = '5' AND active = true GROUP HAVING count > 1"

⚠️ Wichtig: DeepSeek R1 8B belegt ~5,2 GB auf der Festplatte, also ist es auf einem 8-GB-System am Limit – du musst den Browser, die IDE und alles Überflüssige schließen. Auf macOS mit vereinheitlichtem Speicher läuft es stabiler als unter Windows mit integrierter Grafik.

2. Qwen3 8B (Q4_K_M) – ~5,2 GB

Laut LocalLLM.in ist Qwen3 8B eine starke Alternative für Reasoning-Aufgaben, insbesondere in Mathematik und mehrsprachigen Szenarien. Es unterstützt den Denkmodus: Er kann ein- und ausgeschaltet werden, ohne das Modell neu zu laden (/think und /no_think im Prompt). Verwechsle es nicht mit qwen3.5:9b: Dieses Modell wiegt 6,6 GB und passt nicht auf 8 GB, es ist für Systeme mit 16 GB.

ollama pull qwen3:8b
ollama run qwen3:8b "Löse: Wenn 3x + 7 = 22, was ist x?"

3. Phi-4 Mini Reasoning (3.8B) – ~3 GB

Eine spezialisierte Reasoning-Variante von Microsoft, entwickelt für mehrschrittige mathematische Problemlösungen in speicherbeschränkten Umgebungen: symbolische Berechnungen, formale Beweise, komplexe Textbedingungen. Laut Morph ist dies eines der wenigen Reasoning-Modelle, das Platz für paralleles Arbeiten von IDE und Browser lässt. Im Gegensatz zu DeepSeek R1 8B belegt es fast halb so viel Speicher und lässt das System reaktionsfähig. Bei komplexen Aufgaben ist es den 8B-Modellen unterlegen, aber für tägliches Debugging und Analyse reicht dies aus.

ollama pull phi4-mini-reasoning
ollama run phi4-mini-reasoning "Finde die Komplexität des Algorithmus und erkläre Schritt für Schritt: ..."

Was wählen?

• ✔️ Code-Debugging und logische Aufgaben → DeepSeek R1 8B
• ✔️ Mathematik und mehrsprachiges Reasoning → Qwen3 8B
• ✔️ Reasoning mit geöffneter IDE und Browser → Phi-4 Mini Reasoning (~3 GB)

Fazit: Reasoning auf 8 GB ist nicht mehr nur „am Rande des Komforts“. Phi-4 Mini Reasoning ermöglicht schrittweises Denken bei ~3 GB – ohne die Notwendigkeit, alles Überflüssige zu schließen. Für komplexere Aufgaben bleiben DeepSeek R1 8B und Qwen3 8B der Standard, erfordern aber fast den gesamten verfügbaren Speicher. Wenn du planst, regelmäßig mit schweren Reasoning-Aufgaben zu arbeiten – ein Upgrade auf 16 GB eröffnet Zugang zur 14B-Klasse und Qwen3.5 9B, wo der Qualitätsunterschied bereits erheblich ist.

🎯 CPU vs GPU vs Apple Silicon — wo 8 GB unterschiedliche 8 GB sind

8 GB auf einem Mac M1 und 8 GB auf einem Windows-Laptop mit Intel sind zwei unterschiedliche Erfahrungen. Apple Silicon verwendet Unified Memory, bei dem der gesamte Speicher gleichzeitig für CPU und GPU verfügbar ist. Auf einem herkömmlichen PC sind RAM und VRAM separate Pools, und für KI-Modelle ist dies entscheidend.

Ein Mac mit 8 GB ist die beste Option unter den Laptops mit diesem Speicher. Ein Windows-Laptop mit 8 GB und Intel HD Graphics ist ein Kampf um jedes Megabyte.

Apple Silicon (M1/M2/M3/M4) — das beste Szenario für 8 GB

Auf Apple Silicon ist der gesamte Arbeitsspeicher Unified Memory. Das bedeutet, dass die GPU-Einheit des Chips auf dieselben 8 GB zugreifen kann wie die CPU. Ollama verwendet automatisch Metal zur Beschleunigung — ohne zusätzliche Konfiguration.

Schätzungsweise liefern 3–4B-Modelle auf einem M1 mit 8 GB 15–25 Tokens/Sekunde, und 7–8B-Modelle — 8–12 Tokens/Sekunde, und das nur, wenn das Modell vollständig in den Speicher passt (siehe Abschnitt 1 über das GPU-Limit auf Mac). Laut SitePoint läuft Phi-4 Mini auf einem M1 MacBook Air mit etwa 15–20 tok/s, was für die tägliche Arbeit ausreicht.

💡 Messen Sie selbst. Führen Sie das Modell mit dem Flag --verbose aus: ollama run phi4-mini --verbose. Nach jeder Antwort zeigt Ollama die eval rate an — die tatsächliche Generierungsgeschwindigkeit auf Ihrer Hardware. Dies ist genauer als jede Tabelle aus dem Internet.

⚠️ Hinweis zu MLX: Ende März 2026 erhielt Ollama 0.19 das MLX-Backend von Apple (noch als Vorschau), das bei großen Modellen einen fast 2-fachen Geschwindigkeitszuwachs bietet. Es ist jedoch für Macs mit 32 GB+ Unified Memory konzipiert: Laut dem Ollama-Blog und dem Switching to Mac-Leitfaden bleiben Macs mit 8 GB und 16 GB beim vorherigen llama.cpp + Metal ohne Geschwindigkeitsänderungen. Die Details dieser Funktion ändern sich von Release zu Release, prüfen Sie daher die Release Notes der neuesten Ollama-Version. Wenn Sie ein Upgrade auf einen Mac mit 32 GB+ planen, wird MLX ein spürbarer Bonus sein.

Windows / Linux mit dedizierter GPU (RTX 3060, RTX 4060) — ein gutes Szenario

Wenn eine dedizierte Grafikkarte mit 6–8 GB VRAM vorhanden ist, wird das Modell vollständig in den GPU-Speicher geladen, und der System-RAM bleibt für das Betriebssystem und die Software übrig. Laut LocalLLM.in liefert eine RTX 4060 (8 GB VRAM) bei einem 7B-Modell 40+ Tokens/Sekunde — die schnellste Option von allen. Die Hauptbedingung ist, dass das Modell in den VRAM passt. Wenn es nicht passt, werden einige Schichten auf die CPU ausgelagert, und die Geschwindigkeit sinkt drastisch. Prüfen Sie mit dem Befehl ollama ps: In der Spalte Processor sollte 100% GPU stehen.

Windows / Linux ohne GPU (Intel HD / AMD Radeon iGPU) — ein schwieriges Szenario

Ohne dedizierte GPU läuft das Modell vollständig auf der CPU. Ollama wird trotzdem starten — aber die Geschwindigkeit sinkt auf 3–6 Tokens/Sekunde für 7B-Modelle. Für leichtere 3–4B-Modelle (Phi-4 Mini, Llama 3.2 3B) beträgt die tatsächliche Geschwindigkeit auf einer modernen CPU schätzungsweise 8–12 tok/s — durchaus akzeptabel für alltägliche Aufgaben. Laut LocalLLM.in ist die CPU-only-Inferenz für Batch-Aufgaben akzeptabel, aber frustrierend bei interaktiver Nutzung mit großen Modellen.

Zusätzlich wird der System-RAM zwischen Betriebssystem, Software und Modell geteilt — bei 8 GB ist das sehr knapp.

Zusammenfassende Tabelle

Die Werte sind Schätzungen, gesammelt aus externen Tests. Die tatsächliche Geschwindigkeit hängt vom Chip, dem Kontext und Hintergrundprozessen ab.

Fazit: Wenn Sie einen Mac M1+ mit 8 GB haben, sind Sie in der besten Position für lokales KI auf Budget-Hardware, und 3–4B-Modelle werden recht komfortabel laufen. Das MLX-Backend von Ollama ist derzeit auf Macs mit 32 GB+ ausgerichtet, daher bleibt die Geschwindigkeit für 8 GB unverändert. Wenn Sie Windows ohne GPU haben, konzentrieren Sie sich auf 3–4B-Modelle: sie halten das System reaktionsfähig. Mehr Details zur Installation auf verschiedenen Betriebssystemen finden Sie im Artikel So installieren Sie Ollama auf Mac, Windows und Linux.

🎯 Quantisierung einfach erklärt: Q4 vs Q8 und was man bei schwacher Hardware wählen sollte

Kurze Antwort: Quantisierung ist eine Modellkomprimierung, die die Modellgröße um das 2- bis 4-fache reduziert bei minimalem Qualitätsverlust. Für 8 GB ist die optimale Wahl Q4_K_M: der beste Kompromiss zwischen Größe, Geschwindigkeit und Antwortqualität.

Quantisierung ist wie JPEG für Fotos. Die Datei ist kleiner, der Unterschied ist kaum merklich. Aber wenn man zu stark komprimiert, sinkt die Qualität merklich.

Wenn Sie in der Ollama-Modellbezeichnung Tags wie :7b-q4_0, :8b-instruct-q8_0 oder :3b-q4_k_m sehen, handelt es sich um die Angabe des Quantisierungsgrads. Die Zahl nach „q“ gibt die Anzahl der Bits pro Parameter an. Für die meisten Modelle ist der Standard-Tag in Ollama bereits Q4_K_M, daher müssen Sie nichts weiter angeben.

Quantisierungsgrade: Was die Tags bedeuten

• ✔️ Q8 (8-Bit): Maximale Qualität, größte Größe. Für ein 7B-Modell — ~8 GB. Passt nicht in 8 GB RAM.
• ✔️ Q5_K_M (5-Bit): Ein Zwischenschritt zwischen Q4 und Q8. Für 7B — ~5,5 GB. Passt in 8 GB RAM nur, wenn eine GPU mit 6–8 GB VRAM vorhanden ist und höhere Genauigkeit benötigt wird.
• ✔️ Q4_K_M (4-Bit, K-Quant Medium): Optimaler Kompromiss. Für 7B — ~4–5 GB. Empfohlen für 8 GB Systeme.
• ✔️ Q4_K_S (4-Bit, K-Quant Small): Etwas kleiner als Q4_K_M, etwas geringere Qualität.
• ✔️ IQ4_XS (Importance Matrix, 4-Bit): Ein neueres Format. Laut RunAIHome liefert es fast die gleiche Qualität wie Q4_K_M, benötigt aber ~400 MB weniger für ein 8B-Modell. Nützlich, wenn Q4_K_M gerade so nicht passt. Verfügbar als Tag auf Hugging Face, nicht immer in der Ollama-Bibliothek vorhanden.
• ✔️ QAT-Versionen: Einige Modelle (z. B. aus der Gemma-Familie) haben Varianten, die mit Berücksichtigung der Quantisierung trainiert wurden. Wenn für das gewünschte Modell ein Tag mit der Bezeichnung qat vorhanden ist, vergleichen Sie es mit Q4_K_M in Bezug auf Größe und Qualität.
• ⚠️ Q2_K (2-Bit): Minimale Größe (~2,5 GB für 7B), aber spürbare Qualitätsverschlechterung. Die äußerste Option.

Das Suffix „K“ steht für neuere Quantisierungsmethoden (K-Quant), die die Genauigkeit intelligenter zwischen den Modellschichten verteilen. K-Quant-Tags sind immer besser als Legacy-Varianten (q4_0, q4_1) bei gleicher Größe.

Größe von Modellen unterschiedlicher Quantisierungen

Die Größe von Q4_K_M sind die tatsächlichen Größen der Standard-Tags aus der Ollama-Bibliothek, Q8 und Q2_K sind ungefähre Schätzungen.

Quellen: Ollama-Bibliothek, LocalAIMaster, RunAIHome. Achtung: Bei einigen neuen Modellen ist der Standard-Tag nicht Q4_K_M, sondern schwerer (wie bei Gemma 4, siehe Abschnitt 3), daher immer die tatsächliche Größe des Tags beachten.

Regel für 8 GB: Wählen Sie immer Q4_K_M. Wenn es nicht passt, reduzieren Sie die Modellgröße (3B statt 7B) und nicht den Quantisierungsgrad (Q2 statt Q4). Ein kleineres Modell mit Q4 liefert eine bessere Qualität als ein größeres mit Q2. Ausnahme: Wenn Q4_K_M buchstäblich um 100–400 MB nicht passt, versuchen Sie IQ4_XS, wenn ein solcher Tag für das gewünschte Modell auf Hugging Face vorhanden ist.

Mehr über Komprimierungstechniken und deren Einfluss auf die Qualität erfahren Sie in unserem Artikel über Modellquantisierung (INT4, INT8).

Fazit: Q4_K_M ist der Goldstandard für 8 GB und hat seine Relevanz nicht verloren. Lassen Sie sich nicht verführen, Q8 „für die Qualität“ herunterzuladen — das Modell passt nicht in den Speicher und Sie erhalten Swap auf die Festplatte. Alternativen am Horizont sind IQ4_XS und QAT-Versionen: etwas kleiner oder bessere Qualität, aber nicht für jedes Modell.

🎯 Ollama für maximale Leistung auf schwacher Hardware optimieren

Einige Umgebungsvariablen und eine Gewohnheit (unnötiges schließen) — das ist alles, was nötig ist, um das Maximum aus 8 GB herauszuholen. Die Konfiguration dauert einige Minuten, aber der Unterschied in der Stabilität ist spürbar.

Auf leistungsstarker Hardware funktioniert Ollama „einfach“. Auf schwacher Hardware muss man ihr helfen, den Speicher nicht für Dinge zu verschwenden, die man nicht braucht.

Standardmäßig verwendet Ollama ein Kontextfenster von 4096 Tokens, kann bis zu drei Modelle gleichzeitig im Speicher halten und verarbeitet eine parallele Anfrage pro Modell. Auf 8 GB ist das Halten mehrerer Modelle ein überflüssiger Luxus. Hier ist, was Sie konfigurieren sollten:

🔗 Quellen: Ollama-Dokumentation (FAQ), DEV Community, SSD Nodes.

Grundlegende Umgebungsvariablen

# Nur ein Modell im Speicher halten
export OLLAMA_MAX_LOADED_MODELS=1

# Eine parallele Anfrage (dies ist der Standardwert, zur Sicherheit fixieren)
export OLLAMA_NUM_PARALLEL=1

# Kontextfenster: 2048 für einfache Aufgaben, 4096 für Reasoning
export OLLAMA_CONTEXT_LENGTH=2048

⚠️ Achtung: In der vorherigen Version des Artikels habe ich die Variable OLLAMA_CTX_SIZE angegeben. Eine solche Variable gibt es in der Ollama-Dokumentation nicht, der richtige Name ist OLLAMA_CONTEXT_LENGTH. Wenn Sie die alte installiert haben, hat die Konfiguration nicht funktioniert.

Variablen zum Sparen des KV-Caches (GPU und Apple Silicon)

Wenn Sie Ollama auf einer GPU (NVIDIA, AMD) oder Apple Silicon (M1+) ausführen, stellen Sie zusätzlich diese beiden Variablen ein. Sie existieren seit Ende 2024 und reduzieren den KV-Cache etwa um die Hälfte, ohne spürbaren Qualitätsverlust für die meisten Aufgaben.

# Flash Attention — eine zwingende Voraussetzung für die KV-Cache-Quantisierung
export OLLAMA_FLASH_ATTENTION=1

# KV-Cache in 8-Bit — etwa halb so viel Speicher für den Cache
export OLLAMA_KV_CACHE_TYPE=q8_0

⚠️ Wichtig: OLLAMA_KV_CACHE_TYPE funktioniert nur, wenn OLLAMA_FLASH_ATTENTION=1 aktiviert ist. Laut SSD Nodes spart q8_0 etwa die Hälfte des Speichers im Vergleich zu f16, und q4_0 — etwa ein Viertel, aber q4_0 kann die Qualität merklich verschlechtern, daher reichen für 8 GB q8_0 aus. Cache-Quantisierung kann die Generierungsgeschwindigkeit leicht reduzieren. Wenn nach der Aktivierung ein Modell nicht geladen wird, verdächtigen Sie zuerst OLLAMA_KV_CACHE_TYPE und versuchen Sie, es zu entfernen. Für reine CPU-Systeme bringen diese Variablen keinen Nutzen.

Wo Variablen gesetzt werden

• 🍎 macOS (Ollama-App): über launchctl setenv NAME Wert, dann Ollama neu starten. Zeilen in ~/.zshrc funktionieren nur, wenn Sie den Server manuell mit dem Befehl ollama serve im Terminal starten
• 🐧 Linux (systemd): in systemctl edit ollama.service fügen Sie die Zeilen Environment="NAME=Wert" in die Sektion [Service] ein und starten Sie den Dienst neu
• 🪟 Windows: setzen Sie Benutzer- oder Systemumgebungsvariablen und starten Sie Ollama aus dem System-Tray neu

Der Kontext kann auch ohne Umgebungsvariablen geändert werden: im Chat mit dem Befehl /set parameter num_ctx 4096 oder mit dem Parameter num_ctx in der Modelfile.

Vor dem Starten eines Modells

Klingt banal, ist aber bei 8 GB entscheidend:

• ✔️ Schließen Sie den Browser oder lassen Sie maximal 2–3 Tabs offen
• ✔️ Schließen Sie Slack, Discord, Spotify — jedes Programm frisst 200–500 MB
• ✔️ Überprüfen Sie die aktuelle Auslastung: ollama ps zeigt geladene Modelle und den Anteil von GPU/CPU
• ✔️ Wenn ein altes Modell noch im Speicher ist — ollama stop modellname

Modelfile für Feinabstimmung

Wenn Sie mehr Kontrolle wünschen, erstellen Sie eine Modelfile mit optimierten Parametern:

FROM phi4-mini
PARAMETER num_ctx 2048
PARAMETER num_thread 4
PARAMETER temperature 0.7

Speichern Sie die Datei als Modelfile und erstellen Sie Ihre eigene Modellversion:

ollama create phi4-mini-lite -f Modelfile
ollama run phi4-mini-lite

num_ctx 2048 — reduziert das Kontextfenster (weniger RAM für KV-Cache). num_thread 4 — begrenzt die Anzahl der CPU-Threads, damit das System reaktionsfähig bleibt. Dies ist ein Modelfile-Parameter, keine Umgebungsvariable.

Eine Schritt-für-Schritt-Anleitung zur Installation und zum ersten Start finden Sie im Artikel So installieren Sie Ollama auf Mac, Windows und Linux: Vollständiger Leitfaden 2026.

Fazit: Ein Modell im Speicher + sinnvoller Kontext + geschlossene unnötige Programme = stabiles Arbeiten auf 8 GB. Wenn eine GPU oder Apple Silicon vorhanden ist, fügen Sie OLLAMA_FLASH_ATTENTION=1 und OLLAMA_KV_CACHE_TYPE=q8_0 hinzu: Laut Ollama-Dokumentation reduziert dies den Speicher für den KV-Cache etwa um die Hälfte. Ohne grundlegende Einstellungen kann selbst ein leichtes Modell zu Swap auf die Festplatte führen.

🎯 Was Sie bei 8 GB NICHT ausprobieren sollten

Kurze Antwort: Modelle ab 13B, beliebige Modelle in Q8-Quantisierung, Versuche, zwei Modelle gleichzeitig zu halten, und MoE-Modelle mit großer Gesamtgröße — garantierte Enttäuschung bei 8 GB. Hier sind typische Fallen, auf die fast jeder stößt, der lokales KI auf solcher Hardware ausprobiert.

Jeder, der mit Ollama auf 8 GB gearbeitet hat, durchläuft dieselbe Phase: „Vielleicht passt 14B doch noch hinein?“ Nein, das tut es nicht.

❌ Modelle 13–14B und größer

Qwen3 14B (9,3 GB in der Ollama-Bibliothek), DeepSeek R1 14B (9 GB), CodeLlama 13B — selbst in Q4-Quantisierung benötigen sie 8–9 GB nur für die Modellgewichte. Fügen Sie den KV-Cache und das Betriebssystem hinzu, und Sie erhalten ein System, das ständig auf die Festplatte swappt: das Laden dauert Minuten, und die Geschwindigkeit sinkt auf 1–2 Tokens pro Sekunde mit ständigen Pausen. Dies ist für die interaktive Nutzung nicht praktikabel.

❌ Jedes 7B-Modell in Q8-Quantisierung

Die Q8-Version eines 7B-Modells wiegt etwa 8 GB — das ist Ihr gesamter Arbeitsspeicher. Das Betriebssystem verschwindet nicht magisch, daher hängt sich das System auf oder beginnt zu swappen. Verwenden Sie immer Q4_K_M für 7B-Modelle auf 8 GB.

❌ Zwei Modelle gleichzeitig

Standardmäßig kann Ollama mehrere Modelle im Speicher halten (bis zu drei). Auf 16 GB ist das praktisch — Sie wechseln sofort zwischen den Modellen. Auf 8 GB ist dies ein Rezept für einen Swap-Sturm. Halten Sie OLLAMA_MAX_LOADED_MODELS=1 und vergessen Sie nicht ollama stop, bevor Sie ein anderes Modell laden.

❌ Große Kontextfenster (8K+ Tokens)

Jede Verdoppelung des Kontextfensters bedeutet zusätzliche Hunderte von Megabyte für den KV-Cache. Auf 8 GB halten Sie den Kontext maximal bei 4096 Tokens (das ist ohnehin der Standardwert). Ein 10-seitiges Dokument vollständig an das Modell zu übergeben, ist nicht möglich, es muss in Teile zerlegt werden. Teilweise helfen OLLAMA_FLASH_ATTENTION=1 + OLLAMA_KV_CACHE_TYPE=q8_0 aus dem Abschnitt über die Konfiguration — sie reduzieren den KV-Cache etwa um die Hälfte. Aber 8K+ auf 8 GB bleibt eine Risikozone.

❌ MoE-Modelle mit großer Gesamtgröße (Mixtral, Llama 4 Scout, Qwen3.5/3.6 35B-A3B)

Die MoE-Architektur (Mixture of Experts) ist irreführend mit ihren Namen. Mixtral 8x7B aktiviert nur 2 von 8 „Experten“ pro Token — aber alle 8 müssen gleichzeitig im Speicher sein, und das sind 26+ GB in Q4. Llama 4 Scout (Jahr 2025) sieht aus wie „17B“, aber in der Ollama-Bibliothek wiegt sein Tag llama4:16x17b etwa 67 GB. Modelle wie Qwen 35B-A3B aktivieren nur 3B Parameter pro Token, halten aber alle 35B im Speicher — das sind 20+ GB in Q4. Die Regel ist einfach: schauen Sie auf die Gesamtgröße des Tags in der Ollama Library, nicht auf die Anzahl der aktiven Parameter.

❌ Denkmodus mit winzigem Kontext

Qwen3 8B, Qwen3.5 4B und Phi-4 Mini Reasoning generieren „Denk-Tokens“ vor der endgültigen Antwort — manchmal Tausende von internen Überlegungs-Tokens. Diese Tokens nehmen ebenfalls Platz im Kontext ein. Bei komplexen Aufgaben kann eine Denk-Kette 2000–5000 Tokens beanspruchen, noch bevor das Modell mit der Antwort beginnt. Wenn der Kontext zu klein ist, wird die Überlegung abgebrochen oder die Antwort ist leer oder abgeschnitten; wenn er groß ist, wächst der KV-Cache und das Modell verlangsamt sich. Lösung: Für Reasoning-Aufgaben halten Sie den Kontext nicht kleiner als 4096 und schalten Sie das Denken für einfache Anfragen aus (mit dem Flag --think=false, dem Befehl /set nothink oder dem Schalter /no_think bei Qwen3-Modellen).

Allgemeine Regel: Wenn ollama run länger als 30 Sekunden zum Laden braucht und die erste Antwort nach einer Minute kommt — das Modell ist zu groß für Ihr System. Warten Sie nicht, dass es sich „aufwärmt“ — schließen Sie es und wählen Sie ein kleineres Modell.

Ein Vergleich von Modellen nach Größe, Qualität und Aufgaben finden Sie im Artikel Top 10 Ollama-Modelle 2026: Welches soll man wählen.

Fazit: Die typische Geschichte sieht so aus: Jemand denkt, dass ein größeres Modell ein besseres Ergebnis liefert, lädt 13–14B herunter, wartet eine Minute auf die erste Antwort und löscht es. Nach dem Wechsel zu 3–4B steigt die Leistung sofort. Auf 8 GB ist die bessere Strategie, ein Modell zu wählen, das schnell und stabil läuft, als sich mit einem zu quälen, das „fast passt“. Zu den klassischen Fallen kommt eine weitere hinzu — der Denkmodus: neue Modelle denken laut und verbrauchen leise Ihren Kontext noch vor dem ersten Wort der Antwort.

🎯 Orientierungsgeschwindigkeit: Was Sie in der Praxis erwarten können

Kurze Antwort: Auf einem Mac M1 mit 8 GB liefern 3–4B-Modelle etwa 15–28 Tokens/Sekunde, und 7–8B-Modelle 8–12 Tokens/Sekunde. Auf einem reinen CPU-Windows-Laptop sind große Modelle zwei- bis dreimal langsamer, aber 3–4B-Modelle liefern auf modernen CPUs 8–12 Tokens/Sekunde – das reicht bereits für komfortables Arbeiten. Unten finden Sie eine Übersichtstabelle zur Orientierung.

Benchmarks im Internet werden oft auf einem sauberen System ohne andere Software durchgeführt. In der Realität – mit geöffnetem VS Code und 5 Chrome-Tabs – werden die Zahlen niedriger sein.

⚠️ Ehrlich über die Herkunft der Zahlen. Dies sind keine eigenen Messungen, sondern eine Zusammenfassung aus offenen Tests (LocalLLM.in, SitePoint, LocalAIMaster). Sie sollten als Richtwerte verstanden werden. Unten zeige ich, wie Sie in zwei Minuten die tatsächliche Geschwindigkeit auf Ihrer Hardware messen können.

Übersichtstabelle der Leistung

Die Daten sind Richtwerte, gesammelt von LocalLLM.in, SitePoint und LocalAIMaster. Die tatsächliche Geschwindigkeit hängt von der Systemauslastung, der Kontextgröße und Hintergrundprozessen ab. Für GPU und Apple Silicon kann das Aktivieren von OLLAMA_FLASH_ATTENTION=1 bei langen Kontexten helfen. Gemma 4 E4B ist bewusst nicht in der Tabelle: sein Standard-Tag (9,6 GB) passt nicht auf 8 GB.

📏 Wie Sie die Geschwindigkeit auf Ihrer Hardware messen

ollama run phi4-mini --verbose
# Nach der Antwort schauen Sie auf die Zeile "eval rate: ... tokens/s" – das ist die Generierungsgeschwindigkeit

ollama ps
# In der Spalte PROCESSOR sollte "100% GPU" stehen (falls eine GPU vorhanden ist) – andernfalls sind einige Schichten auf der CPU

Die Zeile eval rate ist die tatsächliche Geschwindigkeit der Antwortgenerierung; prompt eval rate zeigt, wie schnell das Modell Ihre Anfrage verarbeitet. Messen Sie mit den Programmen, die normalerweise geöffnet sind (IDE, Browser), dann sind die Zahlen ehrlich.

Was bedeuten diese Zahlen in der Praxis?

• ✔️ 15+ tok/s: Komfortabler interaktiver Chat – die Antwort erscheint schneller, als Sie sie lesen können
• ✔️ 8–15 tok/s: Man kann damit arbeiten, aber bei langen Antworten spürt man eine Verzögerung
• ⚠️ 3–6 tok/s: Akzeptabel für einmalige Aufgaben (Debugging, Analyse), frustrierend bei aktivem Chat
• ❌ <3 tok/s: Das Modell ist zu groß für dieses System

Fazit: Für die tägliche Arbeit auf 8 GB sollten Sie sich an 3–4B-Modelle halten – sie liefern 15–28 tok/s auf Apple Silicon und 8–12 tok/s auf der CPU und halten das System reaktionsfähig. Phi-4 Mini zeichnet sich durch den besten CPU-Wert seiner Klasse aus (~12 tok/s auf einem modernen i7) – wesentlich besser als Phi-3 Mini, das es ersetzt hat. 7–8B-Modelle (Qwen3 8B, DeepSeek R1 8B) sind für spezifische Aufgaben, wenn Sie bereit sind, alles Überflüssige zu schließen und zu warten.

❓ Häufig gestellte Fragen (FAQ)

Kann ich Ollama auf einem Laptop mit 8 GB RAM ausführen?

Ja. Modelle mit 1–4 Milliarden Parametern (Phi-4 Mini, Llama 3.2 3B, Qwen3 4B) laufen komfortabel auf jedem System mit 8 GB. Modelle mit 7–8 Milliarden Parametern laufen am Limit – Sie müssen unnötige Programme schließen. Mehr Details finden Sie im Leitfaden zur Installation von Ollama.

Welches ist das beste Modell für 8 GB RAM?

Das hängt von der Aufgabe ab. Für Code – Qwen3 4B (2,5 GB) oder Qwen3.5 4B (3,4 GB). Für Text und Chat – Llama 3.2 3B oder Gemma 3 4B. Für Reasoning und Debugging – DeepSeek R1 8B (am Limit von 8 GB) oder Phi-4 Mini Reasoning (eine leichtere Version mit Chain-of-Thought). Ein Werkzeug für alles – Qwen3.5 4B: multimodal, 256K Kontext, Denkmodus, aber schwerer als Qwen3 4B. Ein vollständiger Vergleich der Modelle – im Artikel Top-10 Ollama-Modelle im Jahr 2026.

Brauche ich eine GPU für Ollama?

Nein, Ollama läuft auch auf der CPU. Aber mit einer GPU (dediziert oder Apple Silicon) ist die Geschwindigkeit um ein Vielfaches höher. Auf einem reinen CPU-System mit 8 GB halten Sie sich an 3–4B-Modelle für komfortables Arbeiten. Phi-4 Mini ist eine der besten Optionen für reine CPU-Systeme: Laut externen Testergebnissen etwa 12 Tokens/Sekunde auf einem modernen i7 ohne GPU.

Was ist besser: ein 7B-Modell in Q2 oder ein 3B-Modell in Q4?

Fast immer – 3B in Q4. Aggressive Quantisierung (Q2) reduziert die Qualität der Antworten erheblich, insbesondere bei komplexen Aufgaben. Ein kleineres Modell mit normaler Quantisierung liefert ein besseres Ergebnis. Wenn Q4_K_M buchstäblich ein paar hundert MB zu viel ist – probieren Sie IQ4_XS für dasselbe Modell, wenn ein solches Tag auf Hugging Face verfügbar ist.

Unterstützen kleine Modelle die ukrainische Sprache?

Unterschiedlich. Llama 3.2 unterstützt offiziell 8 Sprachen, Ukrainisch ist nicht darunter. Qwen3 und Gemma geben Unterstützung für über 100 Sprachen an, einschließlich Ukrainisch. Die Qualität des Ukrainischen in jedem Modell sollte am besten mit eigenen Texten überprüft werden: Geben Sie einige typische Anfragen ein und vergleichen Sie die Antworten.

Kann Ollama auf 8 GB ChatGPT ersetzen?

Für alltägliche Aufgaben – Zusammenfassen, einfache Fragen, Code-Generierung – ja. Für grundlegende Multimodalität (Analyse von Bildern, Screenshots) – auch: Gemma 3 4B und Qwen3.5 4B akzeptieren Bilder. Für komplexe mehrstufige Analysen, Arbeit mit großem Kontext und Aufgaben, die maximale Genauigkeit erfordern – Cloud-Modelle sind bisher stärker. Der optimale Ansatz ist ein Hybrid: Ollama für regelmäßige Aufgaben, ChatGPT/Claude für komplexe. Mehr Details – im Artikel Ollama vs ChatGPT vs Claude: Wann lokales KI besser ist.

Wie viel Speicherplatz wird benötigt?

Ein 3–4B-Modell in Q4 – etwa 2–3,5 GB auf der Festplatte. Drei Modelle für verschiedene Aufgaben – 7–9 GB. Ollama speichert Modelle in ~/.ollama, heruntergeladene Modelle können mit dem Befehl ollama rm modellname gelöscht werden.

Lohnt sich ein Upgrade auf 16 GB?

Wenn Sie planen, regelmäßig mit lokaler KI zu arbeiten – definitiv ja. 16 GB ermöglichen den Zugriff auf Modelle mit 9–14 Milliarden Parametern (Qwen3.5 9B mit 6,6 GB, Qwen3 14B mit 9,3 GB), 7B-Modelle in höherer Qualität und komfortable Arbeit mit großen Kontextfenstern. Das MLX-Backend von Ollama ist derzeit auf Macs mit 32 GB+ ausgerichtet, sodass 16 GB es nicht freischalten. Der Unterschied in den Möglichkeiten zwischen 8 und 16 GB ist der größte im gesamten Spektrum.

✅ Schlussfolgerungen

8 GB Arbeitsspeicher sind kein Urteil für lokales KI, aber es ist eine Grenze, die bewusste Entscheidungen erfordert. Hier sind die wichtigsten Punkte:

• ✔️ 3–4B-Modelle – Komfortzone: Phi-4 Mini, Llama 3.2 3B, Qwen3 4B, Qwen3.5 4B, Gemma 3 4B laufen schnell und stabil und lassen Platz für IDE und Browser
• ✔️ 7–8B-Modelle – Arbeitszone: DeepSeek R1 8B, Qwen3 8B laufen am Limit (je 5,2 GB), liefern aber spürbar bessere Qualität für spezifische Aufgaben
• ✔️ Q4_K_M – die einzig sinnvolle Quantisierungsoption auf 8 GB: Ein kleineres Modell mit Q4 ist immer besser als ein größeres mit Q2
• ✔️ Apple Silicon mit 8 GB – die beste Budget-Option: Unified Memory bietet einen Vorteil gegenüber reinen CPU-Systemen
• ✔️ Nicht ausprobieren: Modelle 13B+, Q8, zwei Modelle gleichzeitig, MoE mit großer Gesamtgröße und Denkmodus ohne ausreichenden Kontext
• ✔️ Achten Sie auf die Tag-Größe, nicht auf den Namen: Neue Generationen wie Gemma 4 haben standardmäßig größere Tags und passen nicht auf 8 GB

Ich selbst nutze genau diesen Ansatz: Ich behalte mehrere Modelle für verschiedene Aufgaben – eines für Code, ein anderes für Text, ein separates für Debugging. Jedes Modell hat seine Stärke, und anstelle eines großen, das möglicherweise nicht in den Speicher passt, ist es besser, 2–3 spezialisierte leichte zu haben. Das Umschalten zwischen ihnen über ollama run ist eine Sache von Sekunden.

Wenn Sie gerade erst anfangen – installieren Sie Ollama mit unserem Leitfaden, laden Sie phi4-mini herunter und probieren Sie es aus. In fünf Minuten haben Sie ein funktionierendes lokales KI – ohne Abonnements, ohne Internet, ohne Datenübertragung nach außen.

Und wenn Sie eine Website, einen Blog oder eine Webanwendung mit integrierter KI-Funktionalität benötigen – kontaktieren Sie uns bei WebsCraft, wir helfen Ihnen bei der Umsetzung.

📖 Quellen

• Ollama Model Library – Offizielles Modellregister und Tag-Größen
• Ollama – Offizielle Dokumentation und FAQ – OLLAMA_CONTEXT_LENGTH, OLLAMA_FLASH_ATTENTION, OLLAMA_KV_CACHE_TYPE, OLLAMA_MAX_LOADED_MODELS
• Ollama Blog – MLX auf Apple Silicon (März 2026)
• Switching to Mac – Ollama MLX: Speicheranforderungen
• SSD Nodes – Ollama KV Cache Quantization: q8_0 vs f16
• NeedToKnowIT – Ollama Models and Download Sizes – Zusammenfassung der Tag-Größen
• iTechGuides – Gemma 4 in Ollama: Tag-Größen
• LocalLLM.in – Ollama VRAM Requirements: Complete 2026 Guide
• LocalLLM.in – Best Local LLMs for 8GB VRAM
• SitePoint – Best Local LLM Models 2026: Developer Comparison
• LocalAIMaster – Best Ollama Models 2026: 15 Ranked
• LocalAIMaster – Best AI Models for 8GB RAM in 2026
• LocalAIMaster – Ollama RAM & VRAM Calculator: Every Model
• LocalAIMaster – Phi-4 Mini: Microsoft's Best Small Model (3.8B)
• StudyHUB – Best Ollama Models in 2026: Top 10 Ranked
• RunAIHome – Quantization Q4/Q5/Q6/Q8: Quality Loss in 2026
• Morph – Best Ollama Models: Ranked for Coding, RAG & Agents