Ollama 0.30 ist mit Unterstützung für GGUF-Modelle von Hugging Face, Beschleunigung auf NVIDIA und Vulkan, das jetzt standardmäßig aktiv ist, erschienen. Dieses Update ist nicht wegen einzelner Zahlen interessant, sondern weil Ollama immer enger mit llama.cpp zusammenwächst – und das beeinflusst, welche Modelle du morgen ausführen kannst.
Unten ist eine Analyse ohne Marketing: was sich wirklich geändert hat, für wen es wichtig ist und wo die Fallstricke liegen, über die die Pressemitteilung schweigt. Wenn du mit Ollama noch nicht vertraut bist – beginne mit dem Einführungsartikel darüber, was Ollama ist und wozu es benötigt wird.
Kurz gesagt: Das Wichtigste in 0.30 ist die tiefere Integration mit llama.cpp, die das gesamte GGUF-Ökosystem eröffnet, Vulkan standardmäßig und eine spürbare Beschleunigung auf NVIDIA. Für die meisten Benutzer ist das Nützlichste die Möglichkeit, jedes GGUF-Modell von Hugging Face mit ein oder zwei Befehlen auszuführen.
Inhalt
- Was ist neu in Ollama 0.30 – kurz
- Tiefere Integration mit llama.cpp: warum das wichtig ist
- Unterstützung für GGUF von Hugging Face
- Beschleunigung auf NVIDIA: ohne Marketing
- Vulkan standardmäßig – mit Nuancen
- Tool Calling und Coding Agents: ollama launch
- Welche Modelle sind jetzt einfacher auszuführen
- Lohnt sich ein Update auf 0.30
- FAQ
- Schlussfolgerungen
Was ist neu in Ollama 0.30 – kurz
Ollama 0.30 ist keine einmalige neue Funktion, sondern ein Paket von Änderungen rund um eine Entscheidung: engere Zusammenarbeit mit llama.cpp über der MLX-Engine auf Apple Silicon. Laut dem offiziellen Ollama-Blog bringt das Release verbesserte Leistung und GGUF-Modellkompatibilität über llama.cpp, ergänzt die MLX-Engine auf Apple Silicon und erweitert die Hardwareunterstützung.
Die wichtigsten Änderungen in einer Liste:
- Unterstützung für GGUF von Hugging Face – Sie können jedes GGUF-Modell von Hugging Face oder eigene fine-tuned Modelle über eine einfache Modelfile ausführen. Erweiterte Kompatibilität bedeutet, dass mehr Modellfamilien "out of the box" funktionieren.
- Beschleunigung auf NVIDIA – bis zu 20 % schneller durch Optimierungen von NVIDIA- und llama.cpp-Teams.
- Vulkan standardmäßig – breitere Unterstützung für AMD- und Intel-GPUs, wenn das entsprechende Backend installiert ist.
- Tool Calling wird auf Coding Agents übertragen – Wenn das Modell Tool-Aufrufe unterstützt, kann es über
ollama launch mit Claude Code, Codex oder OpenCode verbunden werden.
Weiter geht es mit jedem Punkt im Detail, mit Schwerpunkt darauf, was dies in der Praxis bedeutet und nicht in der Pressemitteilung.
Tiefere Integration mit llama.cpp: warum das wichtig ist
llama.cpp ist eine Low-Level-Engine für LLM-Inferenz, geschrieben in C/C++, die das Rückgrat eines riesigen Teils des lokalen KI-Ökosystems bildet. Die meisten neuen Open-Weight-Modelle erscheinen zuerst im GGUF-Format für llama.cpp – und erst dann in anderen Tools.
Das GGUF (GPT-Generated Unified Format)-Format selbst ist eine Möglichkeit, ein Modell in einer einzigen Datei zu verpacken: Gewichte, Tokenizer und Metadaten zusammen, bereits quantisiert. Genau in diesem Format speichert llama.cpp Modelle, und genau das versteht Ollama jetzt direkt. Einfach ausgedrückt: GGUF ist der "Container" des Modells, und llama.cpp ist die Engine, die ihn ausführt.
Hugging Face ← hier liegen die GGUF-Dateien der Modelle
↓ herunterladen .gguf
GGUF ← Format: Gewichte + Tokenizer + Metadaten in einer Datei
↓ liest
llama.cpp ← Inferenz-Engine (C/C++)
↓ umschließt, fügt API / CLI / Modellverwaltung hinzu
Ollama ← bequeme Schicht über llama.cpp
Ollama hat llama.cpp schon immer als Backend verwendet, aber in 0.30 ist diese Integration enger geworden. Die praktische Konsequenz ist einfach: je näher Ollama an llama.cpp ist, desto schneller werden neue Modelle in Ollama verfügbar – ohne darauf warten zu müssen, dass das Team eine separate Unterstützung für die Architektur schreibt.
Die Logik ist folgende: Modelle erscheinen zuerst für llama.cpp. Engere Integration bedeutet, dass die Lücke zwischen "Modell ist erschienen" und "Modell läuft in Ollama" kleiner wird.
Es gibt auch eine Kehrseite, die man ehrlich kennen sollte: Ollama verwendet eine *vendored* (eingebettete) Version von llama.cpp, die nicht immer mit den neuesten Commits Schritt halten kann. Historisch hat dies zu Leistungslücken geführt – zum Beispiel auf AMD über Vulkan, wo einige Optimierungen von llama.cpp mit Verzögerung in Ollama kamen. "Integration mit llama.cpp" bedeutet also nicht "sofort alle neuesten Optimierungen" – es bedeutet "deutlich weniger Lücke als zuvor".
Unterstützung für GGUF mit Hugging Face
Dies ist wahrscheinlich die nützlichste Änderung für die tägliche Arbeit. Zuvor musste man Umwege finden, um ein Modell auszuführen, das nicht im offiziellen Ollama-Repository enthalten war. Jetzt können Sie jede GGUF-Datei von Hugging Face nehmen und sie direkt ausführen.
Der Prozess besteht aus drei Schritten. Zuerst laden Sie die GGUF-Datei von Hugging Face herunter. Dann erstellen Sie eine Modelfile – eine Textdatei mit einer einzigen Direktive FROM, die auf den Pfad zur heruntergeladenen Datei verweist:
FROM ./my-model.Q4_K_M.gguf
Und schließlich erstellen und starten Sie das Modell:
ollama create my-model -f Modelfile
ollama run my-model
Beachten Sie die Reihenfolge der Argumente: ollama create my-model -f Modelfile ist richtig, nicht ollama create -f Modelfile my-model. Viele Berichte über das Update verwechseln dies – und der Befehl schlägt mit einem Fehler fehl.
Dies ist der grundlegende Weg. In der Praxis gibt es Nuancen: welche Quantisierung zu wählen ist, wie man prüft, ob die Datei Tool Calling unterstützt, was zu tun ist, wenn das Modell nicht geladen wird. All dies mit Schritt-für-Schritt-Beispielen – in einem separaten Leitfaden: Wie man GGUF-Modelle von Hugging Face in Ollama ausführt.
Was dies in der Praxis bedeutet: Zugriff auf Tausende von Fine-Tuned-Modellen aus der Community, die Möglichkeit, experimentelle Quantisierungen zu testen, und die Ausführung eigener nachtrainierter Modelle ohne Konvertierung in das Ollama-Format.
Beschleunigung auf NVIDIA: ohne Marketing
Die offizielle Aussage – bis zu 20 % Leistungssteigerung auf NVIDIA durch Optimierungen von den NVIDIA- und llama.cpp-Teams. Die Zahl ist real, aber man sollte den Kontext verstehen, bevor man erwartet, dass Ihre Inferenz fünfmal schneller wird.
Einige ehrliche Klarstellungen:
- "Bis zu 20 %" – das ist die Obergrenze für eine bestimmte Konfiguration, nicht ein garantierter Anstieg überall. Der offizielle Benchmark wurde auf Gemma 4 26B mit Q4_K_M-Quantisierung auf einer NVIDIA RTX 5090 – einer Top-Karte – durchgeführt. Ihre Zahlen hängen vom Modell, der Kontextgröße und der aktuellen Treiberversion ab.
- Der Anstieg ist auf neueren Karten am deutlichsten – dort, wo es etwas zu optimieren gibt, um moderne CUDA-Funktionen zu nutzen. Auf älteren GPUs kann der Unterschied geringer sein.
- Im täglichen Gebrauch bedeutet 20 % umgangssprachlich 60 statt 50 tok/s – angenehm, aber nicht revolutionär. Wenn Ihr Engpass nicht die GPU, sondern die Modellgröße oder das Swapping ist – werden Sie diese Beschleunigung nicht spüren.
Persönlich glaube ich, dass Ollama 0.30 allein schon wegen der besseren Kompatibilität mit GGUF-Modellen und der allgemeinen Verbesserungen der Plattform installiert werden sollte. Wenn Sie auf NVIDIA arbeiten, ist der zusätzliche Leistungsschub ein angenehmer Bonus. Gleichzeitig sollte man nicht erwarten, dass das Update allein das Problem der langsamen Inferenz auf schwacher Hardware löst – hier spielen die Eigenschaften Ihrer Ausrüstung weiterhin die Schlüsselrolle.
Vulkan standardmäßig – mit Nuancen
Hier gibt es die meiste Verwirrung, daher werde ich es im Detail aufschlüsseln. Die Geschichte von Vulkan in Ollama hat sich von Version zu Version geändert, und viele Anleitungen im Internet beschreiben den veralteten Zustand.
Wie es war: Vulkan erschien in Version 0.12.11 (November 2025) als Opt-in – er musste manuell über die Variable OLLAMA_VULKAN=1 aktiviert werden. Dies bot eine Alternative zu CUDA (NVIDIA) und ROCm (AMD), besonders nützlich für ältere AMD-Karten ohne ROCm-Unterstützung und für Intel GPUs.
Wie es jetzt ist: Laut der offiziellen Ollama-Dokumentation zur Hardware ist Vulkan jetzt standardmäßig aktiviert, wenn das entsprechende Backend installiert ist. Unter Windows werden die Treiber der meisten Anbieter mit Vulkan-Unterstützung geliefert und erfordern keine zusätzliche Konfiguration.
Das bedeutet, dass sowohl veraltete Anleitungen ("Vulkan muss manuell aktiviert werden") als auch übermäßig optimistische Berichte ("Vulkan funktioniert überall out-of-the-box") – beide sind ungenau. Die Wahrheit liegt dazwischen: standardmäßig, wenn ein Backend vorhanden ist, unter Windows – ohne zusätzliche Schritte; unter Linux/AMD – es kann immer noch Nuancen geben.
Worüber die Pressemitteilung schweigt: Der Weg war nicht einfach. Es gab einen Fehler, bei dem Vulkan aktiviert blieb, selbst wenn versucht wurde, ihn über OLLAMA_VULKAN=0 zu deaktivieren – und auf schwachen integrierten GPUs machte dies Ollama langsamer als den CPU-only-Modus. Das Team fügte später eine separate Steuerung für iGPUs (OLLAMA_IGPU_ENABLE) hinzu und deaktivierte die integrierte Grafik standardmäßig gerade wegen dieser Probleme.
Aus eigener Erfahrung rate ich nach dem Update, sich nicht darauf zu beschränken, zu prüfen, ob das Modell einfach startet. Wenn Sie eine schwache iGPU oder AMD unter Linux haben, sollten Sie sicherstellen, dass die Inferenz tatsächlich über die GPU läuft. Allein der Start bedeutet noch nicht, dass alles optimal konfiguriert ist, und der Leistungsunterschied zwischen GPU und CPU kann sehr spürbar sein.
ollama ps
# Schauen Sie auf die Spalte PROCESSOR:
# 100% GPU — Inferenz auf der Grafikkarte
# 100% CPU — auf dem Prozessor
# teilweise CPU — das Modell swapped oder die GPU wird nicht voll ausgelastet
Wenn Sie sehen, dass das Standard-Vulkan auf Ihrer iGPU eine schlechtere Geschwindigkeit als die CPU ergibt – kann die integrierte Grafik durch eine Umgebungsvariable vor dem Start des Servers deaktiviert werden:
OLLAMA_IGPU_ENABLE=0 ollama serve
Überprüfen Sie danach erneut ollama ps, um sicherzustellen, dass die Inferenz wie erwartet verläuft. Mehr über die Auswahl von Modellen für schwache Hardware – im Artikel Ollama auf 8 GB RAM: welche Modelle funktionieren im Jahr 2026.
Tool Calling und Coding-Agenten: ollama launch
Wenn ein GGUF-Modell Tool Calling unterstützt, wird diese Möglichkeit in Ollama übertragen – und ein solches Modell kann mit einem einzigen Befehl über ollama launch mit Ihrem bevorzugten Coding-Agenten verbunden werden.
ollama launch – ein Befehl, der früher erschien (Januar 2026) und Coding-Tools ohne manuelles Bearbeiten von Konfigurationen und Umgebungsvariablen einrichtet und startet. Offiziell werden vier Integrationen unterstützt: Claude Code, OpenCode, Codex und Droid. Welches lokale GGUF Sie mit dem Agenten verbinden, hängt davon ab, wie zuverlässig das Modell Werkzeuge aufruft; ein Vergleich der Zuverlässigkeit finden Sie in einem separaten Artikel.
Beispiel für Claude Code:
ollama launch claude
Der Befehl führt Sie interaktiv durch die Modellauswahl und startet die Integration. Beachten Sie: Es gibt kein separates Flag --model in der Dokumentation – das Modell wird während des Prozesses ausgewählt. Wenn Sie in Berichten über das Update eine Syntax wie ollama launch claude --model my-model oder erfundene Integrationen wie "hermes" sehen – ist das ungenau, überprüfen Sie die offizielle Seite des Teams.
Um zu überprüfen, ob eine bestimmte GGUF-Datei Tool Calling unterstützt, suchen Sie nach der Möglichkeit tools in der Ausgabe von ollama show:
ollama show my-model
Capabilities
completion
tools ← vorhanden — das Modell unterstützt den Aufruf von Werkzeugen
Wenn tools im Abschnitt Capabilities fehlt – ruft das Modell keine Werkzeuge nativ auf und ist nicht für den Agenten geeignet. Wie der Aufruf von Werkzeugen auf API-Ebene funktioniert und wie er sich von einfachem Function Calling unterscheidet – eine Analyse im Artikel Tool Use vs Function Calling: Mechanik, JSON Schema und Verbindung mit RAG.
Besonders erwähnenswert: Zusammen mit 0.30 erschien Codex App auf Ollama – eine Desktop-Anwendung, in der Sie jedes Ollama-Modell (lokal oder cloudbasiert) zum Codieren verwenden können, mit einem integrierten Browser und einem Code-Review-Modus.
Welche Modelle lassen sich jetzt einfacher ausführen
Die erweiterte GGUF-Kompatibilität bedeutet, dass mehr Modellfamilien „out of the box“ funktionieren. Die Liste umfasst sowohl große, bekannte Familien als auch von der Community feinabgestimmte Modelle:
- Qwen, Gemma, DeepSeek – Kernstücke der lokalen KI, jetzt mit breiterer Quantisierungskompatibilität.
- gpt-oss – Open-Source-Modelle von OpenAI.
- Von der Community feinabgestimmte Modelle – Jedes GGUF von Hugging Face, einschließlich benutzerdefinierter Nachtrainings.
Aber „einfacher auszuführen“ bedeutet nicht „funktioniert genauso zuverlässig im Agenten“: Die erweiterte Kompatibilität bezieht sich auf das Ausführen des Modells, nicht auf die Qualität seines Tool-Aufrufs. Dass ein Modell geladen wird und antwortet, garantiert noch nicht, dass es unter Last stabil Werkzeuge aufruft – das ist ein separates Problem, das durch die Wahl des richtigen Modells gelöst wird (siehe oben Abschnitt über Tool-Aufrufe und Coding-Agenten).
Sollte man auf 0.30 aktualisieren
Kurze Antwort: Ja, für die meisten Benutzer ist das Update sicher und nützlich. Aber „lohnt sich“ hängt davon ab, was genau du tust.
So aktualisieren Sie mit einem Befehl (Linux): curl -fsSL https://ollama.com/install.sh | sh – überschreibt die vorhandene Version mit der neuesten. Auf macOS/Windows kommt das Update automatisch über das Menü („Restart to update“). Modelle werden gespeichert, eine Neuinstallation ist nicht erforderlich. Eine vollständige Aufschlüsselung finden Sie im FAQ unten.
Aktualisieren Sie auf jeden Fall, wenn Sie:
- GGUF-Modelle von Hugging Face oder eigene feinabgestimmte Modelle ausführen – das ist der Hauptgrund;
- mit Coding-Agenten (Claude Code, Codex, OpenCode) über lokale Modelle arbeiten;
- NVIDIA-Hardware haben und bei der Generierungsgeschwindigkeit an Grenzen stoßen;
- AMD- oder Intel-GPU haben und GPU-Beschleunigung ohne manuelle Installation von herstellerspezifischen Bibliotheken wünschen.
Sie können sich Zeit lassen, wenn Sie:
- nur mit offiziellen Modellen aus dem Ollama-Repository arbeiten und mit allem zufrieden sind;
- eine schwache iGPU haben – prüfen Sie zuerst, ob das Standard-Vulkan Ihre Arbeit verlangsamt;
- eine Produktionspipeline auf einer alten Version haben – testen Sie zuerst auf der Entwicklungsversion, da sich Tool-Aufrufe und das Verhalten von Modellen zwischen den Versionen ändern können.
Aus persönlicher Erfahrung
Auf meinem MacBook Pro M1 mit 16 GB ist das Hauptszenario die lokale Entwicklung von Agenten-Pipelines für AskYourDocs mit qwen3:8b und nomic-embed-text parallel. Für dieses Szenario auf Apple Silicon ist der Hauptwert von 0.30 nicht Vulkan (das ist für Windows/Linux-GPUs) und nicht die NVIDIA-Beschleunigung, sondern der vereinfachte Zugriff auf GGUF von Hugging Face: Das Testen neuer Quantisierungen und feinabgestimmter Modelle ist merklich einfacher geworden. Wenn sich Ihre Arbeit, wie meine, um das Testen verschiedener Modelle für bestimmte Aufgaben dreht – das ist die Änderung, für die sich ein Update lohnt.
FAQ
Wie aktualisiere ich Ollama auf 0.30?
Die Methode hängt vom Betriebssystem ab:
- macOS und Windows – Ollama aktualisiert sich automatisch. Wenn ein Update verfügbar ist, klicken Sie auf das Symbol in der Menüleiste (Taskleiste) und wählen Sie „Restart to update“. Oder laden Sie die neueste Version manuell von der offiziellen Website herunter.
- Linux – Es gibt keine automatische Aktualisierung, daher aktualisieren Sie über das Terminal, indem Sie das offizielle Installationsskript erneut ausführen:
curl -fsSL https://ollama.com/install.sh | sh – es überschreibt die vorhandene Version mit der neuesten.
- Homebrew (macOS) – Wenn Sie es über Homebrew installiert haben:
brew upgrade ollama.
Vorhandene Modelle müssen nicht neu installiert werden – sie werden in ~/.ollama/models gespeichert und die Aktualisierung der Binärdatei löscht sie nicht. Überprüfen Sie die Version nach der Aktualisierung: ollama --version.
Wird 0.30 meine vorhandenen Modelle beschädigen?
Nein, heruntergeladene Modelle funktionieren weiterhin. Aber wenn Sie eine Produktionspipeline mit Tool-Aufrufen haben – testen Sie diese vor dem Update auf der Entwicklungsversion, da sich das Verhalten von Modellen und die Serialisierung von Tools zwischen den Versionen unterscheiden können.
Funktioniert Vulkan in 0.30 wirklich out of the box?
Unter Windows mit den Treibern der meisten Anbieter – ja, ohne zusätzliche Schritte. Unter Linux/AMD kann es Nuancen geben (erfordert einen ROCm v7-kompatiblen Treiber). Bei schwachen iGPUs überprüfen Sie ollama ps nach dem Start – das Standard-Vulkan verlangsamt die Arbeit manchmal im Vergleich zur CPU.
Kann jedes GGUF-Modell von Hugging Face ausgeführt werden?
Ja – das ist die Kernfunktion von 0.30. Laden Sie die GGUF-Datei herunter, erstellen Sie eine Modelfile mit FROM zum Pfad der Datei und führen Sie sie mit ollama create aus. Eine Schritt-für-Schritt-Anleitung finden Sie in einem separaten Artikel.
Wie realistisch ist eine Beschleunigung um 20 % bei NVIDIA?
Das ist die Obergrenze für eine bestimmte Konfiguration, kein garantierter Gewinn überall. Am deutlichsten bei neueren Karten. Im täglichen Gebrauch – ein angenehmer, aber kein revolutionärer Gewinn; wenn der Engpass nicht die GPU ist, werden Sie ihn nicht spüren.
Schlussfolgerungen
Mein Urteil – auf Apple Silicon lohnt sich das Update nur wegen GGUF von Hugging Face; Vulkan und NVIDIA-Beschleunigung haben hier nichts damit zu tun, also erwarten Sie auf einem Mac nichts davon.
- Das Wichtigste in 0.30 – engere Integration mit llama.cpp, die das gesamte GGUF-Ökosystem von Hugging Face eröffnet.
- Am praktischsten – Ausführen jedes GGUF-Modells mit ein oder zwei Befehlen.
- Vulkan standardmäßig – real, aber mit Nuancen: unter Windows out of the box, bei schwachen iGPUs prüfen, ob es nicht verlangsamt.
- NVIDIA bis zu 20 % – Obergrenze, keine Garantie; am deutlichsten bei neueren Karten.
- Aktualisieren Sie, wenn Sie mit GGUF, Coding-Agenten arbeiten oder bei NVIDIA an die Grenzen der Geschwindigkeit stoßen. In der Produktion – zuerst Test auf der Entwicklungsversion.
Wenn Sie die Hauptfunktion sofort ausprobieren möchten – gehen Sie zur praktischen Anleitung So führen Sie GGUF-Modelle von Hugging Face in Ollama aus.
Quellen
