Der Markt im Überblick
Alle Neuigkeiten →QuelLLM-Kits — das Referenzhandbuch nach Anwendungsfall.
Ein Kit für jeden Anwendungsfall: der vollständige Leitfaden, Konfigurationen zum Kopieren und Einfügen sowie lebenslanger Zugang zum Online-Bereich.
Der Katalog der Open-Weights-LLM
die lokal laufen.
Alle relevanten Modelle mit VRAM-Bedarf je Quantisierung, geschätzter Geschwindigkeit und Anwendungsfällen. Französische Modelle werden hervorgehoben.
Finden Sie das passende LLM für Ihren Bedarf
Möchten Sie den Konfigurator lieber überspringen? Unsere thematischen Ranglisten wählen die besten selbst hostbaren Modelle nach Anwendungsfall und Hardware aus.
Die Dokumentation von QuelLLM.
341+ Tutorials für Windows, macOS und Linux. Die ausgeführten Tests werden in jedem Ordner angegeben. Von der ersten Installation bis zu fortgeschrittenen RAG- und Fine-Tuning-Techniken.
Im Fokus
— unsere wichtigsten LeitfädenOllama unter Windows 11 installieren: vollständige Anleitung (2026)
Ollama für Windows 11 herunterladen und installieren, die GPU (CUDA) aktivieren und das erste Modell starten: Schritt-für-Schritt-Anleitung für 2026 mit häufigen Fehlern.
Welches LLM läuft auf der RTX 4090 (24 GB)?
RTX 4090 mit 24 GB, die Referenz für lokale KI auf Consumer-Hardware im Jahr 2026. Qwen 3.8 27B, Devstral 24B, gpt-oss 20B, GLM 4.7 Flash, Benchmarks in Tokens pro Sekunde, CUDA-Ada-Optimierungen.
Welches LLM läuft auf der RTX 5090 (32 GB)?
RTX 5090 2025: 32 GB GDDR7-VRAM, Bandbreite 1792 GB/s. Große MoE-Modelle von 2026 (Qwen 3.6 35B-A3B, Nemotron 3.5 Lightning) und Qwen 3.8 27B mit langem Kontext lokal ausführen, Benchmarks, ideale Konfigurationen.
DeepSeek V4 Pro lokal: VRAM, Hardware, Installation
Welche Hardware für DeepSeek V4 Pro (1.6T MoE, 49B aktiv, MIT)? VRAM-/RAM-Anforderungen, lokale Installation, Benchmarks im Vergleich zu GPT-5 und tatsächliche Grenzen.
LM Studio für Einsteiger: erster lokaler Chat in 10 Minuten
Ihr erstes lokales LLM mit LM Studio: Installieren, ein Modell herunterladen und in 10 Minuten chatten. Ohne Kommandozeile, ideal für Einsteiger.
Welches LLM läuft auf der RTX 3060 mit 12 GB?
RTX 3060 12 GB: Die ikonische Budget-GPU für LLMs. 12 GB für 250 € gebraucht, Gemma 4 12B, Qwen 3.5 9B, Granite 4.2 8B, detaillierte Benchmarks.
DeepSeek V4 Flash 284B: Das erste Frontier-Modell, das auf dem Mac Studio läuft
DeepSeek V4 Flash 284B MoE (13B aktive Parameter, MIT, 1M Kontext): das erste Frontier-Modell, das auf einer Workstation ausgeführt werden kann. Installation auf dem Mac Studio Ultra, Benchmarks, Vergleich mit Pro.
Ollama auf macOS (Apple Silicon) installieren: Anleitung 2026
Metal und den gemeinsamen Speicher von M1/M2/M3/M4 nutzen.
Welches LLM läuft auf dem Mac mini M4 / M4 Pro (16–64 GB)?
Mac mini M4: Das beste Preis-Leistungs-Verhältnis für lokale KI 2026. Benchmarks, empfohlene Konfiguration, Nutzung als Heimserver.
Welches LLM läuft auf der RTX 3090 / 3090 Ti (24 GB)?
Gebrauchte RTX 3090 und 3090 Ti mit 24 GB: Auch 2026 noch hervorragend für LLMs. Qwen 3.8 27B, Qwen3-Coder 30B, Benchmarks, Bewertung des Preis-Leistungs-Verhältnisses, Kühlung.
Welches LLM passt in 12 GB VRAM?
12 GB VRAM (RTX 3060 12 GB, 4070, 5070): der Sweet Spot 2026. Qwen 3.5 9B in Q8, Gemma 4 12B, mehrstufiges RAG. Der umfassende Leitfaden.
Qwen 3.8 27B lokal: Ollama-Installation und VRAM
Qwen3.8-27B lokal ausführen: der genaue Ollama-Befehl, VRAM je nach Quantisierung, MLX-Variante auf dem Mac, die Falle beim 256k-Kontext, Thinking-Modus und offizielle Benchmarks.
Ihr erster lokaler Chat
Ollama starten, Mistral laden, dialogieren. Der heutige Tutorial von Tag 1.
Welches LLM läuft auf der RTX 5070 Ti (16 GB)?
RTX 5070 Ti 16 GB: Der Sweet Spot 2025 für lokale KI. Ollama-Benchmarks, komfortabler Betrieb von 14B-/24B-Modellen, Vergleich mit der 4070 Ti Super.
Welches LLM läuft auf dem MacBook Pro M4 Pro / Max (24–128 GB)?
MacBook Pro M4 Pro / Max 2025: 546 GB/s Bandbreite. Welche Modelle nutzen den Chip wirklich aus, und wo liegen die praktischen Grenzen?
Welches LLM läuft auf der RTX 4070 / 4070 Super / 4070 Ti (12 GB)?
RTX 4070, 4070 Super und 4070 Ti 12 GB: LLM-Vergleich, problemlos nutzbare 13B-Modelle, Grenzen der 12 GB, gemessene Benchmarks.
Ollama vs LM Studio vs Jan vs GPT4All
Übersichtstabelle zur Auswahl des passenden Tools für Ihr Profil.
Welches LLM passt in 8 GB VRAM?
Der vollständige Leitfaden für 8 GB VRAM (RTX 3050/3060 8 GB, 4060, 5050, 5060): Qwen 3.5 9B, Granite 4.2 8B und Tipps zur effizienten VRAM-Nutzung.
KI fürs Programmieren im Unternehmen: proprietären Code, NDAs und Betriebsgeheimnisse schützen
Eine 100% lokale Code-KI deployen (Ollama + Cline + Aider + Tabby) für ein Dev-Team unter NDA und Geschäftsgeheimnissen: Warum Copilot und Cursor Ihren proprietären Code exponieren, was DSGVO und AI Act verlangen, die Architektur Workstation vs. GPU-Server Tabby und das Audit zur Nicht-Exfiltration.
Ollama in 5 Minuten installieren (Windows, macOS, Linux)
Ollama in 5 Minuten unter Windows, macOS und Linux installieren: RAM- und GPU-Voraussetzungen, wichtige Befehle und ein erstes lokales Modell, das Sie direkt anschließend starten können.
Grundlagen des Promptings
Anfragen strukturieren, um nützliche Antworten zu erhalten.
Welches LLM läuft auf dem MacBook Pro M3 Pro / Max (18–128 GB)?
MacBook Pro M3 Pro / Max: Das beste Laptop für lokale KI 2026. Qwen 3.6 35B-A3B, Kontext 128k, Flash Attention.
Welches LLM läuft auf der RTX 5080 (16 GB)?
RTX 5080 Blackwell: 16 GB GDDR7 mit 960 GB/s. Benchmarks mit Qwen 3.5, Granite 4.2, Gemma 4, gpt-oss und Devstral in Q4. Optimale Ollama-Konfiguration.
Welches LLM passt in 16 GB VRAM?
16 GB VRAM (RTX 4070 Ti Super, 5070 Ti, 5080, 4060 Ti 16 GB): Mistral Small 24B, Devstral 24B und gpt-oss 20B – die Profi-Klasse 2026.
Welche GPU für ein lokales LLM? RTX 4070 bis 5090, Mac (2026)
RTX 4070 vs 4090 vs Mac M-Max: Kaufleitfaden 2026.
Lokales RAG: Einführung
Retrieval-Augmented Generation verstehen, um mit Ihren Dokumenten zu chatten.
Welches LLM läuft auf dem Mac Studio (M2 / M3 / M4 Ultra, 64–512 GB)?
Mac Studio Ultra: Bis zu 512 GB Unified Memory. Llama 4 Maverick 402B, Qwen3-235B, DeepSeek 671B lokal ausführen. Der Power-User-Guide.
Welches LLM läuft auf der RTX 4080 / 4080 Super (16 GB)?
RTX 4080 und 4080 Super 16 GB für lokale LLMs: Alle Modelle, die passen, Benchmarks, Vergleich 4080 vs. 4080 Super, Fazit zum Kauf.
Welches LLM läuft auf der Radeon RX 7900 XTX (24 GB)?
Radeon RX 7900 XTX 24 GB: AMD-Alternative zur RTX 4090 für LLMs. ROCm 6.x, Qwen 3.8 27B, Benchmarks in Tokens pro Sekunde, Fazit 2026.
Welches LLM passt in 24 GB VRAM?
24 GB VRAM (RTX 3090, 4090, RX 7900 XTX): Qwen 3.8 27B vollständig im VRAM, große MoE-Modelle mit 35B-A3B und LoRA-Fine-Tuning. Die leistungsstarke Klasse.
Bewertungen & Tests.
Wenn der lokale Einsatz nicht ausreicht, welche Online-Dienste sind Ihr Geld wert? 14 Marken geprüft, 7 ausgeschlossen. Jeder Eintrag nennt zuerst die kostenlose lokale Alternative.
NVIDIA-Chip GB10 und 128 GB Unified Memory: Was diese Maschine tatsächlich ausführt, gemessen auf unserem Gerät und mit öffentlichen Daten belegt. Maschine von GIGABYTE kostenlos bereitgestellt; Messungen und Einschätzungen bleiben unsere eigenen.
Das vollständige Datenblatt des AI TOP ATOM →- 8. Okt.1. Welche LLMs wirklich auf 128 GB laufenLesen →
- 15. Okt.2. AI TOP ATOM und DGX SparkDemnächst verfügbar
- 22. Okt.3. GB10, Ryzen AI Max+ 395 oder MacDemnächst verfügbar
- 29. Okt.4. Ein 70B-LLM lokalDemnächst verfügbar
- 5. Nov.5. Fine-Tuning lokalDemnächst verfügbar
- 12. Nov.6. Privater KI-Assistent für KMUDemnächst verfügbar
- 19. Nov.7. Verbrauch einer lokalen KIDemnächst verfügbar
Drei Wege,
je nachdem, wer Sie sind.
Jeder Lernpfad besteht aus einer Abfolge von Anleitungen, die auf ein bestimmtes Profil zugeschnitten ist. Vom ersten Download bis zu einem einsatzbereiten Setup.
« Ich möchte es einfach ausprobieren, ohne großen Aufwand. »
Sie haben von lokalen LLMs gehört und möchten sehen, wie sie auf Ihrem Rechner laufen. Kein Code, keine Systemkonfiguration – in 10 Minuten chatten Sie mit Ihrem ersten Modell.