Appearance
Lokale Modelle
LM Studio
LM Studio ist eine Benutzeroberfläche für die lokale Ausführung von grossen Sprachmodellen (Large Language Models, LLMs) auf dem eigenen Computer.
LM Studio installieren
Installieren Sie LM Studio auf Ihrem Computer.
Hugging Face
Hugging Face ist eine Website mit vielen Ressourcen zu künstlicher Intelligenz. Die Website bietet unter anderem eine Sammlung von über zwei Millionen grossen Sprachmodellen (Large Language Models, LLMs), welche auf den eigenen Computer heruntergeladen werden können.
Modelle von Hugging Face können in LM Studio direkt durchsucht und heruntergeladen werden. Dazu muss mit dem folgenden Button das Suchfenster geöffnet werden:
Geeignete Modelle finden
Es sind sehr viele Modelle in verschiedenen Varianten verfügbar. Um ein geeignetes Modell zu finden, sollte folgendes beachtet werden:
Format. Es gibt zwei wichtige Formate für lokale Modelle: GGUF (GPT-Generated Unified Format) ist das am weitesten verbreitete Format. MLX ist das AI-Format von Apple, welches für Apple Silicon-Prozessoren optimiert ist. Auf MacBooks laufen Modelle im MLX-Format normalerweise schneller.
Anzahl Parameter. Die Bezeichnungen «4B», «9B», «27B» geben die Anzahl Parameter (Gewichte) des Modells an. So steht «4B» für vier Milliarden Parameter (engl. «billion»).
Grundsätzlich ist ein Modell mit mehr Parametern leistungsfähiger und hat mehr «Wissen» gespeichert. Die Anzahl Parameter beeinflusst stark den vom Modell benötigten Arbeitsspeicher (Memory).
Genauigkeit der Parameter. Bezeichnungen wie «4BIT» oder «Q8» geben an, wieviele Bits zum Speichern eines einzelnen Parameters verwendet werden. Je mehr Bits zu Verfügung stehen, desto präziser sind die Modelle.
Bei manchen Modellen können rechts unter «Download Options» verschiedene Varianten ausgewählt werden. bei jeder Variante wird angezeigt, ob sie für den Computer geeignet ist oder nicht.
Erstes lokales Sprachmodell installieren
Laden Sie in LM Studio ein erstes kleines Spachmodell herunter:
gemma-3-1b
Wählen Sie für Windows das Format GGUF und für macOS das Format MLX aus.
Lokales Reasoning-Modell installieren
Laden Sie in LM Studio ein für Ihren Computer geeignetes Modell herunter:
- Windows:
lmstudio-community/Qwen3.5-4B-GGUF - macOS:
mlx-community/Qwen3.5-4B-MLX-4bit
Modelle vergleichen
Die vielen LLMs werden regelmässig mit standardisierten Tests verglichen. Hier ist eine Übersichtsseite, auf welcher die Modelle verglichen werden können:
onyx Self-Hosted LLM Leaderboard
Die folgende Tabelle zeigt eine Übersicht der wichtigsten Modellfamilien und ihrer Herkunft:
| Bezeichnung | Hersteller | Herkunft |
|---|---|---|
| DeepSeek | DeepSeek | China |
| Gemma | Vereinigte Staaten | |
| GLM | Z AI | China |
| GPT-OSS | OpenAI | Vereinigte Staaten |
| Llama | Meta | Vereinigte Staaten |
| Mistral | Mistral AI | Frankreich |
| Nemotron | NVidia | Vereinigte Staaten |
| Phi | Microsoft | Vereinigte Staaten |
| Qwen | Alibaba | China |
Auf den folgenden Webseiten können aktuelle grosse Sprachmodelle verglichen werden: