Apps
Es gibt verschiedene Apps, welche die Verwaltung und Benutzung von lokalen Sprachmodellen ohne spezielle technische Kenntnisse ermöglichen.
Diese Seite gibt eine Übersicht über die sinnvollsten dieser Apps.
Goose
Goose ist ein allgemeiner AI Agent, welcher für Programmierung und Arbeitsabläufe ausgelegt ist. Es können regelmässige Aufgaben geplant werden, es können eigene Mini-Apps erstellt werden. Goose ist für die Verwendung von lokalen und Cloud-basierten Modellen ausgelegt.
positiv: Open Source
negativ: Umständliche Konfiguration und Auswahl des Modells, keine Projekte, Spracherkennung nur Englisch, Tool-Aufrufe schlagen oft fehl
LM Studio Bionic
LM Studio Bionic ist haupsächlich auf das Erstellen und Bearbeiten von Dokumenten ausgelegt. Neben lokalen Modellen können kostenpflichtig auch Cloud-basierte Modelle verwendet werden, welche grosse Datensicherheit versprechen. Es können jedoch keine Modelle von anderen Anbietern verwendet werden.
positiv: benutzerfreundlich, Projektverwaltung
negativ: nicht Open Source, Websuche nur mit Konto, kein frei konfigurierbarer OpenAI-Client
[Unsloth Desktop]
Unsloth Desktop ist ein Open-Source-Tool zum lokalen Betrieb und Training von Sprachmodellen auf NVIDIA, AMD, Intel und Apple Silicon. Es bietet unbegrenzte kostenlose Websuche, Deep Research, Voice-Diktation, Bild- und Videogenerierung, RAG über Dokumente sowie MCP-Erweiterungen. Modelle können direkt aus Hugging Face geladen und lokal feinabgestimmt werden.
positiv: Open Source, Modell-Training lokal, unbegrenzte Websuche, Bild-/Videogenerierung, RAG, Voice
negativ: noch junges Projekt, Modell-Auswahl kleiner als bei LM Studio
Feature Map
| Feature | Atomic | Bionic | Goose | Unsloth |
|---|---|---|---|---|
| Hugging Face | ✅ | ✅ | ✅ | ✅ |
| lokale Modelle | ✅ | ✅ | ⚠️ | ✅ |
| OpenAI-Client | ✅ | ⛔️ | ✅ | ✅ |
| API-Server | ✅ | ✅ | ⛔️ | ✅ |
| Projekte | ✅ | ✅ | ⛔️ | ✅ |
| Websuche | ✅ | ⚠️ | ⚠️ | ✅ |
| Skills | ✅ | ✅ | ✅ | ✅ |
| Voice | ✅ | ✅ | ⚠️ | ✅ |
| Bildgenerierung | ✅ | ⛔️ | ⛔️ | ✅ |
| Lernfähig (RAG) | ✅ | ⛔️ | ⛔️ | ✅ |
| Erweiterungen (MCP) | ✅ | ✅ | ✅ | ✅ |