LM Studio Einrichtung für Askimo App

LM Studio Konfiguration

Verbinden Sie die Askimo App mit LM Studio für zuverlässiges, privates Management lokaler KI-Modelle.

Serverkonfiguration

• Server-URL: LM Studio Server-Endpunkt
  • Standard: http://localhost:1234/v1
  • Remote: http://ihr-server:1234/v1
• Timeout: Verbindungs-Timeout (Standard: 120s)
• Verfügbare Modelle: Wird von Ihrer LM Studio Instanz erkannt

LM Studio Einrichten

1. LM Studio von lmstudio.ai herunterladen und installieren
2. LM Studio starten
3. Ein Modell im Model Browser herunterladen
4. Lokalen Server in LM Studio starten:
   • „Local Server“ Tab öffnen
   • „Start Server“ klicken
5. In Askimo wird der Server automatisch erkannt
6. Modell aus der Dropdown-Liste auswählen
7. „Test Connection“ klicken zum Prüfen

Zugriff auf Provider-Einstellungen

1. Auf die Menüleiste klicken
2. „Settings“ wählen
3. Zum Tab „AI Providers“ navigieren
4. „LM Studio“ aus der Provider-Liste auswählen

Tastenkürzel: ⌘ + , (macOS) oder Ctrl + , (Windows/Linux), dann „AI Providers“

Beliebte Modelle für LM Studio

Allgemein:

• Llama 2 – Open-Source-Modell von Meta
• Mistral 7B – Effizient und leistungsfähig
• Mixtral 8x7B – Mixture-of-Experts-Modell

Code-fokussiert:

• CodeLlama – Speziell für Programmierung
• WizardCoder – Code-Generierung
• DeepSeek Coder – Erweitertes Coding-Assistenzmodell

Leichtgewichtig:

• Phi-2 – Kleines, leistungsstarkes Modell von Microsoft
• TinyLlama – Ultralight-Option

Fehlerbehebung

Keine Verbindung?

• Prüfen, ob der LM Studio Server läuft
• Sicherstellen, dass Port 1234 nicht blockiert ist
• Korrekte Server-URL in den Einstellungen verwenden
• LM Studio neu starten

Modell lädt nicht?

• Prüfen, ob das Modell vollständig heruntergeladen ist
• RAM/VRAM ausreichend?
• Zuerst kleineres Modell testen
• LM Studio Logs auf Fehler prüfen

Langsame Inferenz?

• GPU-Beschleunigung in LM Studio aktivieren
• Quantisierte Modelle (4-bit oder 8-bit) verwenden
• Unnötige Anwendungen schließen
• RAM/VRAM-Auslastung überwachen

Erweiterte Konfiguration

Benutzerdefinierter Server-Port: Wenn ein anderer Port genutzt wird, aktualisieren Sie die Server-URL:

http://localhost:IHR_PORT/v1

Remote LM Studio: Verbindung zu LM Studio auf einem anderen Rechner:

http://REMOTE_IP:1234/v1

Netzwerksicherheit

Beim Freigeben von LM Studio im Netzwerk geeignete Firewall-Regeln und Zugriffskontrollen nutzen.