LLM-Konfiguration

Diese Seite richtet sich an Owner und beschreibt die drei AI-relevanten Bereiche unter Einstellungen → AI & Data:

Ein vierter Eintrag in derselben Gruppe – MCP Servers – wird in einer eigenen Anleitung behandelt: MCP-Server.

LLM Scope

Steuert, welche Such- und Recherchemodi für Ihre Mitglieder im Chat verfügbar sind.

Stufen

Beispiele:

• Nur Intern – ideal für Behörden, Recht, Gesundheit.
• Voller Zugriff mit Web + Hybrid – Sales, Marketing, R&D.
• Voller Zugriff mit allen Optionen inkl. Deep Search – Beratung, Research.

Konfigurieren

1. Einstellungen → LLM Scope.
2. Stufe wählen.
3. Bei Voller Zugriff die zusätzlichen Optionen auswählen.
4. Speichern.

Mitglieder sehen die Such-Modi-Toggles im Chat erst nach einem Reload.

Model Policy

Bestimmt, welche BYOK-Provider in Ihrer Organisation überhaupt erlaubt sind, und optional ein organisationsweites Default-Modell.

Konfiguration

1. Einstellungen → Model Policy → Reiter Policy.
2. SKH Standard ist immer aktiv. Die enthaltenen Modelle (DeepSeek V3, Kimi K2.5, Mistral Medium 2505) sind in jedem Plan inkludiert.
3. BYOK Providers – Pro Provider ein- oder ausschalten:
   • OpenAI, Anthropic, Google Gemini, Mistral AI, Azure OpenAI, Azure DeepSeek, Custom OpenAI-kompatibel.
4. Optional: Standard-Default-Modell setzen. Neue Chats starten dann mit diesem Modell.
5. Speichern.

Tipp: Lassen Sie BYOK initial deaktiviert. Schalten Sie nur dann Provider frei, wenn ein konkreter Bedarf besteht – jeder freigeschaltete Provider ist ein potenzieller Datenfluss-Pfad nach extern.

Audit

Im Reiter Audit sehen Sie alle Wechsel von einem SKH-Standardmodell auf ein BYOK-Modell der letzten 30 Tage:

• Wer (Mitglieder-Name + E-Mail) hat gewechselt?
• Wann?
• Auf welchen Provider und welches Profil?
• In welchem Chat?

Die Logs sind nicht löschbar.

Persönliche Model Profiles (BYOK)

Wenn Ihre Organisation BYOK über die Model Policy freigeschaltet hat, kann jedes Mitglied für sich selbst persönliche Modell-Profile anlegen.

Profil anlegen

1. Einstellungen → Model Profiles.
2. Profil hinzufügen.
3. Provider wählen (nur freigeschaltete Provider erscheinen).
4. Modell-ID eingeben (z. B. gpt-4o, claude-3-opus-20240229, gemini-1.5-pro).
5. API-Key einfügen. Der Key wird verschlüsselt gespeichert.
6. Bei Azure-Providern zusätzlich: Endpoint, API-Version, Deployment-Name.
7. Bei Custom-OpenAI-kompatibel: Base-URL eintragen.
8. Optional: Profil als persönlichen Default markieren.

Die Profile sind privat – andere Mitglieder sehen Ihre API-Keys nicht und können Ihre Profile nicht nutzen.

Im Chat verwenden

Im Modell-Selector des Chats erscheinen Ihre BYOK-Profile als zusätzliche Optionen neben den SKH-Standardmodellen. Beim erstmaligen Wechsel zu einem BYOK-Profil zeigt SKH eine Warnung; ein gelber Streifen oben am Chat bleibt sichtbar, solange das Profil aktiv ist.

Details: KI-Modelle & Datenschutz.

Nutzung im Blick behalten

Auf dem Dashboard und unter Abrechnung → Nutzung sehen Sie aggregierte Kennzahlen, mit denen Sie die Auswirkungen Ihrer Konfiguration beurteilen:

• Token-Verbrauch pro Mitglied und Modell, inklusive geschätzter Kosten.
• Web-Suchen pro Tag mit Cache-Trefferquote.
• Speicherbelegung Ihrer Wissensbasis (in GB).

Best Practices

• Standardmässig restriktiv starten – Nur Intern + keine BYOK. Erweitern Sie nur, wenn Mitglieder einen konkreten Bedarf melden.
• BYOK schrittweise einführen – Erlauben Sie zunächst einen einzigen Provider, evaluieren Sie den Datenfluss anhand des Audit-Reiters in der Model Policy, dann erweitern.
• Audit regelmässig prüfen – Häufige Wechsel auf externe Provider sollten begründet sein.
• Kosten beobachten – Bei BYOK rechnen Sie direkt mit dem Provider ab. Token-Verbrauch im Dashboard hilft, die externen Kosten plausibel zu machen.