KI verbinden
Wählen Sie das KI-Backend, das jede KI-Funktion von Owlat nutzt — einen gehosteten Anbieter per API-Schlüssel (OpenAI, Anthropic, Google, Azure OpenAI, OpenRouter) oder ein selbst gehostetes Modell (Ollama, vLLM, llama.cpp) — plus die standardmäßig lokalen Embeddings, die das Retrieval unter jeder Wahl funktionsfähig halten.
Jede KI-Funktion in Owlat — Antwortentwürfe, der Assistent, Zusammenfassungen, Übersetzung, Klassifizierung, der Wissensgraph, die semantische Suche — läuft auf einem KI-Backend, das Sie einmal auswählen. Sie legen es unter Einstellungen → KI-Anbieter fest; eine Verdrahtung pro Funktion gibt es nicht. Ein späterer Wechsel des Backends ist eine einzige Änderung in den Einstellungen.
Owlat löst KI auf zwei unabhängigen Ebenen auf:
- eine Sprachebene — die gesamte Texterzeugung, und
- eine Embedding-Ebene — semantische Suche und Wissensgraph.
Sie werden getrennt gewählt, sodass ein Sprachanbieter ohne Embeddings-API (etwa Anthropic) über den lokalen Embedder dennoch ein funktionierendes Retrieval erhält.
Wenn Sie beim Self-Hosting LLM_*-Umgebungsvariablen setzen, bleiben diese der Fallback des Deployments und funktionieren ganz ohne Oberfläche weiter. Sobald Sie unter Einstellungen → KI-Anbieter einen Anbieter speichern, übernimmt diese gespeicherte Konfiguration pro Organisation. Das Speichern eines Anbieters ist Admins vorbehalten (organization:manage) und wird im Audit-Log festgehalten.
Die Sprachebene
Öffnen Sie Einstellungen → KI-Anbieter → Sprachmodell und wählen Sie einen Anbieter. Sie können auf einen gehosteten Anbieter mit API-Schlüssel zeigen oder auf ein Modell, das Sie selbst hosten.
Gehostete Anbieter (API-Schlüssel)
Wählen Sie den Anbieter, fügen Sie einen API-Schlüssel ein und wählen Sie ein leistungsfähiges Modell (schwere Aufgaben — Schlussfolgern, lange Entwürfe) sowie ein schnelles Modell (kurze Aufgaben — Klassifizierung, kurze Antworten).
| Anbieter | Was es ist | So sehen die Modell-IDs aus |
|---|---|---|
| OpenAI | Gehostete GPT-Modelle | gpt-4o, gpt-4o-mini |
| Anthropic (Claude) | Gehostete Claude-Modelle | claude-opus-4-8, claude-haiku-4-5 |
| Google (Gemini) | Gehostete Gemini-Modelle | gemini-2.5-pro, gemini-2.5-flash |
| Azure OpenAI | GPT-Modelle aus Ihrer Azure-Ressource | Ihre Deployment-Namen |
| OpenRouter | Ein Schlüssel, viele vorgelagerte Modelle | anthropic/claude-sonnet-4-5, openai/gpt-4o |
Bei Azure OpenAI ist die Modell-ID der Name, den Sie dem Deployment im Azure-Portal gegeben haben — nicht eine kanonische ID wie gpt-4o. Fügen Sie neben dem Schlüssel die Basis-URL Ihrer Ressource ein (https://<resource>.openai.azure.com/openai); das Feld für die Basis-URL wird bei Azure standardmäßig angezeigt, weil es erforderlich ist.
Speichern Sie bei OpenRouter und lokalen Anbietern die Konfiguration und klicken Sie dann auf Verfügbare Modelle laden, um das Freitextfeld durch genau den Katalog zu ersetzen, den Ihr Anbieter ausliefert.
Ihr API-Schlüssel wird einmalig über TLS übertragen, ruhend verschlüsselt gespeichert (AES-256-GCM) und nie wieder angezeigt — die Einstellungsseite zeigt nur eine maskierte Vorschau und einen Hinweis „Schlüssel ist gesetzt“. Nutzen Sie nach dem Speichern Verbindung testen, um zu bestätigen, dass die Zugangsdaten funktionieren.
Lokale / selbst gehostete Modelle (ohne Schlüssel)
Wählen Sie Lokal / selbst gehostet (OpenAI-kompatibel), um die Sprachebene auf Ihrer eigenen Hardware zu betreiben — Ollama, vLLM oder llama.cpp. Es gibt keinen API-Schlüssel: nur eine Basis-URL, die auf den OpenAI-kompatiblen Endpunkt Ihres Servers zeigt (Ollamas Standard ist http://localhost:11434/v1).
# Example: serve a language model with Ollama
ollama pull llama3.1
ollama serve # exposes an OpenAI-compatible API on :11434
Setzen Sie anschließend die Basis-URL auf Ihren Server und klicken Sie optional auf Verfügbare Modelle laden, um zu sehen, was er ausliefert.
Die Embedding-Ebene — standardmäßig lokal
Semantische Suche und Wissensgraph verwandeln Text mit einem Embedding-Modell in Vektoren. Diese Ebene ist standardmäßig lokal: Ein gebündeltes lokales Embedding-Modell wird mit Ihrem Deployment ausgeliefert, sodass das Retrieval unter jeder Sprachwahl sofort funktioniert — auch bei Anbietern wie Anthropic, die keine Embeddings-API anbieten. Die meisten Deployments fassen diesen Abschnitt nie an.
Vektoren aus unterschiedlichen Embedding-Modellen sind nicht vergleichbar. Wenn Sie den Embedding-Anbieter oder das Modell wechseln, erhöht Owlat eine interne Version und fordert Sie zur Neuindexierung auf — alte und neue Vektoren werden nie stillschweigend vermischt. Belassen Sie die Embeddings besser beim lokalen Standard, sofern Sie keinen konkreten Grund für eine Änderung haben.
Falls Sie doch einen gehosteten Embedder benötigen, klappen Sie Erweitert: stattdessen einen gehosteten Embedder verwenden auf und wählen OpenAI oder Google (jeweils mit eigenem verschlüsseltem Schlüssel) oder einen benutzerdefinierten OpenAI-kompatiblen Embeddings-Server per Basis-URL.
Welches Modell wird verwendet?
Owlat leitet jeden Aufruf automatisch an eine Stufe weiter:
- Schnell — Klassifizierung, Extraktion, Guardrails, Zusammenfassung.
- Leistungsfähig — Antwortentwürfe, Planung mehrstufiger Aktionen.
Sie legen die Modell-ID für jede Stufe pro Anbieter fest. Die Ausgaben werden pro Funktion und pro Anbieter-Backend unter Einstellungen → System erfasst, sodass Sie sehen, wohin Ihre Tokens fließen.
KI einschalten
Die KI-Funktionen selbst sind hinter dem Haupt-Flag ai und dessen Unter-Flags (ai.agent, ai.assistant, ai.knowledge, …) verborgen. Eine gespeicherte Anbieterkonfiguration erfüllt die Voraussetzung „KI ist konfiguriert“, sodass Sie die KI-Funktionen unter Einstellungen → Features aktivieren können, sobald Sie einen Anbieter verbunden haben. Was die einzelnen Funktionen tun, steht in den KI-Leitfäden.