Zum Inhalt springen

LLM-Provider pro Tenant

Die KI-Funktionen des Designers — der Flow-Builder, der Agentic-Worker-Composer, die SoRLa- und OperaLa-Composer — laufen alle über ein Large Language Model. Standardmäßig konfiguriert ein Plattform-Operator diese Provider zentral. Mit LLM-Providern pro Tenant kann ein Tenant auch seinen eigenen API-Schlüssel mitbringen und den Designer damit nutzen lassen.

Eine Provider-Zeile hat eine Quelle:

  • operator — vom Plattform-Operator gesetzt, für den Tenant schreibgeschützt.
  • tenant — vom Tenant-Administrator erstellt und besessen.

Die Auflösungsregel ist einfach und vorhersehbar: der Schlüssel des Operators gewinnt immer. Ein Tenant-Schlüssel kann nur eine Composer-Rolle belegen, die der Operator nicht bereits zugewiesen hat. Ein Tenant kann niemals eine Rolle übernehmen (oder „stehlen”), die der Operator verwaltet.

Jeder LLM-Provider kann einer oder mehreren Composer-Rollen zugewiesen werden, die den Designer-Oberflächen entsprechen, die sie verwenden:

RolleVersorgt
flow_editor_composerDen Flow-Builder (BUILD / EDIT) und den KI-Chat
agentic_worker_composerDen Agentic-Worker- / DW-Composer
sorla_composerDas SoRLa-Authoring-Studio
operala_composerDas OperaLa-Operations-Panel
telco_playbook_composerTelco-Playbook-Authoring

Eine Rolle gehört genau einem Provider. Das Zuweisen einer Rolle, die ein Operator bereits besitzt, wird abgelehnt, sodass es nie eine mehrdeutige Frage „welcher Schlüssel bedient diese Oberfläche” gibt.

Im Designer öffnet ein Tenant-Administrator Settings → Credentials → My LLM providers. Von dort aus können sie:

  • einen Provider hinzufügen (OpenAI, Anthropic, Azure OpenAI, Google und weitere) mit ihrem eigenen API-Schlüssel, optionaler Basis-URL und Modell,
  • den Schlüssel vor dem Speichern testen,
  • ihn jeder Composer-Rolle zuweisen, die der Operator nicht reserviert hat,
  • einen Provider entfernen, den sie besitzen.

Vom Operator reservierte Rollen werden angezeigt, aber deaktiviert — ein klares Signal dafür, was zentral verwaltet wird und was der Tenant steuert.

  • Tenant-Schlüssel werden im Ruhezustand verschlüsselt und nur im Arbeitsspeicher entschlüsselt, wenn eine Anfrage sie benötigt.
  • Der Designer löst seine LLM-Stacks aus dem Admin auf und aktualisiert sie innerhalb von etwa 30 Sekunden nach einer Änderung, sodass das Hinzufügen oder Rotieren eines Schlüssels ohne Neustart wirksam wird.
  • Eine nicht zugewiesene Rolle greift auf die lokale Startkonfiguration des Designers zurück, sofern eine bereitgestellt wurde; ohne Schlüssel für eine Rolle meldet diese Oberfläche, dass kein Provider konfiguriert ist, anstatt stillschweigend den falschen zu verwenden.