Bring your own LLM (Infomaniak, lokal, souverän)

Die Anleitung KI-Assistenten (MCP) zeigt, wie du einen fertigen Assistenten verbindest. Diese Anleitung richtet sich an Entwicklerinnen und Entwickler, die eine Ebene tiefer gehen und das Modell selbst wählen möchten, zum Beispiel, um alles auf EU- oder Schweizer Infrastruktur zu belassen, vollständig offline zu arbeiten oder einfach ein Modell zu nutzen, auf das sich deine Organisation festgelegt hat.

Die Kernidee: Mit MCP sind das Modell und die Verbindung getrennte Belange. Der Peerdom MCP-Server weiss nicht und kümmert sich nicht darum, welches LLM du nutzt. Du bringst das Modell mit; Peerdom beantwortet nur dessen Fragen.

Wie die Teile zusammenpassen

Ein Modell „spricht“ nie MCP. Es äussert lediglich Absichten für Tool-Aufrufe: „Ich möchte list_vacant_roles aufrufen.“ Die umgebende Runtime (der MCP-Client) führt den MCP-Handshake aus, ruft den Peerdom-Server auf und gibt das Ergebnis an das Modell zurück. Zwei Dinge müssen also zutreffen:

(A) Deine Runtime ist ein MCP-Client: Sie kann sich mit einem individuellen Header an einen MCP-Server verbinden.
(B) Dein Modell ist gut im Function-/Tool-Calling: Damit wählt es das richtige Tool und die richtigen Argumente.

┌─────────────────────────────┐
│  Your MCP client / runtime  │   (LibreChat, Goose, Cline, Open WebUI, LM Studio …)
│                             │
│   ├── model API ────────────┼──▶  Your LLM  (Infomaniak, local, or any provider)
│   │                         │
│   └── MCP + X-Api-Key ───────┼──▶  https://mcp.peerdom.org/mcp
└─────────────────────────────┘

Die Runtime ist die einzige Komponente, die mit beiden spricht. Tausche das Modell frei aus, ohne die Peerdom-Seite zu ändern, und umgekehrt.

Warum Infomaniak als Beispiel

Infomaniak ist ein Schweizer Anbieter mit einer OpenAI-kompatiblen LLM-API. Es ist ein gutes durchgespieltes Beispiel für eine anbieterunabhängige, souveräne Modelloption: Die Daten werden in der Schweiz unter der DSGVO und dem Schweizer DSG gehostet, und der Dienst stellt standardmässiges tools / tool_choice Function-Calling bereit, genau das, was MCP benötigt. Dieselben Schritte gelten für jeden OpenAI-kompatiblen Endpunkt (einen lokalen Server, einen anderen EU-Host oder dein eigenes Deployment).

Schritt 1: Einen Infomaniak-Modell-Endpunkt erhalten

Erstelle im Infomaniak-Produkt AI Tools ein Modell-Deployment und notiere dir drei Dinge:

Base URL: https://api.infomaniak.com/2/ai/{PRODUCT_ID}/openai/v1
API-Token: dein Infomaniak API-Token
Ein Modell, das Function-Calling unterstützt: Wähle eines, das im Katalog mit „Function call: Yes“ gekennzeichnet ist (aktuelle Qwen-, Mistral-Small- oder Gemma-Instruct-Modelle sind gute Optionen).

Wähle ein Modell, das Tool-Calling beherrscht. Manche souveränen Modelle (Apertus zum Beispiel) unterstützen kein Function-Calling und können MCP nicht ansteuern. Modell-IDs und ihre Function-Calling-Kennzeichnungen ändern sich, prüfe daher Infomaniaks aktuellen Katalog und bestätige die Kennzeichnung „Function call“, bevor du dich auf ein Modell festlegst.

Schritt 2: Deinen Peerdom API Key erhalten

Erstelle einen Key unter Einstellungen > Meine Daten > API-Schlüssel (Organisationseinstellungen, Zugriff als Besitzerin oder Besitzer erforderlich): derselbe Key, der in der Anleitung KI-Assistenten (MCP) beschrieben ist. Er authentifiziert die MCP-Verbindung.

Schritt 3: Beides in deinen MCP-Client einbinden

Konfiguriere in deiner Runtime zwei Dinge: den Modellanbieter (Infomaniak) und den MCP-Server (Peerdom). Hier ein durchgespieltes Beispiel mit LibreChat, das individuelle OpenAI-kompatible Endpunkte und MCP-Server in einer einzigen Konfigurationsdatei unterstützt:

# librechat.yaml
endpoints:
  custom:
    - name: "Infomaniak"
      apiKey: "${INFOMANIAK_API_TOKEN}"
      baseURL: "https://api.infomaniak.com/2/ai/${INFOMANIAK_PRODUCT_ID}/openai/v1"
      models:
        default: ["mistral-small"]   # jedes Modell mit der Kennzeichnung "Function call: Yes"
        fetch: false

mcpServers:
  peerdom:
    type: streamable-http
    url: "https://mcp.peerdom.org/mcp"
    headers:
      X-Api-Key: "${PEERDOM_API_KEY}"

Starte einen Chat gegen den Infomaniak-Endpunkt, und die Peerdom-Tools stehen dem Modell zur Verfügung. Frage „Welche Rollen sind vakant?“, und das Schweiz-gehostete Modell schliesst über die Antwort, die der Peerdom-Server zurückgibt.

Die Konfigurationsschemata unterscheiden sich je nach Client und Version: Prüfe die Dokumentation deiner Runtime für die genauen Schlüssel. Konstant bleiben die Daten: die Infomaniak Base URL und das Token sowie der Peerdom-Endpunkt (https://mcp.peerdom.org/mcp) mit deinem X-Api-Key.

Andere Runtimes folgen demselben zweiteiligen Muster: Richte die Modelleinstellung auf die Infomaniak Base URL aus und füge den Peerdom-MCP-Server-Block aus der Hauptanleitung hinzu:

Goose, Cline, Continue: Setze den Modellanbieter auf einen individuellen OpenAI-kompatiblen Endpunkt und füge dann den Peerdom-MCP-Server hinzu.
Open WebUI: Füge Infomaniak als OpenAI-kompatible Verbindung hinzu; erreiche MCP über HTTP (oder via den MCPO-Proxy).
LM Studio: Für einen vollständig offline laufenden Stack lass ein lokales Function-Calling-Modell statt Infomaniak laufen und behalte denselben Peerdom-MCP-Block bei.

Deinen eigenen Agenten bauen

Wenn du den Agenten selbst schreibst, ist der Modellaufruf schlicht OpenAI-kompatibel: Richte das SDK auf Infomaniaks Base URL aus und übergib die Peerdom-Tools (vom MCP-Server ermittelt) als tools:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.infomaniak.com/2/ai/{PRODUCT_ID}/openai/v1",
    api_key="INFOMANIAK_API_TOKEN",
)

# `tools` are the Peerdom MCP tools, fetched via an MCP client library and
# converted to OpenAI function definitions; tool calls are dispatched back
# to https://mcp.peerdom.org/mcp with your X-Api-Key.
response = client.chat.completions.create(
    model="mistral-small",
    messages=[{"role": "user", "content": "Which roles are vacant in Marketing?"}],
    tools=tools,
    tool_choice="auto",
)

Eine MCP-Client-Bibliothek übernimmt den Handshake und das Tool-Dispatching; deine Schleife leitet lediglich Tool-Aufrufe zwischen dem Modell und dem Peerdom-Server weiter.

Gut zu wissen

Die Qualität des Tool-Callings ist entscheidend. Schwächere Modelle können in Schleifen geraten, Tool-Namen halluzinieren oder einen nötigen Aufruf auslassen. Falls die Ergebnisse unzuverlässig sind, wechsle zu einem stärkeren Function-Calling-Modell, bevor du irgendetwas anderes debuggst.
Die Datenhoheit liegt in deiner Hand. Mit Infomaniak oder einem lokalen Modell wird über deine Organisationsdaten auf EU-/Schweizer- oder On-Premise-Infrastruktur geschlossen, nur dein API Key erreicht Peerdom, und der MCP-Server speichert nichts.
Heute schreibgeschützt. Wie bei jedem MCP-Client kann die Verbindung deine Organisation lesen und zusammenfassen, sie aber nicht verändern.