OpenRouter

OpenRouter ist die Hub-and-Spoke-Variante für LLM-Zugang. Statt fünf Konten bei fünf Anbietern hast Du einen API-Key und triffst die Modell-Wahl pro Anfrage aus mehreren hundert Modellen. Im go4ai-Stack als Standard-Zugang für RAG-Systeme und Agenten gesetzt – Modell wird über die Admin-UI gewechselt, kein Re-Deploy.

Beim Datenschutz zählen zwei Ebenen. OpenRouter selbst speichert Prompts und Antworten standardmäßig nicht, Logging gibt es nur per Opt-in. Zero Data Retention bei den Modellanbietern ist dagegen kein Standard: Du schaltest sie in den Kontoeinstellungen oder pro Anfrage ein, dann laufen Anfragen nur noch über Endpunkte mit ZDR-Policy. Routing innerhalb Europas über eu.openrouter.ai gibt es im Business- und im Enterprise-Tarif; Business lässt sich im Konto selbst buchen. „Europa“ heißt dabei EU/EWR, Vereinigtes Königreich und Schweiz, und Konto-, Abrechnungs- und Betriebsdaten können trotzdem in den USA liegen. Standard-Konten routen global je nach gewähltem Modell und Provider. Wer im Standard-Tarif steuern will, kann Provider filtern und data_collection: "deny" beziehungsweise Zero Data Retention erzwingen. Wichtig dabei, und von OpenRouter selbst so beschrieben: Diese Filter beruhen auf der Selbstauskunft der Anbieter, die Rechenzentrumsstandorte werden nicht verifiziert. Für Ampel-2- und Ampel-3-Daten reicht das allein nicht. Stand 10/2026, vor einer Entscheidung beim Anbieter prüfen. Wie sich der Gateway-Weg gegen Direktvertrag, Hyperscaler und Eigenbetrieb schlägt, steht in der Entscheidungskarte Wo rechnet mein Modell.

Im Privacy Gateway sitzt OpenRouter als Anbieterebene hinter dem LiteLLM-Proxy: Die Modellwahl bleibt frei, während die Inhalte den Proxy nur pseudonymisiert verlassen. Das ist die Kombination, die den Nachteil beim Datenschutz entschärft, ohne den Vorteil bei der Modellwahl aufzugeben.