← Zurück zur Startseite
Open Source · AI Gateway

OmniRoute
Ein Gateway für alle KI-Provider

OmniRoute ist ein kostenloses, selbst gehostetes AI-Gateway (MIT-Lizenz): Es bündelt 352 Provider mit über 1.200 Modellen hinter genau einem lokalen Endpunkthttp://localhost:20128/v1. Claude Code, Codex, Cursor, Cline, Copilot und OpenCode laufen darüber auf Gratis- und Billig-Kontingenten, mit automatischer Fallback-Kaskade und Token-Kompression.

Routing-Kaskade: Fallback über 4 Ebenen

1 Abo-Kontingent z. B. Claude-Max-Plätze
2 API-Key-Provider eigene Keys, Pay-as-you-go
3 Günstige Provider kleine Modelle, Cent-Beträge
4 Gratis-Tiers keyless vorverdrahtet

Fällt ein Provider aus oder ist das Kontingent leer, springt der Router automatisch zur nächsten Ebene – solange ein gesundes Ziel übrig ist. Kein „rate limit“-Abbruch mitten in der Session.

Was ist OmniRoute?

Ein lokaler Vermittler zwischen Coding-Agent und KI-Providern. Ein Endpunkt, 19 Routing-Strategien, Schutzschaltungen (Circuit Breaker) – und der Agent merkt davon nichts.

Warum interessant?

Statt für jedes Tool einen anderen Provider zu konfigurieren, zeigt alles auf localhost:20128. Die Gratis-Kontingente der Provider werden gebündelt – laut Projekt rund 1,47 Mrd. Token/Monat.

Zero-Config

Ohne API-Keys startklar: keylose Gratis-Provider sind vorverdrahtet. Installieren, omniroute serve, fertig. Eigene Keys lassen sich später ins Dashboard eintragen.

Installation & Einsatz

OmniRoute ist ein npm-Paket (Node.js 18+) und läuft auf Windows, macOS und Linux – auch per Docker oder auf einem Raspberry Pi. Die Befehle stammen aus dem offiziellen Repository.

🐦 Android / Raspberry Pi

Läuft dank ARM-Support sogar auf dem Handy (Termux) oder einem Ein-Platinen-Rechner – 24/7 im Hintergrund.

# Android via Termux pkg install nodejs npx -y omniroute

🐚 Docker

Für Server und NAS: Multi-Arch-Image (AMD64 + ARM64) mit Compose-Profilen und HTTPS-Beispielen.

docker run diegosouzapw/omniroute

〉_ CLI-Cockpit 80+ Befehle

Neben serve gibt es eine echte CLI: interaktiven TUI-Chat, Provider-Status, Quotas, Health-Check und einen Einrichtungs-Wizard.

omniroute providers list omniroute combo list omniroute health

💼 IDE-Integrationen

Für VS Code Copilot Chat gibt es die OmniCopilot-Extension, für OpenCode ein Plugin. Cursor, Cline, Aider & Co. konfigurierst du einfach auf den lokalen Endpunkt.

# Base URL für jeden OpenAI-kompatiblen Client http://localhost:20128/v1
Datenschutzhinweis: Der Proxy sieht den kompletten Prompt-Traffic. Bei Gratis-Tiers dürfen viele Provider Eingaben zum Modelltraining verwenden – deren Bedingungen weichen deutlich von denen kommerzieller APIs ab. Firmenkundendaten, Quellcode von Kundenprojekten oder Finanzdaten gehören nicht durch ein Gratis-Gateway. OmniRoute selbst läuft komplett lokal und sendet nichts weiter als die eigentlichen API-Requests an die von dir gewählten Provider.

Anleitung OmniRoute in OpenAI Codex einbinden

Die Kombination aus OpenAI Codex CLI und OmniRoute ermöglicht es, den hochentwickelten Terminal-Agenten von OpenAI mit den gebündelten Gratis- und Spar-Kontingenten alternativer Provider zu betreiben („Codexmaxxing“). Es gibt drei Wege der Einbindung:

Weg 3: Feste Konfiguration in ~/.codex/config.toml Dauerhaft

Für Entwickler, die Codex dauerhaft und ohne Prefix-Befehle auf OmniRoute schalten möchten. Wichtig: Modernes Codex CLI verlangt wire_api = "responses". OmniRoute übersetzt dies im Hintergrund automatisch in das Format des jeweiligen Ziel-Providers (z. B. Chat Completions für Kimi, GLM oder Mistral).

# Datei: ~/.codex/config.toml model = "cx/gpt-5.5" model_provider = "omniroute" model_reasoning_effort = "high" model_context_window = 400000 model_auto_compact_token_limit = 350000 [model_providers.omniroute] name = "OmniRoute" base_url = "http://localhost:20128/v1" env_key = "OMNIROUTE_API_KEY" requires_openai_auth = false wire_api = "responses"

Da Codex vor dem ersten Request prüft, ob die Umgebungsvariable OMNIROUTE_API_KEY existiert, genügt bei lokalem OmniRoute ein beliebiger Platzhalter in der Shell (z. B. in der ~/.bashrc oder PowerShell):

# Umgebungsvariable setzen (Shell / PowerShell) export OMNIROUTE_API_KEY="local" # In PowerShell: $env:OMNIROUTE_API_KEY="local"
Wichtige Praxistipps für Codex & OmniRoute:
  • Session-Affinität aktivieren: Für längere Programmier-Aufgaben im OmniRoute-Dashboard unter Settings → Routing den Wert Affinity TTL auf z. B. 43200 (12 Stunden) setzen. Dadurch bleibt der Kontext desselben Chats immer beim gleichen Provider-Konto und das Prompt-Caching bleibt stabil.
  • Modell-Präfixe: In OmniRoute tragen Modelle Präfixe wie cx/ (Codex/GPT), glm/, kmc/ (Kimi) oder ds/ (DeepSeek).
  • Details zu Codex CLI: Alle Kernfeatures, Sandboxing-Optionen und Hintergründe findest du auf unserer OpenAI Codex Infoseite.

Gut zu wissen

Lizenz

MIT

100 % selbst gehostet, kein Cloud-Dienst, kein Bezahl-Tier der Macher. Entwickelt von diegosouzapw mit 600+ Contributoren.

Kompression

15–95 %

Integrierte Token-Kompression (RTK + Caveman) kürzt lange Tool-Ausgaben und Kontext, bevor sie das Modell erreichen.

Kompatibel mit

Agenten

Claude Code, Codex CLI, Cursor, Cline, Kilo Code, Continue, Aider, Goose, Gemini CLI, Copilot Chat, OpenCode und weitere.

Kurz gesagt: OmniRoute ist die selbst gehostete Antwort auf OpenRouter – statt einer zentralen Rechnung laufen deine Agenten über die gebündelten Gratis- und Billig-Kontingente vieler Provider, mit automatischem Fallback, wenn eines leer ist. Für sensibles Kundschaftsmaterial bleibt dann trotzdem der direkte Weg über einen kommerziellen Provider die richtige Wahl.