OmniRoute im Check: Ein Endpoint, 17.000 GitHub-Stars und viele offene Fragen

TL;DR: OmniRoute ist ein selbst gehostetes KI-Gateway, das Coding-Agenten wie Claude Code, Codex oder Cursor über einen OpenAI-kompatiblen Endpoint an viele Provider anbindet, inklusive Fallback, Combos und Token-Kompression. Das Projekt wächst extrem schnell: 17.095 GitHub-Stars, davon +4.279 in sieben Tagen (Stand 14. Juli 2026, 11:02 UTC). Genauso auffällig sind die Widersprüche. Offizielle Projektflächen nennen zeitgleich 160+, 231+, 237+ und 250 Provider. Die 1,6 Milliarden Gratis-Tokens sind eine geschätzte Projektaggregation, kein garantiertes Kontingent. Version 3.8.48 ist ein Hotfix, weil 3.8.47 bei jedem Start abstürzte. Für kontrollierte Self-Hosted-Tests ist OmniRoute interessant, als Set-and-forget-Gateway aktuell nicht.

Was ist OmniRoute?

OmniRoute ist ein quelloffenes Gateway (MIT-Lizenz, TypeScript), das du selbst betreibst. Es startet lokal als Dienst auf Port 20128 und stellt eine OpenAI-kompatible API bereit. Jedes Tool, das mit /v1 sprechen kann, spricht damit indirekt mit jedem angebundenen Provider. Wichtig für die Einordnung: OmniRoute ist kein Modell und kein kostenloser Cloud-Dienst. Es ist eine Vermittlungsschicht. Die Intelligenz und die Kosten liegen weiter bei den Providern, deren Zugänge du selbst mitbringst.

Der praktische USP

Der eigentliche Nutzen liegt nicht in „kostenloser KI“, sondern in fünf nüchternen Funktionen: - Ein zentraler Endpoint für alle angebundenen Coding-Agenten und Modelle - Formatübersetzung zwischen OpenAI, Claude, Gemini und der Responses API - Combos, also Modellketten, die bei Ausfall oder Quota-Ende weiterreichen - Auto-Fallback über mehrere Tiers hinweg - Quoten- und Kostensteuerung samt Dashboard Wer mehrere Abos und API-Schlüssel parallel nutzt, verwaltet sonst pro Tool eine eigene Konfiguration. Genau diese Zersplitterung räumt OmniRoute auf.

Was „local-first“ nicht bedeutet

Das Projekt bewirbt sich als local-first. Das bezieht sich auf den Betrieb: Der Router läuft auf deiner Maschine, das Dashboard ebenfalls, Zugangsdaten liegen lokal. Deine Prompts bleiben trotzdem nicht lokal. Sie gehen an den Provider, den das Routing tatsächlich auswählt. Wer echte Lokalität will, braucht lokale Modelle, etwa nach dem Muster aus dem Guide zu Claude Code lokal mit Gemma 4 und Ollama.

Warum wächst OmniRoute so schnell?

Die Wachstumskurve ist der Grund, warum das Projekt gerade überall auftaucht. Die folgenden Werte habe ich am 14. Juli 2026 um 11:02 UTC über die GitHub-API und die npm-Registry direkt abgefragt. Die Sieben-Tage-Fenster sind rollierend ab diesem Zeitpunkt gerechnet. | Kennzahl | Wert (Stand 14.07.2026, 11:02 UTC) | |---|---:| | GitHub-Stars | 17.095 | | Star-Wachstum, letzte 7 Tage | +4.279 (+33,4 %) | | Star-Wachstum, vorherige 7 Tage | +4.782 | | Forks | 2.585 | | Watcher | 147 | | Offene Issues | 197 | | Offene Pull Requests | 104 | | Contributors laut GitHub-API | 195 | | Aktuelle Version | 3.8.48 | | npm-Versionen seit 14.02.2026 | 287 | | npm-Maintainer | 1 | | npm-Paket ungepackt | 739.183.117 Byte / 20.609 Dateien | | Lizenz | MIT | Zwei Wochen mit jeweils über 4.200 neuen Stars sind auch für ein virales Repo außergewöhnlich. Das Projekt existiert erst seit dem 13. Februar 2026.

Was die 195 Contributors wirklich bedeuten

Die Zahl klingt nach einem breiten Team, ist aber irreführend. Der Hauptentwickler steht bei 2.968 Commits, der zweitaktivste Beitragende bei 188, Platz drei bei 108. Auf Platz vier liegt ein Dependabot. Hinweis: Das ist kein Vorwurf, sondern eine Betriebsrisiko-Frage. Ein Projekt mit 739 MB Paketinhalt, 287 Versionen und einem einzigen npm-Maintainer hängt in Wartung, Sicherheitsreaktion und Release-Qualität sehr stark an einer Person. Wer OmniRoute produktiv einsetzt, sollte das einkalkulieren.

Wie funktionieren Combos und Auto-Fallback?

Combos sind laut Projekt das Kernfeature. Eine Combo ist eine Kette von Modellen, die OmniRoute automatisch durchläuft: Läuft eine Quota aus, fällt ein Provider aus oder steigen die Kosten, rutscht die Kette weiter zum nächsten Eintrag.

Die vier Tiers

Das Fallback ist als Stufenmodell gebaut, das dem Kostengefälle folgt: 1. Tier 1 Subscription: vorhandene Abos wie Claude Code oder Codex zuerst ausnutzen 2. Tier 2 API-Key: bezahlte API-Zugänge, etwa DeepSeek 3. Tier 3 Cheap: günstige Modelle 4. Tier 4 Free: Free-Tier-Provider als letzte Reserve Die Logik dahinter ist plausibel: Abo-Kontingente verfallen monatlich ungenutzt, während parallel API-Rechnungen laufen. Das Tier-Modell dreht die Reihenfolge um.

Zero-Config über `auto`

Du musst keine Combo bauen. Setzt du das Modell auf auto, erzeugt OmniRoute aus deinen verbundenen Providern eine virtuelle Combo und bewertet sie laufend. Daneben gibt es Varianten wie auto/coding, auto/cheap, auto/fast, auto/smart oder auto/reasoning:pro. Genau diese Aliase sind allerdings gerade ein Schwachpunkt. Issue 7111 meldet, dass auto/-Aliase über einen benutzerdefinierten OpenAI-Endpoint fehlschlagen, während konkrete Modellnamen funktionieren. Faustregel: Verlass dich bei kritischen Setups nicht auf die Automatik, sondern pinne konkrete Modelle.

Wie belastbar sind 250 Provider und 1,6 Milliarden Gratis-Tokens?

Hier wird es unübersichtlich. Beide Zahlen zirkulieren als harte Fakten, und beide halten dieser Rolle nicht stand.

Vier Providerzahlen gleichzeitig

Die offiziellen Projektflächen nennen zum selben Zeitpunkt vier verschiedene Werte: | Quelle | Angabe | |---|---| | npm-Paketbeschreibung | 160+ Provider | | GitHub-Repo-Beschreibung | 231+ Provider | | docs/comparison/OMNIROUTEVSALTERNATIVES.md | 237+ Provider | | README | 250 Provider | Keine dieser Zahlen ist unabhängig bestätigt, und sie widersprechen sich untereinander. Das heißt nicht, dass die Provider-Abdeckung schlecht wäre; sie ist vermutlich beachtlich. Es heißt, dass du keine dieser Zahlen zitieren solltest, als wäre sie geprüft.

Die 1,6 Milliarden sind eine Schätzung, kein Kontingent

Bemerkenswert ist, dass die Projektdokumentation hier ehrlicher ist als das Marketing. Die Datei docs/reference/FREETIERS.md beziffert den dokumentierten wiederkehrenden Anteil auf rund 1,54 Milliarden Tokens pro Monat, gerundet kommuniziert als 1,6 Milliarden. Dazu kommen laut Projekt bis zu 2,15 Milliarden im ersten Monat, wenn einmalige Signup-Credits mitzählen. Entscheidend sind die Einschränkungen, die das Projekt selbst benennt: - Die Werte sind Obergrenzen-Schätzungen aus Web-Recherche, Stand 17. Juni 2026, mit Konfidenz pro Zeile. - Es ist eine Aggregation über 40+ Free-Tier-Pools. Du bekommst kein Kontingent, sondern musst dir bei jedem Anbieter selbst einen Account anlegen. - Der theoretische Deckel von rund 10 Milliarden wird vom Projekt ausdrücklich verworfen, weil er Rate-Limits auf Dauerbetrieb hochrechnet. - Die Zahl fiel bei der letzten Korrektur von 1,94 auf 1,54 Milliarden, weil Gemini-Varianten doppelt gezählt worden waren und abgeschaltete Tiers noch drinsteckten. Ein Free Tier, der heute gilt, kann nächsten Monat weg sein. Die Dokumentation listet allein für 2026 mehrere eingestellte Anbieter.

Das ToS-Problem, über das kaum jemand spricht

Der unangenehmste Punkt steht ebenfalls in der Projektdoku. OmniRoute markiert 19 Provider mit Vorsichtsklauseln, deren Nutzungsbedingungen Proxy-, Weiterverkaufs- oder reine Privatnutzung regeln. Bei Fireworks, NLPCloud, Modal, Blackbox oder Duck.ai ist Proxy- beziehungsweise Drittzugriff laut Projektangabe explizit untersagt. Googles Antigravity-ToS verbietet demnach ausdrücklich den Zugriff über Drittsoftware per OAuth. Wenn dich diese Plattform interessiert, ist der reguläre Weg über Claude Code in Google Antigravity der unkompliziertere. Dazu passt, dass OmniRoute TLS-Fingerprint-Stealth (JA3/JA4) und einen MITM-Proxy, der Cursor und Antigravity abfängt, als Features führt. Technisch ist das clever. Vertraglich bewegst du dich damit bei einem Teil der Anbieter im roten Bereich, und die Konsequenz trägt dein Account, nicht das Projekt.

Spart RTK + Caveman wirklich bis zu 95 Prozent Tokens?

Die Angabe von 15 bis 95 Prozent gilt laut Projekt für geeignete Tokens pro Request, nicht für deine Gesamtkosten. Diese Unterscheidung ist der ganze Punkt. OmniRoute stapelt zwei Engines: - RTK komprimiert Terminal-, Shell-, Build-, Test- und Git-Ausgaben. Das ist der Fall, in dem hohe Werte plausibel sind: Ein git diff oder ein Testlog ist hochgradig redundant. - Caveman verdichtet natürlichsprachliche Prompts. Das Prinzip kennst du aus dem Caveman Mode, wo Artikel und Füllwörter fallen. - Der Modus stacked führt beide nacheinander aus (rtk - caveman). Das Projekt nennt für werkzeuglastige Sessions einen Durchschnitt von rund 89 Prozent. Das ist eine Projektangabe ohne unabhängige Prüfung und beschreibt zudem den Idealfall: eine Session, die überwiegend aus Tool-Output besteht. Wichtig: Für normale Konversationen ist dieser Wert nicht belegt, und eine Token-Ersparnis ist keine Kostenersparnis im gleichen Verhältnis. Wie Kompression als eigenständige Schicht funktioniert, zeigt Netflix mit Headroom. Wer nur Kosten senken will, kommt damit oft einfacher ans Ziel als über ein komplettes Gateway.

Wie sicher ist OmniRoute?

Hier lohnt der Blick ins Detail, weil die Standardeinstellungen weniger schützen, als die Feature-Liste suggeriert.

Verschlüsselung ist optional

OmniRoute verschlüsselt API-Keys, Access- und Refresh-Tokens im Format enc:v1:<iv:<ciphertext:<authTag. Das gilt aber nur, wenn STORAGEENCRYPTIONKEY gesetzt ist. Ohne diesen Schlüssel dokumentiert das Projekt einen Passthrough-Modus im Klartext. Setz den Schlüssel also von Anfang an: Immerhin lehnt der Server bekannte Schwachwerte wie changeme oder password aktiv ab.

Guardrails sind fail-open

Die Guardrails-Registry ist laut docs/security/GUARDRAILS.md fail-open by design: Wirft eine Guardrail beim Ausführen einen Fehler, protokolliert die Registry ihn und macht mit der nächsten weiter, statt den Request zu blockieren. Blocken ist eine explizite Entscheidung, kein Automatismus. Dazu kommen zwei Einschränkungen, die du kennen musst: - Der Injection-Scanner prüft nur die ersten 16.384 Byte des Prompt-Texts (MAXINJECTIONSCANBYTES). Die Begründung ist nachvollziehbar, weil Injection-Direktiven meist oben stehen und die Grenze CPU-Last bei großen Payloads deckelt. Eine Garantie ist es nicht. - INJECTIONGUARDMODE steht standardmäßig auf warn, protokolliert also nur. Erst block liefert HTTP 400 zurück.

Der Socket.dev-Fall, richtig eingeordnet

Im Mai 2026 blockierte Socket.dev das Paket omniroute@3.8.5 und meldete unter anderem KI-erkannte potenzielle Malware, obfuskierten Code und Install-Skripte. Wer das verkürzt, liest daraus einen Malware-Nachweis. Das gibt der Vorgang nicht her. Der Maintainer hat in Issue 2863 je Fund erklärt, dass es sich um dokumentierte, opt-in aktivierbare Funktionen handelt, die erst durch eine Nutzeraktion im lokalen Dashboard scharf werden. Bemerkenswert ist der zweite Teil der Antwort: Zwei der sechs Fundstellen waren echte Lücken, die mit 3.8.6 geschlossen wurden. Betroffen waren ein stiller Credential-Überschreib-Pfad im Cloud Sync ohne Signaturprüfung, jetzt per HMAC-SHA256 abgesichert, sowie der Keychain-Import. Der Melder hat die Reaktion ausdrücklich als verantwortungsvoll bewertet. Die faire Bilanz: kein Malware-Nachweis, aber ein Paket, dessen Bundle privilegierte Codepfade enthält, und ein Scanner, der zwei reale Fehler mit aufgedeckt hat.

Welche Stabilitätsrisiken gibt es?

Das Projekt veröffentlicht 287 npm-Versionen in 149 Tagen, also im Schnitt fast zwei pro Tag. Dieses Tempo hat einen Preis, und der ist gerade sichtbar. Version 3.8.48 ist ein Hotfix. Die veröffentlichte 3.8.47 stürzte bei jedem Start mit ERRMODULENOTFOUND ab, weil eine Datei nicht ins npm-Tarball gelangt war, und wurde deprecated. Die Release-Notes bezeichnen das selbst als dritten Fall dieser Fehlerklasse nach einem gleichartigen Problem in 3.8.41. Offene Issues vom Tag der Recherche: | Issue | Problem | |---|---| | 7146 | Jeder Codex-Request läuft in einen 502, Response-Body wird doppelt gelesen | | 7132 | Windows-Electron 3.8.48: reproduzierbarer Kaltstart-Fehler, 1,6-MB-SQLite-DB führt zu OOM | | 7111 | auto/-Routing-Aliase schlagen an einem Custom-Endpoint fehl | Das sind keine Randfälle, sondern Kernpfade: Agent-Anbindung, Desktop-Start und Auto-Routing. Bei 197 offenen Issues und 104 offenen Pull Requests ist zudem absehbar, dass die Triage-Last hoch bleibt.

OmniRoute vs. LiteLLM, OpenRouter und Portkey

Ein Hinweis vorab zur Methodik: OmniRoute pflegt eine eigene Vergleichstabelle, die Konkurrenten mit Providerzahlen und Feature-Häkchen ausweist. Das ist eine Herstellerquelle, und ich übernehme daraus nichts. Die folgenden Angaben zu den drei Alternativen stammen aus deren eigenen Repositories und Lizenzdateien. Warum das nötig ist, zeigt ein Beispiel: OmniRoutes Tabelle markiert Portkey beim Self-Hosting als kostenpflichtig. Das trifft nicht zu. Das Portkey AI Gateway steht unter MIT-Lizenz und lässt sich per npx, Docker, Node.js oder Cloudflare Workers kostenlos selbst betreiben. Kommerziell ist die darüberliegende SaaS- und Enterprise-Ebene, nicht das Gateway. | Kriterium | OmniRoute | LiteLLM | OpenRouter | Portkey | |---|---|---|---|---| | Modell | Self-Hosted, MIT | Self-Hosted, MIT (außer enterprise/) | SaaS | Gateway self-hostbar unter MIT, dazu SaaS-Ebene | | Betriebsaufwand | Hoch, du betreibst und aktualisierst alles | Mittel, reife Deployment-Rezepte | Keiner | Gering als SaaS, mittel selbst gehostet | | Routing/Fallback | Combos über vier Tiers, auto-Aliase | Fallbacks, Retries, Load-Balancing | Anbieterseitig | Fallbacks, Retries, Load-Balancing, conditional Routing | | Coding-Agent-Integration | Kernfokus, inkl. OAuth-Abos | Python-zentriert | Über OpenAI-kompatible API | Über SDK/Gateway | | Kompression | Eingebaut (RTK + Caveman) | Nicht als Feature beworben | Nicht als Feature beworben | Nicht als Feature beworben | | Governance/SLA | Keine, Community-Projekt | OSS ohne SLA, Enterprise-Ebene vorhanden | Anbieter-Konditionen | Kommerzielle SLA verfügbar | | Abrechnung | Deine Konten je Provider | Deine Konten je Provider | Ein Zahlungsweg | Deine Konten, kommerzielle Ebene optional | | Zielgruppe | Early Adopter, Self-Hoster | Python-Teams, Produktion | Alle ohne Ops-Wunsch | Unternehmen mit Compliance | Die Trennlinie ist trotzdem klar. Von den vier adressiert nur OmniRoute Abos, Free Tiers und Coding-Agenten ausdrücklich zusammen, und nur OmniRoute bringt Kompression als Kernfeature mit. Dafür bezahlst du mit Betriebsaufwand und Reifegrad. Wer eine SLA braucht, ist hier falsch.

Für wen lohnt sich OmniRoute?

| Profil | Einschätzung | |---|---| | Early Adopter mit mehreren KI-Abos und Lust auf Tuning | Ja, klarer Sweet Spot | | Entwickler, die Abo-Kontingente ausreizen wollen, bevor sie verfallen | Ja, dafür ist das Tier-Modell gebaut | | Kontrollierte Self-Hosted-Tests in einer isolierten Umgebung | Ja, mit gepinnter Version | | Teams, die ein stabiles Gateway ohne Pflegeaufwand brauchen | Nein, Release-Tempo und offene Regressionen sprechen dagegen | | Produktion mit Compliance-, Audit- oder SLA-Anforderung | Nein, dafür fehlen Governance und Zusagen | | Nutzer, die schlicht „kostenlose KI“ erwarten | Nein, du brauchst Accounts, Keys und Pflege | Faustregel: Behandle OmniRoute als Werkzeug, das du aktiv betreust, nicht als Infrastruktur, die du einmal aufsetzt und vergisst. Wer nur einen freien Coding-Agenten sucht, fährt mit Kilo Code oder einem lokalen Setup unaufgeregter.

Wie testest du OmniRoute kontrolliert?

Wenn du es ausprobierst, dann mit gepinnter Version. Bei fast zwei Releases pro Tag und einem gerade deprecated veröffentlichten Build ist latest keine gute Idee. Nach dem Start erreichst du Dashboard und API lokal: Setz vor dem ersten echten Provider-Login die Verschlüsselung, sonst landen Tokens im Klartext im Storage: Ob die Modellliste steht, prüfst du direkt am Endpoint: Vier Punkte für den Test, die sich aus der Recherche ergeben: Nutze ein separates Testkonto statt deiner produktiven Zugänge. Prüfe vorab die ToS der Provider, die du anbinden willst. Setz INJECTIONGUARDMODE auf block, wenn du dich auf die Guardrail verlassen willst. Und rechne damit, dass du nach einem Update erneut testen musst.

FAQ: Häufige Fragen zu OmniRoute

Ist OmniRoute kostenlos? Die Software ja, sie steht unter MIT-Lizenz. Die Nutzung nicht automatisch: OmniRoute vermittelt nur zu Providern, deren Abos, API-Keys oder Free-Tier-Accounts du selbst mitbringst und pflegst. Bekomme ich damit unbegrenzt Claude, GPT oder Gemini gratis? Nein. OmniRoute bündelt fremde Free Tiers mit eigenen Limits, die sich laufend ändern oder wegfallen. Für jeden Anbieter brauchst du ein eigenes Konto, und bei einigen widerspricht die Proxy-Nutzung den Nutzungsbedingungen. Bleiben meine Prompts auf meinem Rechner? Nein. Local-first beschreibt den Betrieb des Gateways, nicht den Verbleib deiner Daten. Deine Prompts gehen an den Provider, den das Routing auswählt. Wurde in OmniRoute Malware gefunden? Nein. Socket.dev hat in Version 3.8.5 verdächtige Paketfunktionen gemeldet. Der Maintainer hat sie als dokumentierte Opt-in-Funktionen erklärt und dabei zwei reale Sicherheitslücken in 3.8.6 geschlossen. Ein Malware-Nachweis ist das nicht. Wie viele Provider unterstützt OmniRoute wirklich? Das ist offen. Die Projektflächen nennen zeitgleich 160+, 231+, 237+ und 250. Unabhängig geprüft ist keine dieser Zahlen, und sie widersprechen sich gegenseitig. Spare ich mit RTK und Caveman 95 Prozent meiner Kosten? Nein. Die 15 bis 95 Prozent beziehen sich laut Projekt auf geeignete Tokens pro Request, nicht auf die Gesamtkosten. Hohe Werte sind bei Logs und Diffs plausibel, für normale Konversationen sind sie nicht belegt. Kann ich OmniRoute produktiv einsetzen? Davon würde ich derzeit abraten. Version 3.8.48 ist ein Hotfix nach einem Build, der bei jedem Start abstürzte, und offene Issues betreffen Kernpfade wie Codex-Anbindung, Desktop-Start und Auto-Routing.

Fazit

OmniRoute löst ein echtes Problem: Abos verfallen ungenutzt, jedes Tool will seine eigene Konfiguration, und Rate Limits stoppen dich mitten in der Arbeit. Die Idee eines zentralen Endpoints mit Tier-Fallback ist überzeugend, und die Free-Tier-Dokumentation des Projekts ist ehrlicher als sein eigenes Marketing. Genau da liegt aber das Problem: Vier gleichzeitige Providerzahlen, geschätzte Gratis-Token-Aggregate, fail-open-Guardrails und ein Hotfix-Release nach einem nicht startbaren Build sind keine Details, sondern Betriebsrisiken. Für Early Adopter mit gepinnter Version und Testkonto ist OmniRoute einen Blick wert, als verlässliches Gateway ist es 2026 noch nicht angekommen. Verwandte Themen: Wie Token-Kompression funktioniert, zeigen der Caveman Mode und die Headroom-Schicht von Netflix. Wirklich lokal arbeitest du mit Claude Code, Gemma 4 und Ollama. Einen freien Coding-Agenten ohne Gateway-Overhead bietet Kilo Code, und den regulären Weg auf Googles Plattform beschreibt Claude Code in Google Antigravity. Verifizierte Quellen: - GitHub-Repository diegosouzapw/OmniRoute – Stars, Forks, Issues, Pull Requests und Contributors via GitHub-API und GraphQL, abgerufen am 14.07.2026 - README des Projekts – Providerzahl 250, Combos, Tier-Modell, Kompressionsangaben - Release-Notes v3.8.48 – Hotfix nach nicht startbarer 3.8.47 - SECURITY.md – Verschlüsselung und Plaintext-Passthrough - GUARDRAILS.md – fail-open, Scan-Grenze, Default-Modus - FREETIERS.md – Free-Tier-Budget, Methodik und ToS-Hinweise - OMNIROUTEVSALTERNATIVES.md – Herstellerquelle, bewusst nicht übernommen - Issue 2863 – Socket.dev-Report und Maintainer-Antwort - npm-Registry: omniroute – Versionen, Maintainer und Paketgröße - LiteLLM: Lizenzdatei und Portkey AI Gateway – für den Vergleich unabhängig geprüft