Keera Gateway ist ein LLM-Gateway aus der Schweiz: ein Endpunkt für jede KI-Anfrage, auch bei den Anbietern, die deine Teams heute schon nutzen. Du bestimmst, wer welches Modell mit welchen Daten und zu welchen Kosten nutzen darf. Es läuft in Schweizer Rechenzentren oder in deinem eigenen Cluster.
Das Problem
Ohne klare Guidelines legen Teams einfach los: ein Konto hier, ein Schlüssel dort.
Nach einem halben Jahr sieht keiner mehr, welche Modelle welche Daten sehen und wer das erlaubt hat.
Kein Budget pro Team, keine Grenze, keine Warnung. Was KI kostet, zeigt sich erst auf der Rechnung.
Wir planen Cloud-Exits und hängen bei KI trotzdem an OpenAI, Anthropic, Microsoft und Google.
Team Produkt
CI/CD
Data Science
OpenAI
Anthropic
Azure OpenAI
Nichts dazwischen - keine Policy, kein Budget, kein Log
Die Lösung
Die Antwort darauf: eine Base-URL, davor deine Regeln.
Einheitliche API
Eine Base-URL für alles, kompatibel mit OpenAI und Anthropic. Anbieter wechseln heisst: eine Variable ändern.
Guardrails
Regeln pro Team, API-Key und Datenklasse. Secrets und Personendaten bleiben draussen.
Budgets
Kosten pro Team und Kostenstelle, harte Grenzen, Alarm vor der Rechnung.
Observability
Jede Anfrage im Audit-Log und im SIEM. Egress sperren, Shadow AI ist vorbei.
Routing
Kleine Aufgaben ans lokale Modell, schweres Reasoning ans grosse.
Souveränität
Schweizer Anbieter zuerst, die im Ausland gesperrt, bis du sie freigibst. Prompts und Antworten werden nie gespeichert oder fürs Training genutzt.
Keera Gateway steuert die Modelle, die du heute schon bezahlst, und die aus dem Modellkatalog. Keera Engine ist der nächste Schritt, wenn du offene Modelle selbst betreiben willst.
Der Endpunkt, steuerbar über Web-UI und CLI. Deine Tools, Agenten und Notebooks zeigen darauf und laufen wie bisher; alle anderen chatten in Keera Chat. Den Quellcode kannst du auf GitHub lesen (Keera Community Licence).
Der nächste Schritt: eine Inferenz-Engine für jedes offene Modell, das vLLM bereitstellen kann, gebaut aus Kubernetes, vLLM und llm-d. Auf Schweizer GPUs oder in deinem eigenen Cluster.
Jedes Mal dasselbe Gateway. Du wählst, wo es läuft.
Um heute zu starten: eine gemeinsame Instanz ohne Grundgebühr, an einem Nachmittag live.
Für eine eigene Instanz, bei einem Schweizer Cloud-Anbieter, privat angebunden.
Wenn nichts das Haus verlassen darf: in deinem eigenen Kubernetes-Cluster, auch air-gapped.
Die Geschichte
Sie fängt als Zuschauerin in einem Serverraum an, folgt den Daten bis in eine Halle ohne Adresse und kommt mit dem Tor zurück, das ihr dort gefehlt hat. Ihr Gegner ist ein erfundener Konzern namens Omnivor.
Den Konzern Omnivor gibt es nicht. Die Klauseln und die Rechenzentren, aus denen wir ihn gebaut haben, schon.
Du hast eine Frage oder einen Kommentar? Oder du brauchst ein Angebot für On-Premise oder ein SLA? Schreib uns.
