Souveräne KI-Plattformen
KI-Plattformen, die dort laufen, wo Ihre Daten liegen
Wir bauen die Plattformebene unter Ihrer KI: Model Serving, Retrieval, Guardrails, Evaluation und Audit-Trails, auf europäischer Infrastruktur, auf Open Source, ab der ersten Architekturentscheidung auf den EU AI Act ausgerichtet.
Das Problem
Der Pilot funktioniert. Es ist der Rollout, der scheitert.
KI-Initiativen in Unternehmen bleiben an zwei Stellen stecken, und keine davon ist das Modell.
Die erste ist die Plattformlücke. Ein Pilot, den ein Data-Science-Team in einem Notebook auf einer Anbieter-API gebaut hat, hat keine Serving-Ebene, keine Evaluationsumgebung, keine Observability, keine Kostensteuerung und keinen operativen Verantwortlichen. Daraus etwas zu machen, worauf sich ein Geschäftsbereich verlässt, ist ein Platform-Engineering-Projekt, und das wird meist genau in dem Moment entdeckt, in dem der Pilot zum Erfolg erklärt wird.
Die zweite ist die Compliance-Wand. Der Anwendungsfall ist tragfähig, der Nutzen ist real, und dann erreicht er den Datenschutz und bleibt stehen. Es gibt keine Antwort darauf, wohin die Daten gehen, wer technisch darauf zugreifen kann, in welcher Jurisdiktion das Modell läuft, wie eine Entscheidung protokolliert wird oder welche Pflichten aus der Risikoeinstufung des Systems folgen. In regulierten europäischen Organisationen ist das die Stelle, an der der Großteil vielversprechender KI-Arbeit wartet.
Beide Probleme haben dieselbe Wurzel: Die Plattform darunter wurde nie gebaut, und Governance wurde als Prüfschritt behandelt statt als Architekturanforderung.
Was wir tun
Was wir bauen
Model Serving auf Infrastruktur, die Sie kontrollieren
Selbst betriebene Open-Weight-Modelle, wo Ihre Datenklassifizierung es verlangt, europäische Anbieter, wo sie passen, und souveräne Angebote der großen Anbieter, wo das die richtige Antwort ist. Die Entscheidung wird gegen Ihre Datenklassifizierung getroffen und dokumentiert, statt auf die API zurückzufallen, für die man am schnellsten einen Schlüssel bekam.
Retrieval, das Ihre Zugriffsrechte respektiert
Das Fehlerbild, das niemand vorführt: eine Retrieval-Ebene, die die Berechtigungen der Quellsysteme einebnet und Nutzern erlaubt, Dinge abzurufen, die sie sonst nie lesen könnten. Wir übertragen Zugriffsrechte in das Retrieval, denn ein RAG-System, das über Berechtigungsgrenzen hinweg leckt, ist eine Datenpanne mit Chat-Oberfläche.
Guardrails als Teil der Architektur
Eingabevalidierung, Abwehr von Prompt Injection, Ausgabefilterung, Erkennung und Behandlung personenbezogener Daten sowie menschliche Aufsicht, wo die Risikoeinstufung sie verlangt. Auf der Plattformebene durchgesetzt, damit jede Anwendung sie erbt, statt dass jedes Team sie anders neu implementiert.
Evaluation, damit Sie wissen, ob es funktioniert
Ein Golden Dataset, gemeinsam mit Ihren Fachexperten erstellt, automatisierte Evaluationsläufe und Regressionserkennung. Das ist der Teil, den Piloten überspringen, und der Grund, warum so viele Teams nicht sagen können, ob die Änderung des letzten Monats das System besser oder schlechter gemacht hat.
Audit-Trails und Observability
Jede Anfrage, jedes Retrieval und jede Modellinteraktion nachvollziehbar und zuordenbar, mit Kostenzuordnung je Team und Anwendungsfall, im Observability-Stack, den Sie bereits betreiben.
Gesteuerter Modellzugang im Maßstab
Ein KI-Gateway, das jedem Team einen gesteuerten Weg zu jedem Modell gibt: Routing nach Anwendungsfall und Datenklassifizierung, Policy-Durchsetzung, Kostensteuerung, Failover und ein einziger Audit-Trail. In der Regel die wertvollste erste Investition, sobald KI-Nutzung sich über mehr als ein paar Teams verteilt hat.
AI-Act-Positionierung von Anfang an
Risikoeinstufung für das System, die daraus folgenden Pflichten und eine technische Dokumentation, die während des Aufbaus entsteht statt hinterher rekonstruiert zu werden. Das ist sowohl günstiger als auch erheblich genauer.
Unsere Angebote
Wie wir zusammenarbeiten
KI-Plattform-Assessment und Architektur
Wo Ihre KI-Initiativen stehen, welche Plattformebene sie brauchen und was Souveränitäts- und Regulierungsanforderungen tatsächlich verlangen.
Ergebnis
Eine Architektur und eine Roadmap, verankert in Ihren Randbedingungen.
KI-Gateway
Ein einziger gesteuerter Zugangspunkt zu jedem Modell: Routing, Policy, Kostenzuordnung, Audit, Failover.
Ergebnis
Gesteuerte KI-Nutzung, ohne ein Team auszubremsen.
Souveräne KI-Landing-Zone
Das Plattformfundament für KI-Workloads auf Ihrem souveränen Ziel: GPU-Infrastruktur, Model Serving, Daten- und Retrieval-Ebene, Observability, Guardrails.
Ergebnis
Ein Fundament, das Ihr zweiter und dritter Anwendungsfall zu einem Bruchteil der Kosten des ersten wiederverwenden.
Umsetzung von Anwendungsfällen
RAG-Systeme, Agenten-Workflows sowie Extraktions- und Klassifizierungspipelines, gebaut auf der Plattform, gegen Ihre echten Daten.
Ergebnis
Ein funktionierendes System mit Evaluations-Baseline und Kostenmodell.
KI-Governance-Engineering
Risikoeinstufung, Guardrail-Design, Evaluationsrahmen, Architektur der Audit-Trails und technische Dokumentation, strukturiert nach den Pflichten des AI Act.
Ergebnis
Eine Compliance-Position, die im System steckt statt hinterher argumentiert zu werden.
Betrieb von KI-Plattformen
Day-2-Betrieb für KI-Workloads: Modell-Lebenszyklus, Evaluations-Monitoring, Kostenmanagement, Incident Response.
Ergebnis
KI-Systeme, die zuverlässig und bezahlbar bleiben.
Arbeitsweise
Wie wir arbeiten
Platform Engineers, die an KI arbeiten, nicht umgekehrt
Die schwierigen Probleme in Unternehmens-KI sind derzeit Serving, Retrieval, Zugriffssteuerung, Observability, Kosten und Lebenszyklus. Das sind Platform-Engineering-Probleme, und genau das sind wir.
Open Source und Ihres
Alles läuft auf Open Source, auf Ihrer Infrastruktur, in Ihren Repositories. Es gibt keine proprietäre Plattformebene zwischen Ihnen und Ihren Modellen, was bedeutet, dass Sie den Modellanbieter wechseln, die Jurisdiktion verlagern oder das Ganze ins eigene Haus holen können, ohne ein Migrationsprojekt. Mehrere Anbieter in diesem Markt bieten stattdessen eine proprietäre Suite an. Das ist ein legitimes Modell und eine andere Abwägung, und Sie sollten wissen, welche der beiden Sie kaufen.
Governance ab Woche eins
Die Risikoeinstufung passiert während der Architekturarbeit, nicht im Review. Das ist deutlich günstiger und erzeugt eine Dokumentation, die zutreffend statt rekonstruiert ist.
Gemessen, nicht behauptet
Jedes System, das wir bauen, wird mit einer Evaluationsumgebung und einem Kostenmodell ausgeliefert. „Wirkt besser“ ist keine Grundlage für eine Produktionsentscheidung und auch keine für ein Budgetgespräch.
Ehrlich darüber, was KI nicht löst
Manche Anwendungsfälle rechtfertigen ihre Kosten nicht, manche Daten sind nicht so weit, und manche Probleme löst man besser ohne Modell. Wir sagen Ihnen das lieber in Woche zwei, als es zu bauen und Sie es in Monat neun herausfinden zu lassen.
Was Sie erhalten
Was Sie erhalten
Architektur mit dokumentierten Modell- und Zielentscheidungen, einschließlich der verworfenen Alternativen und der Gründe
Die laufende Plattform, auf Ihrer Infrastruktur, als Code, in Ihren Repositories
Model Serving mit der Routing- und Policy-Ebene
Retrieval-Ebene mit aus den Quellsystemen übernommenen Zugriffsrechten
Guardrails: Ein- und Ausgabefilterung, Abwehr von Injection, Behandlung personenbezogener Daten
Evaluationsumgebung mit einem Golden Dataset, das Ihnen gehört
Vollständige Observability: Tracing, Qualitätsmetriken und Kosten je Team und Anwendungsfall
Audit-Trail, der Ihre Aufbewahrungs- und Nachweisanforderungen erfüllt
AI-Act-Risikoeinstufung und technische Dokumentation, strukturiert zur Fortschreibung
Runbook und Enablement für Ihr Team
Wo das im Stack sitzt
Warum die Ebenen darunter entscheiden, was hier möglich ist
KI ist der Workload, bei dem jede darunterliegende Randbedingung gleichzeitig bindend wird. Datenresidenz, Modelljurisdiktion, Zugriffssteuerung, Auditierbarkeit und regulatorische Einstufung gelten alle zugleich, und sie gelten für ein System, dessen Verhalten probabilistisch ist.
Organisationen, die bereits ein souveränes Fundament und eine funktionierende Plattformebene haben, können KI ausrollen, weil die schwierigen Fragen beantwortet waren, bevor die KI-Frage kam. Organisationen ohne diese Ebenen sind die mit einem Portfolio erfolgreicher Piloten und nichts in Produktion.
Angebotspakete
Starten Sie mit einem definierten Schritt
9 Wochen
Sovereign AI Platform Proof of Value
Neun Wochen von einem validierten Use Case zu einer laufenden KI-Anwendung auf europäischer Infrastruktur, mit der Governance, den Guardrails und den Nachweisen, nach denen Ihre Compliance-Funktion fragen wird.
6 Wochen
AI Gateway Blueprint für Modell-Routing und Policies
Sechs Wochen zu einem einzigen, governten und beobachtbaren Zugangspunkt für jedes KI-Modell in Ihrer Organisation, mit Routing, Policy, Kostenkontrolle und Audit-Trail.
FAQ
Fragen, die uns gestellt werden
Müssen wir Modelle selbst betreiben?
Oft nicht. Selbstbetrieb ist sinnvoll, wenn die Datenklassifizierung es verbietet, Daten an einen Anbieter zu geben, wenn das Volumen ihn günstiger macht oder wenn Sie eine Versionsstabilität brauchen, die ein Anbieter nicht zusichert. Für sehr viele Unternehmensanwendungsfälle ist eine europäische Anbieter-API angemessen und erheblich einfacher. Die richtige Antwort ist je Anwendungsfall verschieden, getrieben von der Datenklassifizierung, und ein Gateway macht daraus eine Routing-Entscheidung statt einer Architekturfestlegung.
Wie unterscheidet sich das von den KI-Plattformen der großen Integratoren?
Das sind weitgehend proprietäre Suiten: schnell im Start und sie werden zur Ebene zwischen Ihnen und Ihren Modellen. Unsere ist aus Open-Source-Komponenten auf Ihrer Infrastruktur gebaut, in Ihren Repositories. Sie können sie betreiben, verändern und verlassen. Das ist eine echte Abwägung und keine Marketingunterscheidung: Deren Suiten bieten mehr ab Werk, unsere bietet Kontrolle und Ausstieg. Was richtig ist, hängt davon ab, wie wichtig das für Ihre Risikoposition ist.
Was verlangt der EU AI Act eigentlich von uns?
Das hängt von der Risikoeinstufung Ihres Systems ab, und die Einstufung hängt von Zweck und Kontext ab, nicht von der Technologie. Wir nehmen die technische Einstufung mit dokumentierter Begründung vor, bilden die daraus folgenden Pflichten ab und erstellen die technische Dokumentation während der Entwicklung. Die Feststellung verantwortet Ihre Rechtsfunktion. Wer Ihnen AI-Act-Compliance als Produkt anbietet, verkauft Ihnen etwas, das es nicht gibt.
Unsere Daten sind nicht so weit. Sollten wir warten?
Meist nein, aber Sie sollten den Umfang entsprechend wählen. Datenreife wird entdeckt und nicht abstrakt bewertet, und ein eng geschnittener erster Anwendungsfall sagt Ihnen in sechs Wochen mehr über Ihre Daten als ein Datenqualitätsprogramm in sechs Monaten. Was Sie nicht tun sollten, ist einen breiten Anwendungsfall auf Daten zu schneiden, die niemand angesehen hat.
Was kostet der Betrieb von KI-Infrastruktur?
GPU-Infrastruktur und der Verbrauch von Modell-APIs sind die dominierenden Kosten, und beide hängen stark vom Anwendungsfall ab. Wir erstellen in jedem Projekt ein Kostenmodell je Anfrage und für das erwartete Produktionsvolumen, denn die Kostenfrage entscheidet meist darüber, ob ein Anwendungsfall industrialisiert wird, und sie ist in Woche sieben deutlich besser zu beantworten als in Monat sieben.
Was blockiert Ihre KI-Initiative?
Nach unserer Erfahrung ist es eines von drei Dingen: keine Plattform darunter, keine Antwort für die Compliance oder keine Möglichkeit festzustellen, ob das System etwas taugt. Alle drei sind lösbar, und alle drei sind günstiger zu lösen, bevor der zweite Anwendungsfall kommt.