Eigene KI-Plattform für Ihr Unternehmen
Wir bringen die Sprachmodelle, die Sie brauchen, in Ihren Betrieb: mehrere Anbieter hinter einer Oberfläche, an Ihre Systeme angebunden und dort betrieben, wo Ihre Daten bleiben sollen.
- Modelle
- mehrere Anbieter, ein Zugang
- Betrieb
- bei Ihnen, beim Hoster in Deutschland oder in der EU-Cloud
- Im Einsatz
- interner KI-Client, über 900 Mitarbeitende
- Einstieg
- kostenloses Erstgespräch
In vielen Unternehmen läuft KI heute an mehreren Stellen nebeneinander: ein Team arbeitet mit ChatGPT, ein anderes mit Copilot, dazu ein erster Test mit einem eigenen Modell. Jede Lösung hat eigene Zugänge, eigene Kosten und eigene Regeln für die Daten.
Eine eigene KI-Plattform bündelt das. Ihre Mitarbeitenden haben einen Zugang, die Modelle sind an Ihre Systeme angebunden, und Sie legen fest, welche Daten an welches Modell gehen. Gemeinsam klären wir, welche Modelle Sie brauchen, welche Systeme angebunden werden und wo die Plattform läuft. Wir bauen sie und bleiben, bis sie im Alltag läuft.
Welche KI-Plattformen gibt es für Unternehmen?
Hinter den meisten KI-Anwendungen stehen wenige Anbieter von Sprachmodellen. Sie unterscheiden sich vor allem darin, wie man Zugang bekommt, wo die Daten verarbeitet werden und ob man ein Modell selbst betreiben kann. Preise und Modellversionen ändern sich alle paar Monate, deshalb stehen sie hier nicht.
| Anbieter | Zugang | Verarbeitung in der EU | Selbst betreiben | Training mit Ihren Daten | Zu beachten |
|---|---|---|---|---|---|
| OpenAI | eigene API, AWS Bedrock, Microsoft Foundry, ChatGPT Business und Enterprise | möglich für API und ChatGPT Enterprise, nur nach Freischaltung und für bestimmte Schnittstellen | nur die offenen gpt-oss-Modelle | nein, außer Sie stimmen zu | Das Fine-Tuning über OpenAI selbst läuft aus: Ab 06.01.2027 nimmt OpenAI keine neuen Aufträge mehr an. |
| Anthropic (Claude) | eigene API, AWS Bedrock, Google Cloud, Microsoft Foundry, Claude for Work | nicht über die eigene API, nur über AWS Bedrock oder Google Cloud in der EU | nein | nein | Anthropic hat das Model Context Protocol (MCP) veröffentlicht, den offenen Standard für die Anbindung eigener Datenquellen. |
| Google (Gemini) | Gemini API, Google Cloud, Gemini Enterprise, Google Workspace | über Google Cloud, Gemini Enterprise und Workspace, nicht über die Gemini API | Gemini nein, die Modellfamilie Gemma hat offene Gewichte | in bezahlten Stufen nein; die kostenlose API-Stufe nutzt Daten, außer bei Nutzern in EWR, Schweiz und Großbritannien | Schnittstelle für Sprache und Bild in Echtzeit |
| Microsoft (Azure) | Microsoft Foundry mit OpenAI-Modellen und offenen Modellen | ja, mit Bereitstellung "Data Zone EU" oder in einer EU-Region; bei "Global" weltweit | offene Modelle im Katalog | nein, die Daten gehen nicht an OpenAI | Zugriff ohne öffentlichen Endpunkt und Anmeldung über Entra ID möglich |
| Mistral AI | eigene API (Mistral Studio), AWS Bedrock, Microsoft Foundry, Google Cloud, Vibe (früher Le Chat) | Speicherung standardmäßig in der EU, Verarbeitung garantiert in der EU nur über den EU-Endpunkt | ja, viele Modelle unter Apache 2.0, einige mit Umsatzgrenze | bei Enterprise nein; in Gratis- und kleineren Tarifen standardmäßig ja, abschaltbar | Anbieter mit Sitz in Paris |
| Modelle mit offenen Gewichten (z. B. Llama, Mistral, Qwen, gpt-oss, Gemma) | Download, zum Beispiel über Hugging Face, oder gehostet bei AWS, Google Cloud und Microsoft | hängt davon ab, wo Sie das Modell betreiben | ja, Lizenz je Modellfamilie | beim eigenen Betrieb sieht kein Modellanbieter Ihre Daten | Lizenz prüfen: Die multimodalen Llama-Modelle schließen Firmen mit Sitz in der EU aus. |
Verarbeitung in der EU ist bei allen großen Anbietern möglich, aber nicht als Standard. Sie hängt vom Zugangsweg, von der Region und teils von einer Freigabe ab. Welcher Weg für Ihre Daten passt, klären wir im Erstgespräch.
Stand: 27.09.2026. Quellen: Dokumentation und Vertragsunterlagen der Anbieter.
Quellen zur Tafel
OpenAI
Anthropic
- Gemini API: Nutzungsbedingungen
- Gemini Live API
- Datenresidenz in Google Cloud
- Datenverwendung in Google Cloud
- Standorte von Gemini Enterprise
- Workspace: Datenregionen
- Workspace: Datenschutz bei Gemini
- Google Cloud: Auftragsverarbeitung
- Dienstbedingungen
- Gemma 4: Modellkarte
- Gemma: Nutzungsbedingungen
- OpenAI-Modelle auf Google Cloud
- Mistral auf Google Cloud
- Qwen auf Google Cloud
Microsoft
Mistral AI
Welche Plattform passt zu welcher Aufgabe?
Die Frage ist selten, welcher Anbieter der beste ist, sondern welcher zu einer Aufgabe passt. Eine erste Orientierung:
| Wenn ... | dann passt oft ... |
|---|---|
| die Daten das Haus nicht verlassen dürfen | ein Modell mit offenen Gewichten auf Ihren eigenen ServernOn-Premise-KI |
| die Daten in der EU bleiben sollen, Sie aber keinen eigenen Server wollen | ein Anbieter mit Verarbeitung in der EU oder ein Hoster in Deutschland |
| ein System in Echtzeit sprechen soll, etwa am Telefon | ein Modell mit Sprachschnittstelle für EchtzeitKI-Telefonassistent |
| die KI in vielen und langen Dokumenten antworten soll | eine Suche vor dem Modell (RAG), die die passenden Stellen liefertWissensdatenbank mit RAG |
| viele einfache Anfragen anfallen | ein kleineres, günstigeres Modell, verteilt über RoutingKI-Kosten senken |
| Ihre Mitarbeitenden schnell loslegen sollen und die Daten unkritisch sind | ein fertiges Produkt wie ChatGPT Enterprise oder Copilot. Dann brauchen Sie keine eigene Plattform. |
Oft ist es eine Mischung. Welche, prüfen wir gemeinsam an Ihren Aufgaben.
Wie kommen die Sprachmodelle an unsere Systeme?
Eine Plattform nützt erst, wenn Sprachmodelle wie OpenAI oder Claude an Ihre Unternehmenssysteme angebunden sind: CRM, ERP, Ablage, interne Datenbanken. Wir binden sie über Schnittstellen an, heute meist über das Model Context Protocol (MCP), einen offenen Standard, über den ein KI-Agent Werkzeuge und Datenquellen nutzt.
Jede Anbindung bekommt eigene Rechte. Welcher Agent darf lesen, welcher darf schreiben, und was braucht vorher die Freigabe eines Menschen? Das legen wir gemeinsam fest, bevor die erste Anbindung live geht. Auf Wunsch protokollieren wir jede Aktion, damit Sie nachlesen können, was ein Agent getan hat.
Wie nutzt man mehrere Modelle, ohne den Überblick zu verlieren?
Alle Modelle laufen über einen gemeinsamen Zugang, ein sogenanntes AI Gateway. Dahinter entscheidet eine Regel, welches Modell eine Anfrage bekommt: einfache Aufgaben ein kleines, günstiges Modell, schwierige ein großes. Das nennt man Model Routing.
Ein Zugang
Ihre Anwendungen sprechen mit dem Gateway, nicht mit jedem Anbieter einzeln. Ein Wechsel des Modells ändert nichts an Ihren Anwendungen.
Routing nach Aufgabe
Jede Anfrage geht an das Modell, das sie zuverlässig löst und am wenigsten kostet.
Ausweichen bei Ausfall
Ist ein Anbieter nicht erreichbar, übernimmt ein anderes Modell.
Personendaten vorher entfernen
Ein lokales Modell erkennt Namen, Adressen und andere Personendaten und entfernt sie, bevor Text an einen Anbieter geht.
Die laufenden Kosten rechnen wir aus, bevor die Plattform live geht.
Wo soll die Plattform laufen?
Das entscheiden Sie. Wir bauen die Plattform so, dass sie an einem von drei Orten läuft, und auf Wunsch betreiben wir sie auch.
Bei Ihnen
Auf Ihren Servern oder in Ihrem Rechenzentrum. Die Daten verlassen das Haus nicht.
Beim Hoster in Deutschland
Auf Servern, die nur für Sie da sind, ohne eigene Hardware.
In der EU-Cloud
Bei einem großen Anbieter mit Verarbeitung in der EU.
Auch gemischt: Sensible Daten bleiben im Haus, der Rest geht an ein Cloud-Modell, vorher werden Personendaten entfernt.
Wo läuft so eine Plattform schon?
Pharma, 2024Kunde vertraulich
Ein eigener KI-Client statt öffentlichem ChatGPT.
Ein Pharmahersteller wollte seinen Mitarbeitenden KI zur Verfügung stellen, ohne dass Daten an öffentliche Dienste gehen. Wir haben einen internen KI-Client gebaut, der in der eigenen Azure-Umgebung des Kunden in Deutschland läuft und von über 900 Mitarbeitenden genutzt wird.
Vertrieb, seit 2025Kunde vertraulich
Mehrere Modelle in einer Trainingsplattform.
Für eine Trainingsplattform im Vertrieb arbeiten mehrere Modelle zusammen: eines für Sprache in Echtzeit, eines für die Auswertung der Gespräche, eines als günstigere Ausweichlösung. Personendaten erkennt ein lokales Modell und ersetzt sie, bevor Text an einen Anbieter geht.
Häufige Fragen
Was kostet eine eigene KI-Plattform?
Das hängt davon ab, wie viele Systeme angebunden werden, wie viele Menschen sie nutzen und wo sie läuft. Dazu kommen die laufenden Kosten für Modelle und Betrieb. Beides rechnen wir nach dem Erstgespräch für Ihren Fall aus, bevor Sie sich entscheiden.
Warum nicht einfach ChatGPT Enterprise oder Copilot?
Manchmal reicht das, und dann empfehlen wir es auch. Eine eigene Plattform lohnt sich, wenn Sie mehrere Modelle nutzen wollen, die KI an eigene Systeme anbinden müssen oder selbst festlegen wollen, welche Daten wohin gehen. Bei einem fertigen Produkt entscheidet der Anbieter, welche Modelle und Anbindungen es gibt.
Können wir mehrere Modelle gleichzeitig nutzen?
Ja. Über einen gemeinsamen Zugang laufen mehrere Modelle nebeneinander, und eine Regel entscheidet je Anfrage, welches antwortet. Fällt ein Anbieter aus, übernimmt ein anderes Modell.
Wo laufen unsere Daten?
Dort, wo Sie es festlegen: auf Ihren Servern, bei einem Hoster in Deutschland oder bei einem Cloud-Anbieter mit Verarbeitung in der EU. Personendaten können vorher lokal entfernt werden, dann sieht das Modell sie nicht.
Wie lange dauert der Aufbau?
Das hängt vom Umfang ab: wie viele Systeme, wie viele Modelle, welcher Betrieb. Wir bauen zuerst einen Stand mit einem Anwendungsfall, damit Sie früh sehen, ob es trägt. Den Zeitplan legen wir nach dem Erstgespräch gemeinsam fest.
Welche Modelle sollen bei Ihnen zusammenarbeiten?
30 Minuten mit Daniel Neumann, kostenlos, per Video. Wir sprechen über Ihr Vorhaben und geben Ihnen Feedback, wie wir es lösen würden.
Nächste freie Termine mit Daniel