Guardrails - deutsch KI-Leitplanken - sind technische Kontrollen, die Ein- und Ausgaben eines Sprachmodells begrenzen und prüfen. Sie liegen wie ein Sicherheitsgurt um das Modell und stellen sicher, dass es nur innerhalb definierter Grenzen antwortet: erlaubte Themen, zulässiges Format, keine schädlichen oder rechtlich heiklen Inhalte. Weil ein LLM von sich aus probabilistisch und nicht regeltreu arbeitet, sind Guardrails der Weg, um aus einem generativen Modell eine berechenbare, produktionstaugliche Anwendung zu machen.
Wo Guardrails ansetzen
- Eingangsseitig (Input-Guardrails): Prüfung der Nutzereingabe, bevor sie das Modell erreicht - etwa auf Prompt-Injection-Muster, unerlaubte Anfragen oder personenbezogene Daten, die vorher zu anonymisieren sind.
- Ausgangsseitig (Output-Guardrails): Prüfung der Modellantwort, bevor sie den Nutzer oder ein nachgelagertes System erreicht - auf Format, Themenbindung, abgeflossene Geheimnisse und faktische Absicherung.
Typische Aufgaben
- Themen- und Umfangsbindung: Das Modell bleibt beim vorgesehenen Zweck und weicht nicht auf fremde Themen aus.
- Formatzwang: Antworten folgen einem festen Schema (etwa gültiges JSON), damit nachgelagerte Systeme sie sicher weiterverarbeiten können.
- Sicherheit und Compliance: Schädliche, beleidigende oder rechtlich problematische Ausgaben werden blockiert oder umformuliert.
- Halluzinationsschutz: Aussagen werden gegen belegte Quellen abgeglichen; unbelegte Behauptungen werden markiert oder unterdrückt. Grundlage dafür ist meist ein RAG-Kontext, der die Antwort erdet.
Warum solche Grenzen nötig sind, zeigt der Blick auf die typische Fehlerform generativer Modelle - die KI-Halluzination: plausibel klingend, aber falsch.
Guardrails im Agenten-Kontext
Besonders wichtig werden Leitplanken, sobald ein KI-Agent über Tool-Calling oder einen MCP-Server Aktionen in echten Systemen auslöst. Dann entscheiden Guardrails mit darüber, welche Werkzeuge in welchem Rahmen genutzt werden dürfen und welche Aktionen eine menschliche Freigabe brauchen. Wie gut die Leitplanken greifen, wird über AI-Evals gemessen und im Betrieb über AgentOps überwacht. Guardrails sind damit auch ein Baustein nachweisbarer Governance - relevant für die EU-AI-Act-Vorbereitung; eine erste Einordnung liefert der EU-AI-Act-Selbstcheck.
KI-Guardrails umsetzen bei Elasticbrains
Wir legen die passenden Leitplanken um Ihre KI-Anwendung - von Input- und Output-Prüfung über Formatzwang bis zu belegten Antworten und kontrollierten Agenten-Aktionen. Wie Leitplanken, Daten- und Rechtekontrolle zusammen ein KI-System absichern, zeigt die Seite Datenschutz bei KI-Projekten.