Agentic RAG - RAG mit planendem KI-Agenten

Agentic RAG - agentische abrufgestützte Generierung - beschreibt eine Weiterentwicklung von RAG, bei der nicht ein einziger, starrer Abruf stattfindet, sondern ein KI-Agent die Recherche steuert. Der Agent plant, welche Informationen er braucht, sucht bei Bedarf mehrfach, bewertet die gefundenen Quellen und verfeinert seine Suche iterativ, bis er eine belastbare Antwort zusammenstellen kann.

Der Unterschied lässt sich mit zwei Arbeitsweisen fassen: Klassisches RAG ist wie ein einzelner Blick ins Regal - eine Suche, ein Satz Dokumente, eine Antwort. Agentic RAG ist wie ein Rechercheur, der eine Frage in Teilfragen zerlegt, mehrere Quellen konsultiert, Widersprüche bemerkt und gezielt nachschlägt, bevor er antwortet.

Abgrenzung zum klassischen (Single-Shot) RAG

Klassisches RAG folgt einem festen, einmaligen Ablauf: Frage zu Embedding, ein Retrieval aus der Vektordatenbank, Kontext ans Sprachmodell, fertige Antwort. Dieser Single-Shot-Ansatz ist schnell und günstig - stößt aber an Grenzen, wenn:

• eine Frage mehrere Teilaspekte umfasst, die in verschiedenen Dokumenten stehen,
• der erste Treffersatz unvollständig oder thematisch daneben ist,
• Vergleiche oder mehrstufige Schlussfolgerungen nötig sind,
• oder die richtige Formulierung der Suchanfrage erst aus einem ersten Zwischenergebnis hervorgeht.

Genau hier setzt Agentic RAG an: Statt sich mit einem Abruf zu begnügen, darf der Agent den Retrieval-Schritt so oft wiederholen und anpassen, wie es die Frage verlangt.

Wie der Agent die Recherche steuert

1. Planen: Der Agent zerlegt die Frage in Teilfragen und entscheidet, welche Informationen er zuerst braucht.
2. Suchen: Er formuliert gezielte Suchanfragen - oft mehrere, gegebenenfalls über verschiedene Quellen oder mit hybrider Suche.
3. Bewerten: Er prüft, ob die Treffer die Teilfrage tatsächlich beantworten, und verwirft Irrelevantes (ein Bewertungs- oder Reranking-Schritt).
4. Verfeinern: Reicht das Material nicht, formuliert er die Suche um oder stellt eine Anschlussfrage - und wiederholt den Zyklus.
5. Antworten: Erst wenn die Belege tragen, formuliert das Sprachmodell die Antwort mit Quellenverweis.

Dieser Schleifen-Charakter macht Agentic RAG zu einem Fall des agentischen Workflows: Der Ablauf ist nicht fest verdrahtet, sondern wird zur Laufzeit vom Agenten anhand der Zwischenergebnisse gesteuert.

Mehr Werkzeuge als nur die Vektorsuche

Ein RAG-Agent ist nicht auf eine einzige Wissensquelle beschränkt. Als Werkzeuge kann er mehrere Indizes, eine strukturierte Datenbankabfrage, eine semantische Suche über verschiedene Systeme oder eine gezielte Nachfrage an den Nutzer nutzen. Er wählt situativ, welches Werkzeug die offene Teilfrage am besten beantwortet.

Abwägung: Qualität gegen Aufwand

Die zusätzlichen Schritte kosten etwas. Jede weitere Suche und Bewertung bedeutet mehr Modellaufrufe, mehr Latenz und höhere Kosten pro Anfrage. Agentic RAG lohnt sich daher dort, wo Vollständigkeit und Belegbarkeit wichtiger sind als eine Antwort im Sekundentakt - etwa bei Recherche-, Analyse- oder Fachfragen. Für einfache, eindeutige Nachschlagefragen bleibt Single-Shot-RAG die schlankere Wahl. Häufig kombiniert man beides: eine schnelle Standardsuche, die nur bei unsicherem Ergebnis in den agentischen Modus eskaliert.

Agentic RAG bei Elasticbrains

Bei Elasticbrains bauen wir abrufgestützte Systeme, die bei komplexen Fragen mehrstufig recherchieren, statt sich mit dem ersten Treffer zu begnügen - schlank, belegbar und im eigenen EU-Stack. Wie daraus ein interner KI-Assistent auf Ihrem Wissen wird, zeigen wir auf unserer Leistungsseite interne KI-Assistenten / RAG-Wissensdatenbank.