Reranking ist ein nachgelagerter Schritt in einer RAG-Pipeline, der die zuvor gefundenen Treffer neu nach Relevanz ordnet. Die erste Suche liefert schnell eine Kandidatenliste - etwa die zwanzig ähnlichsten Textabschnitte. Der Reranker prüft diese Kandidaten anschließend genauer und sortiert sie so um, dass die inhaltlich passendsten oben stehen. Erst diese Top-Abschnitte werden als Beleg an das Sprachmodell übergeben.
Warum ein zweiter Schritt nötig ist
Die erste Suchstufe ist auf Geschwindigkeit optimiert. Sie durchsucht große Bestände effizient, trifft die Feinunterscheidung zwischen mehreren plausiblen Treffern aber nicht immer sauber:
- Grobfilter zuerst: Die semantische Suche und die hybride Suche liefern schnell eine breite Kandidatenmenge, in der die Reihenfolge noch ungenau ist.
- Feinsortierung danach: Der Reranker vergleicht Frage und Kandidat direkt miteinander und bewertet die tatsächliche Passung deutlich präziser als die reine Vektorähnlichkeit.
Cross-Encoder als typischer Reranker
Klassische Retrieval-Modelle betten Frage und Dokument getrennt ein und vergleichen nur die fertigen Vektoren. Ein Reranker - meist ein Cross-Encoder - betrachtet Frage und Textabschnitt dagegen gemeinsam und kann so feine inhaltliche Bezüge erkennen. Das ist genauer, aber rechenintensiver, weshalb man den Reranker nur auf die überschaubare Kandidatenliste anwendet und nicht auf den gesamten Bestand.
Wirkung auf die Antwortqualität
Reranking ist einer der wirksamsten Hebel, um die Qualität einer RAG-Antwort zu erhöhen, ohne das Grundsystem umzubauen. Weil nur die wirklich passenden Abschnitte in den knappen Kontext des Modells gelangen, sinkt das Risiko, dass eine Antwort auf einem nebensächlichen Treffer beruht. In einer Agentic-RAG-Architektur kann ein Agent den Rerank-Schritt zudem gezielt einsetzen, wenn eine erste Antwort nicht überzeugt.
Reranking bei Elasticbrains
Wir bauen Reranking dort in die Pipeline ein, wo die Feinunterscheidung über die Antwortqualität entscheidet - abgestimmt auf Ihre Dokumente und die typischen Fragen. Wie daraus eine belegbare Wissensbasis entsteht, zeigen wir auf unserer Leistungsseite KI-Wissensdatenbank / RAG entwickeln lassen.