Zum Inhalt springen
Menü

Wissensdatenbank mit KI: Antworten aus Ihren eigenen Dokumenten

Wir bauen Assistenten, die Fragen Ihres Teams aus Ihren Handbüchern, Wikis und Tickets beantworten und zu jeder Antwort die Stelle nennen, aus der sie stammt. Wie gut das mit Ihren Dokumenten klappt, messen wir gemeinsam an Fragen aus Ihrem Alltag.

Einstieg
Machbarkeits-Sprint, Festpreis ab 4.999 €
Im Einsatz
Chat für Ausbildungssuchende, Fachartikel aus eigener Wissensbasis
Betrieb
bei Ihnen, beim Hoster in Deutschland oder in der EU-Cloud

Stand: September 2026

Das Wissen eines Unternehmens liegt an vielen Stellen: in Handbüchern, Richtlinien, Confluence oder SharePoint, in Tickets und Mails. Wer eine Antwort braucht, sucht in mehreren Systemen oder fragt eine Kollegin. Die Stichwortsuche findet das Dokument nur, wenn man das richtige Wort kennt.

Eine KI-Wissensdatenbank dreht das um. Ihr Team stellt eine Frage in eigenen Worten, die KI sucht die passenden Stellen in Ihren Dokumenten und formuliert daraus eine Antwort, mit Verweis auf die Quelle. Dahinter steht Retrieval-Augmented Generation (RAG), also eine Suche in Ihren Inhalten, bevor das Sprachmodell antwortet.

Gemeinsam wählen wir die Quellen und die Fragen, um die es geht, messen die Antworten an Ihrem Alltag und bringen den Assistenten dann in den Betrieb.

Wie beantwortet die KI Fragen aus unseren Dokumenten?

Ein Sprachmodell kennt Ihre Firma nicht. Mit RAG bekommt es zu jeder Frage die passenden Stellen aus Ihren Dokumenten mitgeliefert und antwortet auf dieser Grundlage.

  1. Aufbereiten

    Wir zerlegen Ihre Dokumente in Abschnitte (Chunking) und übersetzen sie in Zahlenvektoren, sogenannte Embeddings. Diese liegen in einer Vektordatenbank.

  2. Finden

    Zu jeder Frage sucht das System die Abschnitte mit der passenden Bedeutung, oft kombiniert mit einer Stichwortsuche (Hybrid Search). Ein zweiter Schritt sortiert die Treffer nach Relevanz (Reranking).

  3. Antworten

    Das Sprachmodell formuliert die Antwort aus den gefundenen Abschnitten und nennt die Quellen dazu.

Hängen die Antworten an Beziehungen zwischen Personen, Produkten oder Verträgen, kann ein Wissensgraph die Suche ergänzen (GraphRAG). Bei Fragen, die mehrere Suchschritte brauchen, recherchiert ein Agent schrittweise (Agentic RAG). Beides bringt mehr Aufwand. Ob er sich lohnt, messen wir an Ihren Fragen.

Wofür nutzen Unternehmen eine KI-Wissensdatenbank?

  • Interner Support

    Der Assistent beantwortet wiederkehrende Fragen an IT, Personal oder Fachabteilungen aus Handbüchern und Richtlinien, mit Quelle.

  • Einarbeitung

    Neue Mitarbeitende fragen nach Abläufen, Werkzeugen und Zuständigkeiten, statt drei Kollegen zu suchen.

  • Vertrieb und Service

    Das Team findet Leistungsbeschreibungen, frühere Angebote und Antworten aus Produkthandbüchern, ohne selbst zu suchen.

  • Enterprise Search

    Eine Unternehmenssuche mit KI über Confluence, SharePoint, Tickets und Fachsysteme: eine Frage, eine Antwort mit Quelle, statt in jedem Werkzeug einzeln zu suchen.

Welche Quellen bindet der Assistent an?

Die, in denen Ihr Wissen heute schon liegt: Dokumente als PDF oder Office-Datei, Wikis wie Confluence, SharePoint, Ticketsysteme, Datenbanken und Mails. Ein neues Wiki brauchen Sie dafür nicht. Der Assistent liest aus Ihren Systemen, und Ihr Team pflegt die Inhalte weiter dort, wo es sie heute pflegt.

Wichtig sind die Rechte. Gemeinsam legen wir fest, wie der Assistent die Zugriffsrechte Ihrer Quellen übernimmt: Wer ein Dokument nicht öffnen darf, bekommt auch keine Antwort daraus. Ändert sich ein Dokument, liest das System die neue Fassung ein, damit die Antworten aktuell bleiben.

Sieht jede Mitarbeiterin nur, was sie sehen darf?

Ja, und zwar in der Suche, nicht im Prompt. Das setzt voraus, dass die Quelle Rechte führt (SharePoint, Confluence; Dateiserver über die Anmeldung, z. B. Entra ID). Wo das nicht so ist, legen wir die Rechte mit Ihnen fest. Zu jedem Abschnitt Ihrer Dokumente speichert das System, wer ihn lesen darf, übernommen aus den Rechten der Quelle. Stellt jemand eine Frage, sucht das System nur unter den Abschnitten, die diese Person auch selbst öffnen dürfte. Das Sprachmodell bekommt alles andere gar nicht erst zu sehen.

Ändern sich Rechte in der Quelle, gilt das nach dem nächsten Abgleich. Wie oft abgeglichen wird, legen wir mit Ihnen fest. Eine Anweisung an das Modell, etwa „Verrate nichts aus Personalakten“, wäre dagegen keine Sicherung, denn Anweisungen lassen sich umgehen. Wir prüfen die Rechte deshalb mit Testfragen aus zwei Benutzerkonten: Das eine darf ein Dokument lesen, das andere nicht. Das andere darf aus diesem Dokument keine Antwort bekommen, auch nicht in Teilen.

Was passiert mit Embeddings und Chunks, wenn ein Dokument gelöscht wird?

Sie werden mit gelöscht. Embeddings sind keine anonymisierten Daten: Sie stammen aus Ihren Dokumenten, und aus ihnen lassen sich Inhalte teilweise zurückgewinnen. Deshalb behält jeder Abschnitt (Chunk) und jedes Embedding einen Verweis auf sein Quelldokument. Löschen Sie das Dokument in der Quelle, entfernt das System beim nächsten Abgleich das Dokument, alle seine Abschnitte und alle zugehörigen Embeddings aus dem Index.

Verlangt eine betroffene Person die Löschung, finden wir mit der Suche die Dokumente, in denen sie vorkommt. Sie werden in der Quelle gelöscht oder geschwärzt, und der Index folgt. Sicherungen der Vektordatenbank enthalten die Daten noch, bis die Sicherung nach ihrer Aufbewahrungsfrist abläuft. Gesprächsverläufe und Protokolle haben eine eigene Frist, die im selben Löschkonzept steht. Ob die Löschung greift, prüfen wir mit einem Testdokument: einlesen, löschen, prüfen, dass im Index kein Abschnitt mit dieser Dokument-ID mehr liegt, dieselbe Frage noch einmal stellen.

Brauchen wir für eine KI-Wissensdatenbank einen AVV?

Ja, sobald wir oder ein Dienstleister in Ihrem Auftrag personenbezogene Daten verarbeiten. Den Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO schließen wir mit Ihnen, bevor Sie Daten übergeben, auch für den Machbarkeits-Sprint. Läuft das System auf Ihren Servern, betreiben Sie es selbst und haben wir keinen Zugriff, verarbeiten wir keine Ihrer Daten. Wartung oder Support mit Zugriff regelt wieder der AVV.

Nutzen Sie ein Cloud-Modell oder einen Hoster, kommt ein Vertrag mit diesem Anbieter dazu. Welche Anbieter infrage kommen und wie sie die Daten verarbeiten, klären wir mit Ihnen vorab und halten es im Konzept fest. Ob das System bei Ihnen, beim Hoster in Deutschland oder in der EU-Cloud läuft, bestimmen Sie.

Woran sehen wir, dass die Antworten stimmen?

Jede Antwort nennt die Stelle im Dokument, aus der sie stammt. Ihr Team kann sie mit einem Klick nachlesen. Findet der Assistent keine passende Stelle, soll er das sagen, statt zu raten. Ganz ausschließen lassen sich falsche Antworten nicht, deshalb messen wir.

Vor dem Bau legen wir gemeinsam Evals fest, also feste Testfragen aus Ihrem Alltag mit den erwarteten Antworten. Daran messen wir, wie viele gefundene Stellen passen und wie viele fehlen (Precision und Recall) und wie oft die KI etwas erfindet. Jede neue Version des Assistenten muss dieselben Fragen bestehen, bevor sie live geht.

Wo liegen unsere Daten?

Dort, wo Sie es festlegen. Dokumente, Vektordatenbank und Modell können an einem von drei Orten laufen:

  • Bei Ihnen

    Auf Ihren Servern oder in Ihrem Rechenzentrum, mit einem Modell mit offenen Gewichten. Die Daten verlassen das Haus nicht.

  • Beim Hoster in Deutschland

    Auf Servern, die nur für Sie da sind, ohne eigene Hardware.

  • In der EU-Cloud

    Bei einem großen Anbieter mit Verarbeitung in der EU.

Auch gemischt: Die Dokumente bleiben im Haus, die Antwort formuliert ein Cloud-Modell, und ein lokales Modell entfernt vorher Personendaten. Den Betrieb übernehmen wir auf Wunsch mit Betriebsvertrag, selbst oder über einen Partner, oder wir übergeben das System mit Dokumentation an Ihre IT.

Wie gehen wir gemeinsam vor?

  1. Fragen und Quellen klären

    Gemeinsam legen wir fest, welche Fragen der Assistent beantworten soll, aus welchen Quellen und für wen.

  2. Testfragen festlegen

    Ihr Fachbereich sammelt Fragen aus dem Alltag mit den Antworten, die richtig wären. Daran messen wir später.

  3. Im Sprint messen

    Im Machbarkeits-Sprint bauen wir einen lauffähigen Kern auf einem Ausschnitt Ihrer Dokumente und messen die Antworten an den Testfragen.

  4. Ihre Entscheidung

    Mit den Messwerten, den laufenden Kosten und unserer Empfehlung entscheiden Sie, ob und in welchem Umfang wir den Assistenten bauen.

Was haben wir am Ende in der Hand?

  • Einen Assistenten, der Fragen aus Ihren Quellen beantwortet und zu jeder Antwort die Quelle nennt
  • Die Anbindung an Ihre Quellen, mit übernommenen Zugriffsrechten und laufender Aktualisierung
  • Einen Satz Testfragen mit Messwerten, den wir bei jeder Änderung wiederholen
  • Einen Betrieb nach Ihrer Wahl, bei Ihnen, beim Hoster in Deutschland oder in der EU-Cloud

Warum mit uns?

  • Gemessen an Ihren Fragen

    Wir messen die Antworten an Testfragen aus Ihrem Alltag, bevor Sie in den Bau investieren, und bei jeder neuen Version wieder.

  • Wir nutzen es selbst

    Manuel, der KI-Assistent auf dieser Website, beantwortet Fragen aus einer Wissensbasis, die wir aus unseren eigenen Seiten erzeugen.

  • Betrieb dort, wo Ihre Daten bleiben sollen

    Bei Ihnen, beim Hoster in Deutschland oder in der EU-Cloud, auf Wunsch mit Betriebsvertrag.

Wo beantwortet KI schon Fragen aus eigenen Daten?

  • Ausbildung, 2024Kunde vertraulich

    KI-Chat-Assistent für Ausbildungssuchende

    Auf einer Karriereplattform fragen Ausbildungssuchende in eigenen Worten nach Berufen und Stellen. Der Chat recherchiert mit RAG in der Ausbildungsdatenbank der Plattform, fragt Stellenangebote ab und hilft bei der Bewerbung.

  • Unternehmensberatung, 2025Kunde vertraulich

    KI-Plattform für Fachartikel und B2B-Leadgenerierung

    Für ein Beratungsunternehmen haben wir eine Wissensbasis aus den eigenen Fachunterlagen angelegt. Die KI schreibt ihre Entwürfe für Fachartikel allein aus dieser Wissensbasis, nicht aus dem offenen Internet. Eine Mitarbeiterin prüft und gibt frei.

Machbarkeits-Sprint (PoC)

Bevor Sie eine Wissensdatenbank bauen lassen, prüfen wir an einem Ausschnitt Ihrer Dokumente, wie gut die Antworten sind und was der Betrieb kostet. Die Testfragen legen wir vorher gemeinsam fest. Danach entscheiden Sie mit Zahlen, ob es weitergeht.

  • Suche und Antwort mit Quellenangabe auf einem Ausschnitt Ihrer Dokumente
  • Gemessen an Testfragen aus Ihrem Alltag
  • Danach wissen Sie, wie gut die Antworten sind und was Bau und Betrieb kosten

ab 4.999 €

Festpreis zzgl. USt., Stand: September 2026

Machbarkeits-Sprint anfragenZum Machbarkeits-Sprint

Die drei Stufen des Sprints sind für genau diese Aufgabe beschrieben, eine Wissenssuche mit Quellen.

Häufige Fragen

Was ist RAG (Retrieval-Augmented Generation)?

Ein Verfahren, bei dem das Sprachmodell vor jeder Antwort in Ihren Inhalten sucht. Das System findet die Abschnitte, die zur Frage passen, gibt sie dem Modell mit, und das Modell formuliert daraus die Antwort, mit Verweis auf die Quelle. So antwortet die KI aus Ihren Dokumenten statt aus ihrem allgemeinen Training.

Was unterscheidet eine KI-Wissensdatenbank von Enterprise Search?

Eine klassische Enterprise Search liefert eine Trefferliste über mehrere Systeme. Eine KI-Wissensdatenbank sucht ebenfalls über Ihre Systeme, liest die Treffer und formuliert eine Antwort mit Quellen. Oft ist es beides in einem: eine Unternehmenssuche mit KI, bei der Sie die Antwort lesen und die Dokumente dahinter öffnen können.

Erfindet die KI trotzdem Antworten?

Das kann vorkommen, auch mit RAG. Wir verringern es auf drei Wegen: Die KI antwortet aus den gefundenen Stellen, jede Antwort nennt ihre Quelle, und findet sie keine passende Stelle, soll sie das sagen. Wie oft trotzdem etwas Falsches herauskommt, messen wir an Ihren Testfragen, vor dem Start und bei jeder neuen Version.

RAG oder Fine-Tuning: Was passt für uns?

Für Fragen an Ihr Wissen meistens RAG. Die Inhalte bleiben in Ihren Dokumenten, jede Änderung ist sofort verfügbar, und jede Antwort nennt ihre Quelle. Ein eigenes Modell zu trainieren (Fine-Tuning) lohnt sich, wenn die KI eine Fachsprache, ein festes Format oder eine Zuordnung lernen soll, die Anweisungen allein nicht treffen. Das prüfen wir gemeinsam an Ihren Daten.

Bleiben unsere Dokumente im Haus?

Wenn Sie das wollen, ja. Dann laufen Vektordatenbank und Modell auf Ihren Servern. Alternativ läuft das System bei einem Hoster in Deutschland oder bei einem Cloud-Anbieter mit Verarbeitung in der EU. Auch gemischt geht: Die Dokumente bleiben bei Ihnen, und ein lokales Modell entfernt Personendaten, bevor Text an ein Cloud-Modell geht.

Wie stellt die KI sicher, dass jeder nur seine Dokumente sieht?

Die Suche berücksichtigt die Rechte Ihrer Quellen, soweit die Quelle Rechte führt. Jede Person bekommt nur Treffer aus Dokumenten, die sie auch selbst öffnen dürfte, das Sprachmodell sieht den Rest nie. Ändern sich Rechte in der Quelle, gilt das nach dem nächsten Abgleich.

Werden gelöschte Dokumente auch aus den Embeddings entfernt?

Ja, beim nächsten Abgleich. Das System löscht Dokument, Abschnitte und Embeddings gemeinsam. Sicherungen halten die Daten bis zum Ablauf ihrer Aufbewahrungsfrist, Gesprächsverläufe haben eine eigene Frist.

Brauchen wir einen AVV?

Ja, sobald wir in Ihrem Auftrag personenbezogene Daten verarbeiten. Wir schließen ihn mit Ihnen, bevor Sie Daten übergeben.

Was kostet eine KI-Wissensdatenbank?

Das hängt davon ab, wie viele Quellen angebunden werden, wie viele Menschen fragen und wo das System läuft. Der übliche Einstieg ist der Machbarkeits-Sprint zum Festpreis ab 4.999 € zzgl. USt. (Stand: September 2026). Danach wissen Sie, wie gut die Antworten sind und was Bau und Betrieb im Monat kosten. Davor gibt es das kostenlose Erstgespräch.

Welche Frage stellt Ihr Team heute am häufigsten?

30 Minuten mit Daniel Neumann, kostenlos, per Video. Wir sprechen über Ihr Vorhaben und geben Ihnen Feedback, wie wir es lösen würden.

Nächste freie Termine mit Daniel

Termine werden geladen
Erstgespräch buchen