Wie RAG Unternehmenswissen mit KI nutzbar macht
Retrieval-Augmented Generation (RAG) verbindet eine Frage mit ausgewählten Passagen aus einer externen Wissensbasis, bevor ein Sprachmodell antwortet. Das macht Wissen aktualisierbar und Quellen prüfbar. Entscheidend ist die gesamte Kette aus Aufbereitung, Berechtigung, Retrieval, Generierung und Qualitätskontrolle.
Vom Dokument zur belegten Antwort
Ein belastbarer RAG-Pfad wendet Identität und Rechte vor dem Retrieval an und transportiert die Fundstelle bis zur sichtbaren Antwort.
Kontrollierter RAG-Pfad
Vor der Modellantwort
- 01
Quelle erfassen
Datei oder angebundenes System mit Herkunft, Version und Verantwortlichkeit übernehmen.
- 02
Inhalte aufbereiten
Text extrahieren, sinnvoll segmentieren und einen durchsuchbaren Index erzeugen.
- 03
Zugriff begrenzen
Identität und freigegebene Quellen anwenden, bevor mögliche Treffer das Modell erreichen.
- 04
Passagen auswählen
Kandidaten suchen, ordnen und nur die für die Frage relevanten Ausschnitte weitergeben.
- 05
Kontext mit Fundstelle bauen
Passage, Dokument, Abschnitt und Version getrennt von den Arbeitsanweisungen übermitteln.
Begrenzte Antwort mit Quellen
Die Antwort belegt Aussagen an den verwendeten Passagen oder benennt, dass die freigegebene Wissensbasis keinen ausreichenden Treffer enthält.
Qualitätsprüfung: Retrieval und Antwort getrennt bewerten
Ein gutes Antwortbild kann ein schlechtes Retrieval verdecken. Deshalb braucht jede Stufe einen eigenen Sollfall und einen sichtbaren Fehlernachweis.
Horizontal wischen, um Metrik und Fehlerbild zu vergleichen →
| Prüfstufe | Prüffrage | Metrik oder Nachweis | Typisches Fehlerbild |
|---|---|---|---|
| Aufnahme | Sind alle erwarteten Inhalte lesbar, versioniert und vollständig indexiert? | Soll-Dateiliste gegen erfolgreichen, übersprungenen und fehlgeschlagenen Import abgleichen. | Gescanntes PDF, Tabelle oder Anhang fehlt unbemerkt im Index. |
| Retrieval | Enthalten die ersten Treffer die Passage, die eine bekannte Frage beantwortet? | Goldset mit Recall@k oder Trefferquote pro Frage; Rang der Sollpassage festhalten. | Thematisch ähnliche, aber für die konkrete Aussage unbrauchbare Passage steht oben. |
| Antworttreue | Lässt sich jede entscheidende Aussage aus dem übergebenen Kontext ableiten? | Fachreview von Behauptung, Fundstelle und kontrolliertem Nichtwissen. | Das Modell ergänzt plausibel klingende Details, die in keiner Quelle stehen. |
| Berechtigung | Erhalten erlaubte und ausdrücklich nicht berechtigte Testkonten unterschiedliche Treffer? | Positiv- und Negativtest mit identischer Frage; kein verbotener Treffer in Kontext oder Antwort. | Die Oberfläche verbirgt eine Quelle, der Retrieval-Dienst liefert ihre Passage trotzdem. |
| Aktualität | Verschwindet eine ersetzte oder gelöschte Regel innerhalb der vereinbarten Aktualisierungszeit? | Version, Synchronisationsstatus und erneuter Solltest nach Änderung oder Löschung. | Die Antwort zitiert einen alten Chunk, obwohl das Ursprungsdokument aktualisiert wurde. |
Direct, langes Kontextfenster und RAG lösen unterschiedliche Probleme
Bei wenigen kompakten Dokumenten kann es sinnvoll sein, den freigegebenen Inhalt direkt als Kontext zu übergeben. Ein großes Kontextfenster erhöht die technische Kapazität, doch Forschung zeigt, dass relevante Information in langen Eingaben nicht an jeder Position gleich zuverlässig genutzt wird. RAG reduziert den übergebenen Kontext durch Suche, fügt dafür aber neue Fehlerquellen bei Aufbereitung und Retrieval hinzu. Die Wahl sollte deshalb von Inhaltsmenge, Aktualisierungsrate, Berechtigungen und einem Aufgaben-Testset ausgehen.
Chunking-Beispiel: Regel, Geltungsbereich und Ausnahme zusammenhalten
Angenommen, eine Reisekostenrichtlinie enthält unter „Hotel“ die Regel „bis 160 Euro inklusive Frühstück“ und direkt danach die Ausnahme „höhere Beträge nur nach Freigabe durch Finance“. Ein ungeeigneter Schnitt trennt Überschrift, Grenzwert und Ausnahme in drei Passagen. Die Suche kann dann nur den Betrag liefern und die Bedingung verlieren. Ein prüfbarer Chunk enthält Dokumenttitel, Version, Abschnitt, Regel und zugehörige Ausnahme. Für die Frage „Welche Hotelkosten sind zulässig?“ muss dieser Chunk in den ersten Treffern erscheinen. Für „Welche Grenze gilt in der Schweiz?“ darf das System keine Sonderregel erfinden, wenn die Quelle dazu nichts enthält.
Retrieval braucht ein Goldset statt zufälliger Suchproben
Erstellen Sie 20 bis 50 typische Fragen mit der jeweils erwarteten Sollpassage und mindestens einem Fall ohne Antwort. Messen Sie zunächst, ob die richtige Passage unter den ersten k Treffern liegt. Erst danach bewerten Sie, ob die generierte Antwort den Kontext korrekt nutzt. Bei schwachen Treffern helfen je nach Bestand andere Chunk-Grenzen, Metadatenfilter, lexikalische und semantische Suche oder ein zusätzlicher Reranker. Welche Kombination besser ist, muss dasselbe Goldset belegen.
Berechtigungen müssen vor dem Modellkontext greifen
Eine nachträgliche Ausblendung in der Oberfläche reicht nicht, wenn eine verbotene Passage bereits an das Modell übergeben wurde. Der Retrieval-Dienst muss Identität, Rolle und Quellenfreigabe vor Suche oder spätestens vor Zusammenstellung des Modellkontexts anwenden. Testen Sie identische Fragen mit einem berechtigten und einem gesperrten Konto und kontrollieren Sie Treffer, Prompt-Kontext, Antwort und Protokoll. Auch Cache, Export und Debug-Ausgaben gehören in denselben Prüfbereich.
Aktualität umfasst Änderung, Löschung und fehlgeschlagene Synchronisierung
Eine Wissensquelle ist nur so aktuell wie der letzte erfolgreich verarbeitete Stand. Speichern Sie Dokumentversion, Erfassungszeit und Indexstatus und definieren Sie, wie schnell Änderungen sichtbar sein müssen. Prüfen Sie nicht nur neue Dateien: Eine ersetzte Regel darf nicht parallel als alter Chunk auffindbar bleiben, und gelöschte oder entzogene Inhalte müssen aus Index, Cache und nachgelagerten Ausgaben verschwinden. Fehlgeschlagene Dateien brauchen einen sichtbaren Grund und einen Wiederholungsweg.
Eine Quellenangabe muss zur genutzten Passage führen
Der Dateiname allein belegt eine Aussage selten. Hilfreich sind Dokument, Abschnitt oder Seite, Version und der tatsächlich übergebene Ausschnitt. Prüfer müssen erkennen können, welche Aussage aus welcher Passage stammt und ob der Kontext die Formulierung wirklich trägt. Fehlt ein ausreichender Treffer, ist eine begrenzte Antwort besser als eine scheinbar vollständige Aussage ohne Nachweis.
Gefundene Dokumente sind Daten, keine neuen Anweisungen
RAG kann manipulierte oder fremd kontrollierte Inhalte in den Modellkontext holen. Eine eingebettete Aufforderung wie „Ignoriere die bisherigen Regeln“ darf nicht die Arbeitsanweisung überschreiben. Trennen Sie Systemanweisung und Fundstellen strukturell, begrenzen Sie verbundene Werkzeuge und testen Sie indirekte Prompt Injection mit präparierten Dokumenten. Filter sind dabei nur eine Schicht; Rechte, Ausgabeprüfung und geringste Berechtigungen bleiben notwendig.
Welche Kontrollpunkte die AI-Zentrale-Oberfläche sichtbar macht
Die gezeigte Wissensspeicher-Übersicht unterscheidet Direct-, RAG- und Agenten-Gedächtnis-Collections. In der Collection-Ansicht sind Dateien, Quellenstatus und Upload-Bereich gemeinsam sichtbar. Diese Oberflächen helfen, Modus, Inhalt und Verarbeitungsstatus zu prüfen. Fachliche Trefferqualität und wirksame Berechtigung werden ergänzend über Goldset, Negativtest und Quellenreview sichergestellt.
Quellen und fachlicher Stand
Stand: 9. August 2026. Die Architektur und Prüffragen stützen sich auf die folgenden Originalarbeiten und offiziellen Sicherheitsleitlinien.
- Lewis et al.
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
Grundlegende RAG-Architektur aus parametrischem Modell und explizitem Retrieval-Speicher.
- Es et al.
- RAGAS: Automated Evaluation of Retrieval Augmented Generation
Getrennte Bewertung von Retrieval-Kontext, Antworttreue und Antwortqualität.
- Liu et al.
- Lost in the Middle: How Language Models Use Long Contexts
Experimentelle Grenzen bei der Nutzung relevanter Information in langen Kontexten.
- OWASP Cheat Sheet Series
- Retrieval-Augmented Generation Security Cheat Sheet
Sicherheitskontrollen über Aufnahme, Vektorspeicher, Retrieval und Ausgabe.
- NIST
- Artificial Intelligence Risk Management Framework: Generative AI Profile
Rahmen für Messung, Dokumentation, menschliche Prüfung und laufende Kontrolle.
Prüfen Sie eine Collection mit bekannten Sollfragen.
Vergleichen Sie Modus, Quellenstatus und sichtbare Fundstellen. Nutzen Sie danach die Anleitung für einen reproduzierbaren Positiv- und Negativtest.