Wissen
Unternehmenswissen mit RAG für KI nutzbar machen
Ein KI-Modell kennt nur, was in seinen Trainingsdaten steht – und das schließt Ihr Unternehmenswissen naturgemäß aus. RAG (Retrieval-Augmented Generation) schließt diese Lücke, indem es Antworten gezielt mit Ihren eigenen Inhalten anreichert.
Warum Modelle das Unternehmen nicht automatisch kennen
Ein KI-Modell wurde auf allgemein verfügbaren Daten trainiert – nicht auf Ihren internen Handbüchern, Verträgen oder Wikis. Ohne zusätzliche Anbindung kann es dazu keine verlässlichen Aussagen treffen, auch wenn es überzeugend klingt.
Was RAG bedeutet
RAG steht für Retrieval-Augmented Generation: Vor der eigentlichen Antwort durchsucht das System relevante Inhalte semantisch und gibt die gefundenen Ausschnitte als Kontext an das Modell weiter. Die Antwort basiert damit auf echten Quellen statt auf reinem Modellwissen.
Direct und RAG
Neben RAG gibt es den Direct-Modus: Hier werden Inhalte direkt und vollständig als Kontext bereitgestellt, ohne semantische Suche. Direct eignet sich für kompakte, überschaubare Sammlungen; RAG eignet sich, wenn die Inhaltsmenge für eine direkte Einbettung zu groß ist.
Dokumente und Datenquellen
Neben manuellen Uploads lassen sich Websites crawlen und bestehende Systeme wie Nextcloud, SharePoint oder SFTP-Server anbinden. So bleibt die Wissensbasis nah an den Systemen, die ohnehin schon genutzt werden.
Chunking und Embeddings
Für RAG werden Dokumente in kleinere, semantisch sinnvolle Abschnitte zerlegt (Chunking) und in Vektoren umgewandelt (Embeddings). Diese Vektoren ermöglichen die inhaltliche Suche – unabhängig von der genauen Wortwahl der Frage.
Quellen
Eine gute RAG-Umsetzung zeigt nicht nur eine Antwort, sondern auch, worauf sie beruht: Collection, Dateiname und der passende Textausschnitt. Das macht Antworten nachvollziehbar und überprüfbar.
Berechtigungen
Nicht jede Person soll auf jede Quelle zugreifen können. Berechtigungen lassen sich granular pro Collection und teilweise pro Dokument vergeben – mit einem klaren Vorrang für ausdrückliches Verweigern.
Synchronisierung
Datenquellen ändern sich laufend. Eine gute Anbindung synchronisiert automatisch – je nach Bedarf alle zehn Minuten, stündlich, nächtlich oder ausschließlich manuell ausgelöst.
Typische Fehler
Häufige Stolpersteine sind zu große Chunks (schlechtere Trefferqualität), fehlende Berechtigungsprüfung vor dem Rollout und das Ignorieren fehlgeschlagener Dateien. Eine Probleme-Übersicht mit Gründen und Neuindexierung hilft, solche Fälle früh zu erkennen.
Umsetzung mit der AI Zentrale
In der AI Zentrale legen Sie eine Collection an, wählen Direct oder RAG, verbinden Ihre Quellen und steuern den Zugriff granular. Der Rest – Chunking, Embeddings, Synchronisierung – läuft im Hintergrund.