Digee / Wiki / KI-Grundlagen
Erklärung
RAG: So nutzt KI Ihre Dokumente.
RAG (vom englischen Retrieval-Augmented Generation) ist eine Technik, mit der KI aus Ihren eigenen Dokumenten antwortet: aus Verträgen, Richtlinien, Preislisten oder Anleitungen. Bevor das Modell eine Antwort schreibt, sucht es zuerst in den Unterlagen heraus, was relevant ist.
Kurz gesagt
- Die KI sucht zuerst in den Unterlagen, antwortet dann – und zeigt die Quelle.
- Das Modell muss nicht „neu trainiert“ werden; es reicht, ihm Zugriff auf die Dokumente zu geben.
- Die Qualität der Antworten hängt von Qualität und Aktualität der Unterlagen ab.
Auf dieser Seite
Das Prinzip: erst suchen, dann schreiben
Stellen Sie sich einen neuen Kollegen vor, der bei jeder Frage zuerst den Firmenordner öffnet, das richtige Dokument findet und erst dann antwortet. Genau so funktioniert RAG:
- Suche – das System findet in den Unterlagen die Passagen, die zur Frage gehören.
- Ergänzung – diese Passagen gibt es zusammen mit der Frage an das Sprachmodell weiter.
- Antwort – das Modell antwortet auf Basis des gefundenen Textes und gibt an, woher es die Information hat.
Warum RAG für Unternehmen wichtig ist
- Weniger Erfundenes. Das Modell antwortet aus Ihren Daten, nicht „aus dem Kopf“. Das Risiko von Halluzinationen sinkt deutlich.
- Aktualität. Sie ändern die Preisliste, und der Agent antwortet ab sofort nach der neuen. Nichts muss neu trainiert werden.
- Nachvollziehbarkeit. Zu jeder Antwort ist das Quelldokument sichtbar, die Prüfung geht also schnell.
- Zugriffskontrolle. Der Agent sieht nur die Dokumente, für die Sie ihm Zugriff geben.
Anwendungsbeispiele
- Anwaltskanzlei: Suche in Akten und Vertragsvorlagen.
- Gemeinde: Antworten an Bürger auf Basis freigegebener Informationen zu Gebühren und Formularen.
- Onlineshop: Antworten auf Fragen zu Produkten und AGB.
- Produktionsbetrieb: Nachschlagen von Abläufen in der technischen Dokumentation.
Weitere Szenarien finden Sie im Agenten-Katalog.
Worauf Sie achten sollten
RAG ist so gut wie die Unterlagen. Wenn Sie drei Versionen der Preisliste haben und zwei sich widersprechen, löst die KI das nicht für Sie. Vor dem Einsatz lohnt es sich deshalb, die Unterlagen durchzugehen, zu vereinheitlichen und festzulegen, wer sie aktuell hält.
Der zweite Punkt sind personenbezogene und sensible Daten. In die Unterlagen gehört nur, was der Agent wirklich braucht. Mehr dazu im Artikel KI und DSGVO.
Häufige Fragen
Muss das KI-Modell mit meinen Dokumenten trainiert werden?
Nein. Bei RAG wird das Modell nicht neu trainiert. Die Dokumente bleiben in einer Suchdatenbank, und das Modell schaut nur hinein, wenn es antwortet.
Welche Dokumente eignen sich?
Texte, die sich lesen lassen: PDF, Word, Webseiten, E-Mails, Tabellen, interne Wikis. Eingescannte Dokumente müssen zuerst in Text umgewandelt werden.
Sieht der Agent alle unsere Dokumente?
Nur die, für die Sie ihm Zugriff geben. Der Zugriff lässt sich nach Ordnern, Dokumenttypen und auch danach einschränken, wer den Agenten fragt.
Möchten Sie wissen, wo KI gerade Ihnen Zeit spart?
Wir gehen mit Ihnen eine normale Woche durch und finden die erste Aufgabe, die sich lohnt, an einen Agenten zu übergeben. Unverbindlich.
Verwandte Artikel
KI-Halluzinationen: Warum KI Dinge erfindet
Warum KI manchmal selbstbewusst Unwahres schreibt und wie Sie das im Unternehmen absichern: mit eigenen Unterlagen, Quellenangaben und Prüfung durch Menschen.
→Erklärung · 3 minGroßes Sprachmodell (LLM)
Was ein großes Sprachmodell (LLM) ist, wie es funktioniert und warum es die Basis von ChatGPT und KI-Agenten ist. Ohne Mathematik erklärt für Unternehmer.
→Überblick · 3 minKI und DSGVO: Worauf Unternehmen achten müssen
Praxisüberblick: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Datenübermittlung außerhalb der EU, automatisierte Entscheidungen und DSFA beim KI-Einsatz.
→