Technik · 18.09.2026

RAG in 5 Minuten: Ihre Dokumente werden zu Antworten

Handbuch, FAQ, Preisliste — in eine semantische Wissensbasis geladen, beantwortet ein Chat-Agent Fragen plötzlich exakt aus Ihren Daten. Was hinter „Retrieval-Augmented Generation" steckt und warum es funktioniert.

Ein nacktes Sprachmodell kennt die Welt aus seinem Training — aber nicht Ihr Produkt, Ihre Preise oder Ihre internen Abläufe. RAG (Retrieval-Augmented Generation) schließt genau diese Lücke: Vor jeder Antwort werden die für die Frage passenden Textstellen aus Ihren eigenen Dokumenten herausgesucht und dem Modell als Kontext mitgegeben.

Klingt kompliziert, ist aber ein etablierter Weg: Ihre Dokumente werden in Chunks zerlegt, in Vektoren eingebettet und in einer Vektor-Datenbank abgelegt. Bei einer Frage sucht das System die semantisch ähnlichsten Chunks — nicht nach Stichworten, sondern nach Bedeutung — und der Assistent formuliert die Antwort auf dieser Grundlage. Der Vorteil: Die KI halluziniert seltener, und alle Antworten sind mit Ihren Quellen belegbar.

Was es für den Betrieb braucht

Die Praxis zeigt, worauf es ankommt. Erstens: saubere Chunk-Grenzen — zerstückelte Sätze erzeugen falsche Antworten. Zweitens: Mandanten-Trennung — bei mehreren Kunden muss jeder nur auf seine Dokumente zugreifen können, und das muss technisch erzwungen sein, nicht nur versprochen. Drittens: ein eigenes Hosting der Vektoren, damit Ihre Wissensbasis Ihre Infrastruktur nie verlässt.

Bei uns liegen die Vektoren auf eigenem PostgreSQL mit pgvecto.rs, jeder Mandant ist sauber abgetrennt, und die Chunks lassen sich im Editor sogar manuell nachschärfen. Aus einem 200-seitigen Handbuch wird so in Minuten ein Assistent, der genau die eine Frage beantwortet, die Ihr Kunde gerade hat — rund um die Uhr, DSGVO-konform.