RAG statt Raten: Firmenwissen für KI nutzbar machen

Retrieval Augmented Generation heißt im Kern: Vor der Antwort wird gesucht. Das Modell erhält die passenden Absätze aus deinen eigenen Dokumenten und formuliert daraus eine Antwort, die sich belegen lässt.

Der Aufwand liegt selten in der Technik, sondern in den Inhalten. Veraltete Handbücher, drei Versionen derselben Preisliste und PDF-Scans ohne Text sind die häufigsten Gründe, warum ein Pilot enttäuscht.

Deshalb beginnen wir mit einer Sichtung: Welche Quellen sind verbindlich, wer pflegt sie, was darf wer sehen? Rechte und Zuständigkeiten gehören in die erste Woche, nicht in den Betrieb.

Miss die Antwortqualität an echten Fragen aus dem Alltag – am besten an einer Liste von dreißig Fragen, die dein Team ohnehin ständig stellt. Diese Liste ist dein Abnahmetest und später dein Regressionstest.