RAG & Wissens‑KI – Eigene Daten sinnvoll nutzen

KI
8–9 Min Lesezeit · von gotoitcareer.study

Viele Fragen in Unternehmen stehen schon in PDFs, Wikis oder E‑Mails. RAG verbindet dieses Wissen mit einem Sprachmodell, sodass Antworten präzise und mit Quellen kommen. Das ist ideal für Support, interne Suche und Doku‑Assistenten.

Idee hinter RAG – simpel erklärt

Stell dir eine sehr schlaue Suchmaschine vor, die vor der Antwort erst die besten Textstellen aus deinen Dokumenten holt. Diese Stellen werden dem Modell mitgegeben – deshalb kann es die Antwort mit Zitaten belegen.

Vorteil: weniger Halluzinationen, nachvollziehbare Ergebnisse, aktuelle Inhalte statt veralteten Trainingsbeständen.

Die Bausteine eines RAG‑Systems

Chunking: Lange Dokumente in sinnvolle Abschnitte schneiden (z. B. 500–1.000 Wörter), Überschrift & Quelle mitgeben.

Embeddings & Index: Abschnitte in Zahlen (Vektoren) verwandeln und in einen Vektor‑Index legen – damit ähnliche Stellen schnell gefunden werden.

Der Flow in 5 Schritten

1) Frage normalisieren (Stoppwörter, Groß/Kleinschreibung). 2) Ähnliche Abschnitte im Index suchen (k‑NN). 3) Optional reranken (bessere Reihenfolge). 4) Prompt bauen: Frage + Top‑Abschnitte + Bitte um Zitatangaben. 5) Antwort inkl. Quellen ausgeben.

Sicherheit & Datenschutz – worauf du achten musst

Nur freigegebene Dokumente indexieren, Rollenrechte respektieren, sensible Inhalte schwärzen oder ausschließen.

Zugriffe loggen, Anfragen limitieren, Missbrauchsszenarien (Prompt Injection) bedenken.

Dein Campus‑Projekt: FAQ‑Assistent

Lade Modulhandbuch & Prüfungsordnung, teile sie in Chunks, baue einen simplen Index, beantworte Fragen mit Quellenangaben. Dokumentiere Grenzen (z. B. alte Fassungen) und lerne aus Nutzerfeedback.

Ausblick – wenn du weitergehen willst

Kombiniere RAG mit strukturierten Daten (z. B. Noten/Termine), nutze mehrere Abfragevarianten (Multi‑Query) und evaluiere systematisch (Relevanz, Abdeckung, Konsistenz).

Nächster Schritt: Nutze das 2+3‑Wochenmodell – 2 Tage Hochschule (Theorie & Übung), 3 Tage Unternehmen (Praxis & Umsetzung). Schreibe jede Woche eine 5‑Zeilen‑„Weeknote“: 3 Learnings, 2 Ergebnisse.

Finanzen: In unseren dualen Programmen liegst du typischerweise bei 1.400–1.600 € brutto/Monat; die Studiengebühren übernehmen unsere Partnerunternehmen immer vollständig.

© 2026 gotoITcareer, Alle Rechte vorbehalten. Impressum | Datenschutz Anmelden