RAG (Retrieval-Augmented Generation) hält Ihr Wissen in einem durchsuchbaren Index und ruft es zur Fragezeit ab; Fine-Tuning trainiert das Wissen in die Gewichte des Modells. Für Unternehmens-Dokumentenintelligenz sind die beiden nicht austauschbar — und für die meisten dokumentenlastigen Use Cases ist RAG der richtige Default.
Der Vergleich
| RAG | Fine-Tuning | |
|---|---|---|
| Neue Dokumente sichtbar | Sofort nach Ingestion | Erst nach Neutraining |
| Zitate zu Quellen | Nativ — jede Antwort zitiert Passagen | Unmöglich — Wissen ist in Gewichte diffundiert |
| Zugriffskontrolle | Pro Dokument zur Abfragezeit durchsetzbar | Keine — das Modell weiss, was es weiss, für alle |
| Wissen eines Dokuments löschen | Aus dem Index löschen | Ohne Neutraining praktisch unmöglich |
| Halluzinationsrisiko | Reduziert — in gefundenem Text verankert | Bleibt; Modell antwortet selbstsicher aus veralteten Gewichten |
| Vorlaufkosten | Ingestion & Indexierung | Trainingsläufe, Evaluation, Re-Deployment pro Update |
| Am besten für | Fakten, Dokumente, Richtlinien, Verträge | Stil, Format, Domänen-Verhalten |
Der Compliance-Winkel entscheidet meist
Unter Datenschutzrecht (nDSG/DSGVO) ist Fine-Tuning auf Personendaten ein Minenfeld: Die Daten werden irreversibel in die Gewichte eingebettet, Löschrechte werden undurchsetzbar, Zugriffskontrolle pro Benutzer unmöglich. RAG hält Daten in einem kontrollierten Speicher, in dem Verschlüsselung, ACLs, Aufbewahrung und Löschung durchsetzbar bleiben — deshalb setzen regulierte Schweizer Branchen auf RAG, nicht auf feingetunte Firmenmodelle.
Wann Fine-Tuning (oder beides) sinnvoll ist
Fine-Tuning lohnt sich, wenn Sie konsistentes Verhalten statt Wissen brauchen: ein spezifisches Reportformat, einen Haus-Ton, eine enge Klassifikationsaufgabe. Das stärkste Unternehmensmuster ist ein fähiges Basismodell + RAG fürs Wissen, optional mit leichtem Tuning fürs Format — nie Fine-Tuning als Wissensspeicher.
Was SovraRAG macht
SovraRAG ist aus Überzeugung eine RAG-Plattform: hybrides Retrieval mit Wissensgraph, agentisches mehrstufiges Reasoning für komplexe Fragen, dokumentgenaue ACLs und zitierte Antworten — auf 100% Schweizer Infrastruktur, mit mandantenspezifischer Verschlüsselung, die der Betreiber nicht umgehen kann.