Agentisches RAG ist Retrieval-Augmented Generation, bei der das Retrieval selbst von einem autonomen Agenten-Loop gesteuert wird statt von einer einzelnen Suche. Das System plant Teilabfragen, führt sie über mehrere Retrieval-Tools aus, beobachtet die Resultate, reflektiert über Lücken und verfeinert — bevor es eine finale, zitierte Antwort synthetisiert.
Der Loop: Plan → Act → Observe → Reflect
- Planen. Die Frage wird zerlegt: «Vergleiche die Kündigungsklauseln unserer drei grössten Lieferanten» wird zu Teilabfragen pro Lieferant plus einem Vergleichsschritt.
- Ausführen. Teilabfragen laufen parallel gegen mehrere Tools: Vektorsuche, Wissensgraph-Nachbarschaft, Community-Zusammenfassungen.
- Beobachten & Reflektieren. Ein Kritiker-Modell prüft die Evidenz auf Lücken und Widersprüche und stellt bei Bedarf verfeinerte Folgeabfragen.
- Synthetisieren. Die finale Antwort entsteht aus dem deduplizierten Evidenz-Pool, mit nummerierten Zitaten zu den Quelldokumenten.
Warum begrenzte Loops im Unternehmen entscheidend sind
Ein unbegrenzter Agent ist ein Risiko: unvorhersehbare Latenz, unvorhersehbare Kosten, nicht auditierbares Verhalten. Produktives agentisches RAG braucht harte Leitplanken. In SovraRAG ist der Loop auf eine feste Zahl Iterationen und ein hartes Timeout begrenzt, Evidenz pro Schritt ist gedeckelt, jeder Schritt landet im Query-Log, und jeder Fehler fällt auf klassisches Single-Pass-Retrieval zurück — der Antwortpfad ist immer auditierbar, der Worst Case immer definiert.
Wann agentisches RAG gewinnt
Einfache Lookups brauchen keinen Agenten — und ein guter Router setzt auch keinen ein. Agentisches Retrieval lohnt sich bei vergleichenden, aggregierenden und Multi-Hop-Fragen: portfolioweite Klauselvergleiche, Exposure-Mapping, «was hat sich zwischen Policengenerationen geändert», Literatur-Reviews. SovraRAGs Router erkennt Fragekomplexität automatisch; in internen Multi-Hop-Evaluationen schlug der agentische Pfad Single-Pass-Retrieval auf jeder Qualitätsmetrik — und war im Median schneller, weil Teilabfragen parallel laufen.
Agentisches RAG und Datensouveränität
Ein Agent, der Dutzende Retrievals ausfächert, verstärkt Ihre Exposition, wenn diese Aufrufe Ihre Jurisdiktion verlassen. SovraRAGs agentischer Loop läuft vollständig auf Schweizer Infrastruktur — Sprachmodelle, Embeddings und die gesamte Retrieval-Infrastruktur — mehr Retrieval-Schritte bedeuten also nie mehr grenzüberschreitendes Risiko.