Retrieval-Augmented Generation (RAG)

Q: Was ist der Unterschied zwischen RAG und Fine-Tuning?

Bei RAG ruft das Modell Wissen zur Laufzeit aus einer externen Quelle ab. Beim Fine-Tuning wird das Modell selbst mit zusätzlichen Daten weitertrainiert.

Q: Reduziert RAG Halluzinationen?

Ja. Da Antworten auf konkret abgerufenen Quellen basieren, sinkt das Risiko erfundener Aussagen und die Quellen bleiben nachvollziehbar.

Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort relevante Informationen aus einer externen Wissensquelle abruft und in die Antwort einbezieht.

Was ist Retrieval-Augmented Generation (RAG)?

Retrieval-Augmented Generation (RAG) kombiniert ein Sprachmodell mit einer Suche in externen Dokumenten oder Datenbanken. Statt nur aus dem Trainingswissen zu antworten, bezieht das Modell aktuelle und unternehmensspezifische Inhalte in seine Antwort ein.

Wie funktioniert RAG?

Auf eine Anfrage werden zunächst relevante Dokumente aus einer Wissensbasis abgerufen, häufig über eine Vektor-Suche mit Embeddings. Anschließend erzeugt das Sprachmodell die Antwort und nutzt die abgerufenen Dokumente als Kontext.

Warum ist RAG für Unternehmen relevant?

RAG bringt aktuelles, firmeneigenes Wissen in KI-Antworten, ohne dass das Modell neu trainiert werden muss. Es reduziert Halluzinationen, und die genutzten Quellen bleiben nachvollziehbar.

RAG und Datenschutz

Die Wissensquelle enthält bei RAG oft sensible Unternehmensdaten. Entscheidend ist daher, wo diese Daten liegen, wer darauf zugreift und ob die bestehenden Berechtigungen durchgesetzt werden.

Wie SecureCloud RAG-Szenarien unterstützt

Über den MCP-Server können KI-Anwendungen kontrolliert auf in SecureCloud gespeicherte Dateien zugreifen und sie als Wissensquelle nutzen. Das Berechtigungsmodell wird übernommen, Zugriffe werden protokolliert, und die Daten bleiben in Deutschland, DSGVO-konform.

Häufige Fragen

Was ist der Unterschied zwischen RAG und Fine-Tuning?

Bei Retrieval-Augmented Generation (RAG) ruft das Modell Wissen zur Laufzeit aus einer externen Quelle ab, ohne neu trainiert zu werden. Beim Fine-Tuning wird das Modell selbst mit zusätzlichen Daten weitertrainiert.

Reduziert RAG Halluzinationen?

Ja. Da die Antworten auf konkret abgerufenen Quellen basieren, sinkt das Risiko erfundener Aussagen, und die verwendeten Quellen bleiben nachvollziehbar.

Wo liegen bei RAG die Daten?

Die Daten liegen in der genutzten Wissensquelle, etwa einem Dokumentenspeicher. Wo diese betrieben wird und wer darauf zugreift, ist für den Datenschutz entscheidend.