AMS.AL

RAG-Architektur: Wie KI auf Unternehmensdaten zugreift

· 6 Min. Lesezeit

RAG-Architektur erklärt: So antworten KI-Assistenten aus geprüften internen Unternehmensdaten, genau und faktenbasiert.

RAG-Architektur: Wie KI auf Unternehmensdaten zugreift

Die RAG-Architektur zeigt, wie KI auf Unternehmensdaten zugreift, bevor sie antwortet. Ein allgemeines Modell weiß viel über die Welt, aber nichts über Ihre Preise, Richtlinien oder Projekte. Ohne dieses Wissen rät es nur. Mit einem Abrufschritt findet es zuerst die passenden Passagen in Ihren eigenen Quellen und schreibt die Antwort dann daraus. So entsteht verlässliche Firmen-KI.

AMS.AL trainiert Geschäfts-KI-Assistenten mit geprüften internen Unternehmensdaten, damit die Antworten genau und an reale Fakten gebunden bleiben. Mitarbeitende und Kunden fragen in einfachen Worten, und der Assistent antwortet aus den Dokumenten, die Ihr Team freigegeben hat. Jede Antwort kann auf ihre Quelle verweisen, was den Weg zum Ergebnis zeigt und die Kontrolle erleichtert.

So funktioniert die RAG-Architektur Schritt für Schritt

Ablauf: Quellen auswählen → Passagen indexieren → Abrufen und antworten → Prüfen und verbessern
Ablauf: Quellen auswählen → Passagen indexieren → Abrufen und antworten → Prüfen und verbessern

Der Name steht für Retrieval Augmented Generation. Das System besteht aus zwei Teilen. Der Abrufteil durchsucht Ihre Dokumente nach den Passagen, die am besten zur Frage passen. Der Erzeugungsteil, das Sprachmodell, liest diese Passagen und schreibt eine klare Antwort. Die RAG-Architektur hält beide Teile getrennt, sodass sich jeder für sich verbessern lässt.

Bevor eine Frage eintrifft, werden die Dokumente vorbereitet. Handbücher, Richtlinien, Produktblätter und Hilfeartikel werden in kurze Passagen zerlegt und nach Bedeutung indexiert. Ändert sich der Inhalt, wird der Index aktualisiert. Diese Vorbereitung entscheidet über den größten Teil der Qualität: Saubere, aktuelle Quellen führen zu guten Antworten, alte Entwürfe und Dubletten zu Verwirrung.

Stellt jemand eine Frage, ruft der Assistent eine Handvoll der relevantesten Passagen ab und übergibt sie dem Modell mit klaren Anweisungen: nur aus diesem Material antworten, sagen, wenn die Antwort fehlt, und Namen und Zahlen genau so übernehmen, wie sie stehen. Diese Regeln halten eine RAG-Architektur an Ihren Fakten fest.

Der Ansatz geht auch mit Änderungen besser um als ein erneutes Training des Modells. Eine neue Preisliste oder Richtlinie wird einfach den Quellen hinzugefügt und indexiert, und schon die nächste Antwort nutzt sie. Am Modell selbst muss sich nichts ändern. Für die meisten Unternehmen ist die RAG-Architektur deshalb der praktische Weg, KI aktuelles und genaues Firmenwissen zu geben.

Die RAG-Architektur für Ihr Unternehmen aufbauen

Wir beginnen mit den Quellen. Gemeinsam wählen wir, welche Dokumente der Assistent nutzen darf, entfernen veraltete Fassungen und legen fest, wer was sehen darf. Bei Websites sind der öffentliche Katalog und die Hilfeseiten mit der PABAA WordPress-KI-Plattform eine naheliegende erste Quelle, sodass Kunden Antworten erhalten, die zu dem passen, was die Website bereits sagt.

Als Nächstes richten wir den Abruf und die Regeln für Antworten ein. Der Assistent nennt seine Quellen, räumt ein, wenn er etwas nicht weiß, und übergibt schwierige Fragen an einen Menschen. Vor dem Start testen wir ihn mit echten Fragen Ihres Teams und führen eine Liste unbeantworteter Fragen, damit sich die Inhalte mit der Zeit verbessern lassen.

Interne Assistenten für Mitarbeitende brauchen oft Verbindungen zu mehreren Systemen und sorgfältige Zugriffsrechte. Solche Projekte planen wir im Einzelfall. Die Seite zu individuelle KI-Dienstleistungen für Unternehmen beschreibt diese Arbeit, auch wie sich eine RAG-Architektur in Werkzeuge einfügt, die Ihr Team täglich nutzt.

Ein reines Modell und die RAG-Architektur im Vergleich

Wichtige Fakten: Trainiert mit: Geprüfte interne Daten · Antworten: Genau, faktenbasiert · Für: Geschäfts-KI-Assistenten
Wichtige Fakten: Trainiert mit: Geprüfte interne Daten · Antworten: Genau, faktenbasiert · Für: Geschäfts-KI-Assistenten

Die Tabelle vergleicht, wie sich ein Assistent bei typischen Geschäftsfragen mit und ohne Abrufschritt verhält.

FrageReines KI-ModellMit RAG-Architektur
Unsere RückgaberegelAllgemeine VermutungAntwort aus Ihrem Richtlinientext
Ein ProduktdetailKann einen Wert erfindenWert aus dem Produktblatt
Neues aus dieser WocheKennt es nichtNutzt die aktualisierte Quelle
Woher stammt dasKeine Quelle sichtbarVerweis auf die genutzte Passage

Daten für die RAG-Architektur vorbereiten

Diese Schritte machen die Quellen sauber und die Antworten vom ersten Tag an leichter vertrauenswürdig.

  • Sammeln Sie die Dokumente, mit denen Menschen bereits Fragen beantworten.
  • Entfernen Sie alte Fassungen oder kennzeichnen Sie die aktuelle deutlich.
  • Entscheiden Sie, welche Quellen öffentlich und welche nur intern sind.
  • Benennen Sie eine verantwortliche Person, die jede Quelle aktuell hält.
  • Schreiben Sie die Fragen auf, die der Assistent gut beantworten muss.
  • Prüfen Sie unbeantwortete Fragen jeden Monat und schließen Sie die Lücken.

Häufige Fragen zur RAG-Architektur

Ist RAG dasselbe wie das Training eines eigenen Modells?

Nein. Beim Training verändert sich das Modell selbst, was langsam und teuer ist und wiederholt werden muss, sobald sich Fakten ändern. Die RAG-Architektur behält ein allgemeines Modell und gibt ihm mit jeder Frage die passenden Passagen aus Ihren Quellen. Wissen zu aktualisieren bedeutet dann nur, ein Dokument zu aktualisieren, weshalb die meisten Unternehmen zuerst diesen Weg wählen. Gern zeigen wir Ihnen das an Ihren eigenen Inhalten.

Kann der Assistent trotzdem falsch antworten?

Das kann er, aber deutlich seltener als ein Modell ohne Quellen. Fehler entstehen meist durch unklare oder veraltete Dokumente oder durch Fragen, die die Quellen nicht abdecken. Der Assistent soll sagen, wenn er etwas nicht weiß, und jede Antwort nennt ihre Quelle. Regelmäßige Auswertungen schwieriger Fragen verbessern Inhalte und Ergebnisse. Gern zeigen wir Ihnen das an Ihren eigenen Inhalten.

Werden unsere internen Daten mit anderen geteilt?

Ihre Dokumente bleiben in Ihrer eigenen Umgebung, und jede Nutzerin und jeder Nutzer sieht nur die Quellen, die die jeweilige Rolle erlaubt. Passagen gehen nur zur Beantwortung einer Frage an den KI-Anbieter, nach dessen Geschäftsbedingungen, die wir mit Ihnen prüfen. Private Dateien werden für den öffentlichen Website-Assistenten nur genutzt, wenn Sie das entscheiden. Gern zeigen wir Ihnen das an Ihren eigenen Inhalten.

Wie viele Dokumente brauchen wir für den Start?

Eine Mindestzahl gibt es nicht. Ein gutes erstes Projekt nutzt oft wenige, gut gepflegte Quellen, etwa die Hilfeseiten, die wichtigsten Richtlinien und den Produktkatalog. Mit kleinem Umfang lässt sich leichter testen, und es zeigt sich schnell, wo Inhalte fehlen. Weitere Quellen kommen später hinzu, sobald die ersten verlässliche Antworten liefern. Gern zeigen wir Ihnen das an Ihren eigenen Inhalten.

Lesen Sie auch: Prompt Engineering für Unternehmen: Präzise Ergebnisse aus KI-Modellen · Vektordatenbank und Indexierung von Unternehmenswissen für KI-Assistenten · Alle Ratgeber dieser Kategorie

Möchten Sie einen Assistenten, der aus Ihren eigenen geprüften Daten antwortet? Fragen Sie ein Projekt an, wir sichten Ihre Quellen und planen die ersten Schritte. Ratgeber: Künstliche Intelligenz (KI) · Projekt anfragen

  • Künstliche Intelligenz (KI)
  • RAG architecture