Rechtebewusstes Retrieval
Rechtebewusstes Retrieval bezeichnet eine Abfragelogik für KI-Assistenten, bei der zu jeder Frage nur die Dokumente durchsucht werden, auf die die fragende Person nach ihren bestehenden Zugriffsrechten selbst zugreifen darf; der Assistent übernimmt so die Berechtigungen der Ablagesysteme.
Rechtebewusstes Retrieval überträgt das [[rollen-rechte-konzept|Rollen-Rechte-Konzept]] eines Betriebs auf die Suche einer [[rag|RAG-Anwendung]] und setzt das Prinzip der [[least-privilege|minimalen Rechte]] im KI-Assistenten durch.
In einfachen Worten
In jedem Betrieb sind Dokumente unterschiedlich zugänglich: Personalakten nur für die Personalabteilung, Kalkulationen nur für Vertrieb und Geschäftsführung, Verträge nur für die jeweils Zuständigen. Ein KI-Assistent, der alle Unterlagen in einen gemeinsamen Suchbestand übernimmt, hebt diese Grenzen auf. Auf eine passende Frage hin zitiert er aus einem Dokument, das die fragende Person im Ablagesystem nie hätte öffnen können. Rechtebewusstes Retrieval verhindert das. Beim Einlesen erhält jeder Textabschnitt die Zugriffsrechte seines Quelldokuments. Bei jeder Frage stellt das System zuerst fest, wer fragt und welchen Rollen oder Gruppen diese Person angehört, und filtert den Suchbestand entsprechend, bevor die Suche beginnt. Das Sprachmodell bekommt nur Abschnitte zu sehen, die die Person auch ohne Assistent lesen dürfte. Ändern sich Rechte im Ablagesystem, etwa beim Abteilungswechsel oder beim Ausscheiden einer Person, wird die Änderung zeitnah im Suchbestand nachgezogen.
Wozu brauche ich das?
Die Abfragelogik ist erforderlich, sobald ein Assistent Unterlagen mit unterschiedlichen Zugriffsrechten durchsucht und von mehreren Nutzergruppen verwendet wird. Wo die Rechte der Ablagesysteme unübersichtlich gewachsen sind, empfiehlt sich ein Start mit getrennten Assistenten je Nutzergruppe und klar abgegrenzten Quellen. Jede Anfrage und die dabei verwendeten Abschnitte gehören ins Audit-Log, damit sich nachträglich prüfen lässt, wer welche Information erhalten hat.
Beispiel aus der Praxis
Ein Maschinenbauer mit Vertrieb, Konstruktion und Personalabteilung führt einen Assistenten für interne Fragen ein. Im Test fragt ein Auszubildender nach der Regelung für Überstunden und erhält eine Antwort, die aus dem Entwurf einer Betriebsvereinbarung zitiert, der nur der Personalleitung zugänglich war. Die Ursache: Beim Einlesen waren alle Laufwerke mit einem technischen Konto gelesen worden, das überall Leserechte hatte, und die Abschnitte enthielten keine Rechteinformation. Nach der Umstellung übernimmt jeder Abschnitt die Gruppenrechte seines Ordners, und die Suche filtert nach den Gruppen der angemeldeten Person. Auf dieselbe Frage erhält der Auszubildende nun die Antwort aus der gültigen, allgemein veröffentlichten Arbeitszeitregelung.
Wirtschaftlicher Nutzen
Ein Assistent ohne diese Logik öffnet einen Weg um bestehende Zugriffsbeschränkungen herum und gefährdet damit Geschäftsgeheimnisse, Personaldaten und die Einhaltung der DSGVO. Mit rechtebewusstem Retrieval kann derselbe Assistent allen Nutzergruppen zur Verfügung stehen, ohne dass für jede Gruppe ein eigener Bestand gepflegt wird. Der Aufwand liegt in der Einrichtung der Rechteübernahme und in ihrer laufenden Abstimmung mit den Ablagesystemen.
Typische Fehler
- Alle Unterlagen mit einem technischen Konto eingelesen, das überall Leserechte hat, und die Rechte der Quelldokumente nicht mitgeführt.
- Die Rechteprüfung dem Sprachmodell per Anweisung überlassen, anstatt die Suche vorher zu filtern.
- Rechteänderungen im Ablagesystem erst beim nächsten vollständigen Neueinlesen übernommen.
- Ein gemeinsames Konto für alle Nutzer des Assistenten eingerichtet, anstatt die persönlichen Benutzerkonten zu verwenden, sodass niemand einzeln geprüft werden kann.
- Anfragen und verwendete Quellen nicht protokolliert.
Worauf achten?
- Rechte beim Einlesen je Abschnitt aus dem Quelldokument übernehmen.
- Den Suchbestand vor der Suche nach den Rechten der angemeldeten Person filtern.
- Rechteänderungen, Abteilungswechsel und Austritte zeitnah im Suchbestand nachziehen.
- Mit Testkonten verschiedener Rollen prüfen, dass keine Rolle Inhalte einer anderen erhält und kein Datenabfluss zwischen Abteilungen entsteht.
- Jede Anfrage mit Person, Zeitpunkt und verwendeten Abschnitten protokollieren.
Häufig gestellte Fragen
Was ist rechtebewusstes Retrieval?
Eine Abfragelogik, bei der ein KI-Assistent für jede Frage nur die Dokumente durchsucht, auf die die fragende Person nach ihren bestehenden Rechten zugreifen darf.
Kann ein KI-Assistent vertrauliche Dokumente preisgeben?
Ja, wenn er alle Unterlagen in einen gemeinsamen Suchbestand übernimmt und die Rechte der Quellen nicht mitführt. Dann kann er auf eine passende Frage hin aus Dokumenten zitieren, die der fragenden Person sonst verschlossen sind.
Reicht eine Anweisung an das Modell, vertrauliche Inhalte nicht zu nennen?
Eine Anweisung lässt sich durch geschickt formulierte Fragen umgehen. Verlässlich ist der Filter vor der Suche: Was die Person nicht lesen darf, erreicht das Modell gar nicht erst.
Wie werden Rechteänderungen im KI-Assistenten berücksichtigt?
Der Suchbestand wird mit den Rechten der Ablagesysteme abgeglichen, bei jeder Änderung oder in kurzen festen Abständen. Austritte und Abteilungswechsel werden sofort übernommen.