KI-Assistent auf eigenen Unternehmensdaten:
was vor dem Start geklärt sein muss

Ein KI-Assistent antwortet aus dem eigenen Bestand

Ein solcher Assistent unterscheidet sich von einem allgemeinen Sprachdienst durch die Quelle seiner Antworten. Ein allgemeines Modell antwortet aus dem, was es beim Training gesehen hat, und weiß über den einzelnen Betrieb nichts. Der interne Assistent bekommt gezielt Zugriff auf einen abgegrenzten Bestand eigener Unterlagen und stellt seine Antwort aus diesen Unterlagen zusammen. Gefragt nach der Garantiefrist eines Bauteils sucht er die Passage im hinterlegten Vertrag und gibt sie wieder, statt eine allgemeine Einschätzung abzugeben.

Technisch geschieht das über ein Verfahren, das die Frage zuerst mit dem Bestand abgleicht und die dazu passenden Textstellen heraussucht. Erst diese Stellen bekommt das Sprachmodell zu sehen, und aus ihnen formuliert es die Antwort. Der Bestand ist damit die Grenze des Wissens: Was dort steht, kann der Assistent beantworten; was dort fehlt, kann er nicht ergänzen, ohne zu raten.

Von dieser Bauweise hängt der Rest des Beitrags ab. Weil der Assistent an einer Stelle zusammenführt, was sonst über viele Ordner, Laufwerke und Programme verteilt liegt, entsteht ein neuer Zugang zu diesem Wissen, und mit ihm die Fragen nach Berechtigung, Aktualität und Nachweis. Ein öffentlicher Chatbot beantwortet Fragen von Besuchern zu allgemein zugänglichen Inhalten. Der interne Assistent arbeitet mit einem geschlossenen Nutzerkreis und mit vertraulichen Unterlagen, und das verschärft jede der folgenden Klärungen.

Die Datenbasis legt fest, worüber er Auskunft gibt

Die Datenbasis ist der festgelegte Bestand an Dokumenten und Datensätzen, aus dem der Assistent seine Antworten zieht. Am Anfang steht die Auswahl der Quellen: Der Betrieb legt fest, welche Dokumente und Datensätze in den Bestand gehören. Ein Assistent, der wahllos jedes Laufwerk durchsucht, vermischt gültige Anweisungen mit veralteten Entwürfen, private Notizen mit verbindlichen Vorgaben und Doppelungen mit dem Original. Die bewusste Auswahl der Quellen ist deshalb der erste Schritt: Welche Handbücher, welche Vertragsvorlagen, welche Preisstände, welche abgelegten Vorgänge sollen für eine Auskunft herangezogen werden, und welche bleiben außen vor.

Nach der Auswahl steht die Qualität dieser Quellen zur Prüfung. Ein Assistent erbt jeden Mangel seiner Grundlage: Steht eine Angabe doppelt und in zwei Fassungen im Bestand, gibt er eine davon zurück, ohne die andere zu erwähnen. Liegt eine Preisliste nur als eingescanntes Bild ohne Textebene vor, findet er sie nicht. Diese Abhängigkeit gilt für jedes KI-Vorhaben, das auf eigene Bestände zugreift; wie ein Betrieb seine Datengrundlage prüft, bevor er ein solches Vorhaben startet, führt der Beitrag zur Datenqualität als Voraussetzung für KI aus.

Zur Auswahl gehört die Entscheidung, welche Form eine Quelle haben muss, damit der Assistent sie verlässlich liest. Ein Datenblatt als durchsuchbarer Text ist nutzbar, dasselbe Datenblatt als Foto einer Papierseite nicht. Eine Tabelle mit sauber getrennten Spalten liefert klare Werte, dieselben Angaben im Fließtext eines Notizfeldes nur unzuverlässig. Ein Teil der Vorarbeit besteht darin, die ausgewählten Quellen in eine lesbare Form zu bringen, und dieser Aufwand gehört in die Planung.

Die Rechte des Fragenden begrenzen die Antwort

Ein Assistent führt viele Quellen an einer Stelle zusammen, und darin liegt ein Risiko, das ohne ihn nicht bestünde. Ein Dokument im Personalordner ist heute dadurch geschützt, dass nur die Personalabteilung den Ordner öffnen kann. Speist man dasselbe Dokument in den Bestand eines Assistenten ein, der allen offensteht, kann jede Person seinen Inhalt über eine geschickte Frage abrufen, ohne den Ordner je zu betreten. Der Schutz der einzelnen Ablage greift nicht mehr, sobald ihre Inhalte über den Assistenten erreichbar sind.

Die Regel dagegen ist einfach zu benennen und aufwendig umzusetzen: Der Assistent darf einer Person nur aus Quellen antworten, die diese Person auch direkt einsehen dürfte. Die Rechte des Assistenten folgen damit den Rechten des Fragenden. Fragt jemand aus dem Vertrieb, zieht das System nur Vertriebsquellen heran; fragt jemand aus der Geschäftsführung, steht ein weiterer Bestand offen. Das setzt voraus, dass jede Quelle einer Nutzergruppe zugeordnet ist und dass der Assistent die Gruppe des Fragenden kennt, bevor er antwortet.

Vor dem Start ist deshalb zu klären, welche Nutzergruppen es gibt und welcher Quellbestand jeder Gruppe offensteht. Für die meisten Betriebe genügen zu Beginn wenige Gruppen mit klar getrennten Beständen. Die feinere Abstufung, bei der innerhalb einer Gruppe einzelne Dokumente gesperrt sind, kommt später hinzu und will von Anfang an mitgedacht sein, weil sie über die Zuordnung jeder einzelnen Quelle entscheidet.

Veraltete Quellen erzeugen veraltete Antworten

Ein Assistent kennt den Stand des Bestands, der zuletzt eingelesen wurde, und keinen späteren. Ändert sich eine Vorgabe im Betrieb, weiß er davon erst, wenn die geänderte Quelle neu in den Bestand aufgenommen wurde. Bis dahin gibt er die alte Auskunft, und er gibt sie mit demselben ruhigen Ton wie eine aktuelle. Die Aktualität der Quellen ist damit keine Nebensache der Pflege, sie bestimmt unmittelbar die Richtigkeit jeder Antwort.

Daraus folgen drei Regelungen, die vor dem Start festliegen sollten.

• Ein fester Abstand für das Einlesen: Die Quellen werden in einem festgelegten Takt neu eingelesen, damit Änderungen verlässlich ankommen, statt vom Zufall abzuhängen
• Eine Zuständigkeit für das Entfernen: Eine benannte Person nimmt überholte Dokumente aus dem Bestand, damit eine abgelöste Fassung nicht neben der gültigen liegen bleibt
• Ein erkennbarer Stand je Antwort: Der Assistent nennt zur Auskunft das Datum der zugrunde liegenden Quelle, damit der Nutzer das Alter der Angabe einschätzen kann

Der letzte Punkt hängt eng mit der Datenqualität zusammen. Ein Dokument, dem sein Alter nicht anzusehen ist, wird wie eine aktuelle Angabe verarbeitet, auch wenn es längst überholt ist. Ein Datum an der Quelle und ein regelmäßiges Aussortieren halten den Bestand so, dass die jüngste gültige Fassung die einzige ist, die der Assistent findet.

Eine fehlende Antwort ist besser als eine erfundene

Ein Sprachmodell bildet auch dann eine flüssige Antwort, wenn der Bestand die nötige Angabe nicht enthält. Es füllt die Lücke mit einer plausibel klingenden Formulierung, die keine Grundlage hat. Diese Eigenschaft ist der Kern des Problems bei einem Auskunftssystem: Die falsche Antwort sieht genauso überzeugend aus wie die richtige, und der Nutzer hat ohne weiteren Hinweis keine Möglichkeit, sie zu unterscheiden.

Vor dem Start sind deshalb zwei Verhaltensweisen festzulegen. Die erste betrifft die Lücke: Findet der Assistent im Bestand keine tragfähige Grundlage, weist er das aus und rät nicht. Ein „Dazu liegt mir keine Angabe vor" ist die brauchbare Antwort, wo keine Quelle greift. Die zweite betrifft den Beleg: Jede Antwort nennt das Dokument und die Stelle, aus der sie stammt. Damit wird die Auskunft prüfbar, denn der Nutzer öffnet die genannte Quelle und gleicht ab, bevor er auf der Antwort aufbaut.

Ein eigener Fall entsteht, wenn eine eingelesene Quelle selbst eine versteckte Anweisung enthält, die den Assistenten in die Irre führt. Ein präpariertes Dokument im Bestand kann so eine Antwort verfälschen, ohne dass der Nutzer die Ursache sieht. Wie diese Manipulation über eingeschleuste Anweisungen funktioniert und wie ein System sich davor schützt, behandelt der Beitrag zu versteckten Anweisungen und dem Schutz davor.

Die Protokollierung macht jede Antwort nachvollziehbar

Die Protokollierung ist die Mitschrift, welche Frage zu welcher Zeit gestellt wurde, welche Quellen der Assistent herangezogen und welche Antwort er gegeben hat. Sie erfüllt drei Zwecke im laufenden Betrieb, die jeder für sich den Aufwand rechtfertigen.

1. Fehler finden: Gibt der Assistent eine falsche Auskunft, lässt sich aus dem Protokoll ablesen, aus welcher Quelle sie stammte. So wird der Fehler an der Wurzel behoben, indem die überholte oder falsche Quelle bereinigt wird, statt am Einzelfall zu raten.
2. Missbrauch bemerken: Häufen sich Fragen, die auf vertrauliche Inhalte zielen, oder versucht jemand, die Rechtegrenze auszutesten, zeigt sich das im Protokoll. Ohne Mitschrift bliebe ein solches Muster unsichtbar.
3. Nutzung verstehen: Das Protokoll zeigt, welche Fragen tatsächlich gestellt werden und wo der Assistent oft keine Antwort findet. Beides steuert die Pflege des Bestands, weil es die Lücken benennt, die zuerst zu schließen sind.

Die Protokollierung berührt personenbezogene Daten, weil sie festhält, wer was gefragt hat. Ihr Umfang, ihre Aufbewahrungsdauer und der Kreis der Zugriffsberechtigten gehören deshalb vor dem Start geregelt, und die Belegschaft ist über die Mitschrift zu informieren. Die Aufzeichnung dient dem sicheren Betrieb, nicht der Leistungskontrolle; diese Zweckbindung ist festzuhalten und einzuhalten.

Wo die Quellen und die Verarbeitung besonders schützenswert sind, stellt sich zusätzlich die Frage, an welchem Ort der Assistent rechnet und wohin die Anfragen fließen. Wie ein Betrieb die Steuerung einer KI-Automation auf den eigenen Systemen hält und den Ort der Verarbeitung selbst bestimmt, führt der Überblick, wie sich KI mit den eigenen Unternehmensdaten verbinden lässt, weiter aus.

Sechs Festlegungen gehören vor den ersten Betrieb

Die einzelnen Klärungen ergeben in einer festen Reihenfolge einen Ablauf. Jeder Schritt baut auf dem vorigen auf, und keiner lässt sich sinnvoll überspringen. Der folgende Durchgang bringt sie in die Ordnung, in der sie vor dem ersten Betrieb abzuarbeiten sind.

Am Ende dieses Durchgangs steht ein Assistent, der einer klar umrissenen Gruppe aus einem geprüften Bestand antwortet, jede Auskunft belegt und jede Anfrage festhält. Aus dem Pilot ergibt sich der Aufwand für die Pflege und die Erfahrung, wie sich der Bestand auf weitere Aufgaben und Gruppen ausdehnen lässt.

Die häufigsten Fehler

Sechs Muster treten wiederholt auf, wenn ein Assistent ohne die vorgelagerten Klärungen in Betrieb geht.

Die Punkte eins bis drei gefährden die Vertraulichkeit und die Verlässlichkeit, die Punkte vier bis sechs den dauerhaften Nutzen