Strategie

KI-Nutzung im Unternehmen organisieren:
Richtlinie, Vereinbarung, Rollen, Review

In vielen Mittelstands-Unternehmen läuft KI heute weitgehend unkontrolliert — private Accounts, Kundendaten in externen Diensten, Quellcode in fremden Systemen. Wer KI als Unternehmens-Infrastruktur behandelt, ordnet acht Ebenen — von der Richtlinie bis zum Prüfprozess.

14 Min. Lesezeit26. Mai 2026

KI-Werkzeuge sind in den vergangenen zwei Jahren in nahezu jedem Mittelstands- Unternehmen angekommen — nur selten über eine bewusste Einführung, häufiger über die Eigeninitiative einzelner Mitarbeiter. Die Folge: Kundenlisten landen in privaten Konten externer Anbieter, vertrauliche Verträge werden zur Analyse hochgeladen, Quellcode wird in fremden Systemen verarbeitet. Niemand weiß, was wo liegt — und niemand trägt die formale Verantwortung dafür, dass es liegt.

Diese Konstellation ist mittelfristig ein erhebliches Risiko. Datenschutz- Aufsichtsbehörden, Auditoren in Lieferanten-Beziehungen, Cyber-Versicherer und seit Februar 2026 auch der AI Act erwarten organisatorische Strukturen, die zeigen, dass KI nicht als ungeprüftes Werkzeug genutzt, sondern als Bestandteil der Unternehmens-Infrastruktur geführt wird. Wer KI 2026 strukturiert organisiert, behandelt sie wie E-Mail, Cloud-Systeme oder CRM — mit Richtlinie, Rollen, freigegebenen Systemen und dokumentierten Prüfprozessen.

Vier Phasen der KI-Governance-Einführung

Vom Richtlinien-Entwurf bis zum gelebten Unternehmensprozess

1. Richtlinie
Systeme & DatenRollen & VerboteVerantwortliche
Fundament
2. Vereinbarung
Pro MitarbeiterUnterschriftPersonalakte
Verbindlichkeit
3. Schulung
PraxisbeispieleRolle-spezifischAuffrischung
Kompetenz
4. Prozess
Freigaben & ReviewDokumentationAuditierbar
Routine

Wer eine Phase überspringt, hat eine Richtlinie auf dem Papier — aber keinen organisatorisch wirksamen KI-Rahmen

Warum KI organisatorisch geregelt werden muss

KI-Werkzeuge unterscheiden sich in einem Punkt grundlegend von früheren Software-Generationen: Sie verarbeiten freitexte Eingaben, deren Inhalt vom Mitarbeiter im Moment der Eingabe bestimmt wird. Wer eine Tabellen- Kalkulation oder ein CRM bedient, arbeitet in einem definierten Daten- Rahmen. Wer einen KI-Chatbot fragt, kann theoretisch jeden Inhalt aus dem Unternehmen hineingeben — vom Vertragsentwurf bis zur Kunden-Adressliste.

Diese Offenheit ist gleichzeitig der größte Produktivitäts-Hebel und das größte Risiko. Ohne Rahmen entsteht eine doppelte Konstellation: einige Mitarbeiter nutzen KI intensiv und bringen substanzielle Produktivitäts- Gewinne — übergeben dabei aber regelmäßig Daten, die das Unternehmen nicht freigeben würde. Andere Mitarbeiter nutzen sie gar nicht und verlieren den Anschluss. Die Geschäftsführung weiß weder, wer was nutzt, noch welche Daten wohin geflossen sind. Im Streitfall — Datenschutz- Aufsicht, Cyber-Vorfall, Kundenreklamation — gibt es keine belastbare Aussage über den eigenen Sachverhalt.

Seit dem Inkrafttreten des AI Act im August 2024 und der gestaffelten Anwendung seiner Pflichten — insbesondere der KI-Kompetenz-Pflicht nach Artikel 4 seit Februar 2026 — ist diese unstrukturierte Lage nicht mehr haltbar. Wer KI im Unternehmen einsetzt, muss organisatorisch nachweisen können, wie der Einsatz geregelt ist. Zur Frage, wie KI ohne Vertrauens- Verlust intern eingeführt wird, vertieft der Beitrag KI im Unternehmen einführen ohne Vertrauensverlust.

Häufige Fehlannahme:

„Solange unsere Mitarbeiter nichts Vertrauliches eingeben, brauchen wir keine Regelung." Diese Annahme ist nicht überprüfbar. Ohne Richtlinie und freigegebene Systeme entscheidet jeder Mitarbeiter in jeder einzelnen Eingabe selbst, was vertraulich ist — auf Basis einer Bewertung, die nirgends dokumentiert und nicht steuerbar ist. Das ist organisatorisch nicht trag- und im Streitfall nicht belegbar.

Das Fundament: die KI-Richtlinie

Die KI-Richtlinie ist das schriftliche Grundlagen-Dokument, auf das alle weiteren Bausteine verweisen. Sie legt fest, in welchem Rahmen KI im Unternehmen genutzt werden darf — präzise genug, dass jeder Mitarbeiter in der täglichen Praxis daraus eine konkrete Antwort ableiten kann.

Pflicht-Inhalte einer Richtlinie

  • Freigegebene Systeme: Welche KI-Dienste sind erlaubt — mit Tenant-Modus, Tarif und Verantwortlichem
  • Verbotene Daten: Welche Inhalte dürfen niemals in externe KI-Dienste eingegeben werden
  • Rollen und Berechtigungen: Welche Mitarbeitergruppe darf welche Systeme in welchem Umfang nutzen
  • Verantwortlichkeiten: Wer entscheidet über neue Systeme, wer prüft, wer dokumentiert
  • Review-Prozesse: Welche KI-Ergebnisse müssen von wem geprüft werden, bevor sie nach außen gehen
  • Umgang mit KI-generierten Inhalten: Kennzeichnung, urheberrechtliche Einordnung, Markenkonformität
  • Verbot privater Accounts: Dienstliche Nutzung von KI ausschließlich über Unternehmens-Konten
  • Sicherheits-Regeln: 2FA, kein Login über fremde Geräte, kein Teilen von Zugängen
  • Vorgehen bei Vorfällen: Wem ist ein versehentlicher Daten-Abfluss zu melden, in welcher Frist
  • Geltung und Aktualisierung: Stichtag, Versionierung, Überprüfungs-Rhythmus

Die Richtlinie ist kein juristisches Dokument für die Schublade, sondern ein operatives Regelwerk für den Arbeitsalltag. Sprache und Beispiele orientieren sich an den realen Aufgaben der Mitarbeiter, nicht an abstrakten Hochrisiko-Szenarien. Ein gutes Indiz für Praxistauglichkeit: ein Mitarbeiter aus Vertrieb oder Buchhaltung kann nach einmaligem Lesen ableiten, was er im konkreten Zweifelsfall tun darf.

Schriftliche Bestätigung durch jeden Mitarbeiter

Eine Richtlinie, die nur verteilt wird, ist in der Praxis nahezu wirkungslos. Wirksamkeit entsteht erst durch die schriftliche Bestätigung jedes einzelnen Mitarbeiters: Die Richtlinie wurde ausgehändigt, zur Kenntnis genommen, verstanden und akzeptiert. Diese Bestätigung wandert in die Personalakte und wird im Personal- System dokumentiert.

Der Hintergrund ist doppelt — arbeitsrechtlich und datenschutz- rechtlich. Arbeitsrechtlich ist die Bestätigung die Grundlage dafür, dass bei Verstößen abgemahnt und bei Wiederholung gekündigt werden kann. Ohne nachweisbare Kenntnis fehlt das Schuld-Element. Datenschutz- rechtlich ist sie der Nachweis gegenüber Aufsichtsbehörden, dass das Unternehmen seinen Organisations-Pflichten als Verantwortlicher im Sinne der DSGVO nachgekommen ist.

Was die Bestätigung enthalten sollte

  • Verweis auf die konkrete Richtlinien-Version: Mit Datum und Versionsnummer, damit später nachvollziehbar ist, welche Fassung unterschrieben wurde
  • Bestätigung der Kenntnisnahme und des Verständnisses: Explizit formuliert, nicht nur „erhalten"
  • Akzeptanz der Regeln und Sanktions-Hinweis: Bewusstsein über arbeitsrechtliche Folgen bei Verstößen
  • Hinweis auf Schulungs-Verpflichtung: Bestätigung der Teilnahme an der erforderlichen Schulung
  • Unterschrift und Datum: Papier mit Unterschrift oder qualifiziert elektronisch — keine einfache Lesebestätigung per E-Mail

Bei wesentlichen Änderungen der Richtlinie wird eine neue Bestätigung eingeholt — eine Versionsverwaltung in der Richtlinie selbst ist dafür Voraussetzung. Die Bestätigung wird bei Eintritt jedes neuen Mitarbeiters Teil des Onboarding-Prozesses.

Die schriftliche Bestätigung ist nicht Bürokratie, sondern Voraussetzung für Wirksamkeit

Bei jedem späteren Vorfall — Datenleck, Wettbewerbs-Verstoß, Urheberrechts-Anspruch, internes Fehlverhalten — ist die zentrale Frage, was der Mitarbeiter wusste, was er bestätigt hat und welche Schulung er erhalten hat. Ohne dokumentierte Bestätigung steht die Verantwortung beim Unternehmen, auch wenn der einzelne Mitarbeiter eigenmächtig gehandelt hat. Mit Bestätigung lässt sich der Sachverhalt sauber zuordnen.

Pflichtschulung mit Praxisbeispielen

Die KI-Kompetenz-Pflicht nach Artikel 4 AI Act ist seit Februar 2026 wirksam. Sie verlangt von jedem Unternehmen, das KI-Systeme einsetzt oder bereitstellt, ein ausreichendes Maß an KI-Kompetenz beim eingesetzten Personal — abgestuft nach Rolle, Vorkenntnissen und Einsatzkontext. Eine einmalige Pflichtveranstaltung erfüllt diese Anforderung nicht; verlangt ist eine dokumentierte, rollenspezifische und regelmäßig aufgefrischte Schulung.

Was die Schulung praktisch leisten muss

Wirksame Schulungen arbeiten mit konkreten Praxis-Fragen aus dem Arbeitsalltag, nicht mit abstrakter Regulierungs-Sprache. Bewährt haben sich kurze Module mit klar entscheidbaren Beispielen, die direkt aus den eigenen Bereichen kommen:

  • Darf eine Kundenliste hochgeladen werden, um eine Segmentierung vorschlagen zu lassen?
  • Dürfen eingegangene Rechnungen zur Plausibilitäts-Prüfung an einen externen KI-Dienst übergeben werden?
  • Darf interner Quellcode zur Optimierung in ein KI-Werkzeug eingegeben werden?
  • Dürfen Fotos von Kunden oder Veranstaltungen zur Analyse hochgeladen werden?
  • Dürfen interne Kalkulationen oder Preislisten zur Plausibilitäts-Prüfung übergeben werden?
  • Dürfen Bewerbungsunterlagen mit KI vorgesichtet werden?

Jede dieser Fragen hat in einer gut formulierten Richtlinie eine klare Antwort. Die Schulung übt die Verbindung zwischen Frage und Antwort und schafft das Bewusstsein für die Grenze, die ohne Schulung in jeder Eingabe neu — und meist großzügiger als beabsichtigt — gezogen wird.

Dokumentation und Auffrischung

Jede absolvierte Schulung wird mit Teilnehmer-Liste, Datum, Inhalt und Verantwortlichem dokumentiert. Eine Auffrischung pro Jahr oder bei wesentlichen System-Änderungen ist Standard. Bei besonders kritischen Rollen — etwa Entwicklung mit Zugang zu Geschäftslogik, Personal mit Bewerber-Daten — sind häufigere und tiefere Module sinnvoll.

Rollenmodell: wer darf was?

Ein pauschales „alle dürfen alles" überschätzt die Vorsicht der Mitarbeiter und ist organisatorisch nicht trag­fähig. Ein pauschales „niemand darf etwas" ist nicht durchsetzbar — die Mitarbeiter weichen dann auf private Accounts aus und das Unternehmen verliert vollständig die Kontrolle. Beide Extreme produzieren genau das Problem, das die Richtlinie lösen soll.

Tragfähig ist ein abgestuftes Modell, das die tatsächlichen Risiken pro Bereich abbildet. Die folgenden Stufen sind ein typischer Rahmen — anzupassen an Branche, Daten-Sensitivität und tatsächlichen Aufgabenzuschnitt:

  • Marketing und Content-Produktion: Erweiterter Zugang zu Schreib-, Bild- und Recherche-Werkzeugen — innerhalb der Marken- und Urheberrechts-Regeln
  • Grafik und Mediengestaltung: Erweiterter Zugang zu Bild-, Video- und Schnitt-Werkzeugen — mit Kennzeichnungs-Pflicht KI-generierter Werke nach AI Act Artikel 50
  • Vertrieb: Eingeschränkter Zugang — typischerweise ohne Eingabe von Kundenstammdaten und ohne automatisierte Kommunikation an Kunden
  • Buchhaltung und Finance: Stark eingeschränkter Zugang — keine Eingabe von Belegen, Kontoauszügen oder Geschäftspartner-Daten in externe Dienste
  • Personal: Stark eingeschränkter Zugang — keine Bewerber-Daten, keine Mitarbeiter-Beurteilungen, keine Gesundheitsdaten in externen KI-Systemen
  • Entwicklung: Spezielle Regeln — typischerweise erlaubt für allgemeinen Code, eingeschränkt für Geschäftslogik und Kunden-spezifische Module
  • Praktikanten, Aushilfen, externe Dienstleister: Stark begrenzter Zugang — typischerweise nur Lese-Funktionen und allgemeine Recherche

Das Rollenmodell wird in der Richtlinie hinterlegt und pro Person im Personal-System dokumentiert. Bei Aufgabenwechsel — Versetzung, Beförderung, Abteilungswechsel — wird die Rolle entsprechend angepasst. Eine pauschale Vergabe an alle „Mitarbeiter" ist organisatorisch schwächer als eine differenzierte Vergabe pro Person.

Freigegebene Systeme und das Shadow-KI-Problem

Welche KI-Werkzeuge konkret im Unternehmen genutzt werden dürfen, ist keine Detailfrage, sondern der zweite Pfeiler nach der Richtlinie. Ohne zentrale Freigabe-Liste entsteht „Shadow-KI" — eine Sammlung individuell gewählter, häufig privater Accounts auf wechselnden Plattformen, ohne organisatorische Sicht und ohne saubere Daten- Verarbeitungs-Grundlage.

Pflicht-Kriterien für Freigaben

  • Auftragsverarbeitungs-Vertrag mit ausgeschlossener Trainings-Verwendung: Bei jedem externen Dienst, dem personenbezogene Daten oder vertrauliche Inhalte übergeben werden können
  • Verarbeitungs-Standort im EU/EWR-Raum oder mit angemessenem Schutzniveau: Inklusive Prüfung der Drittlands-Transfer-Mechanismen
  • Geschäfts-Tenant statt Privat-Account: Mit zentraler Verwaltung, Audit-Log und Möglichkeit zum Zugriffs-Entzug
  • Trennung zwischen Konsumenten- und Geschäfts-Tarif: Konsumenten-Tarife enthalten häufig Trainings-Klauseln, die für Geschäftsnutzung nicht akzeptabel sind
  • Dokumentierte Verantwortlichkeit pro System: Eine benannte Person verantwortet Auswahl, Vertrag, Konfiguration und Re-Audit

Die Liste der freigegebenen Systeme wird im internen Wissens-Speicher hinterlegt und regelmäßig überprüft. Mitarbeiter, die ein zusätzliches System für eine konkrete Aufgabe benötigen, beantragen die Freigabe schriftlich beim Verantwortlichen — die Entscheidung wird dokumentiert, auch wenn sie negativ ausfällt.

Verbot privater Accounts

Die dienstliche Nutzung privater KI-Konten ist der häufigste Risiko- Treiber und gehört in jeder Richtlinie ausdrücklich verboten. Begründung: Über private Konten verliert das Unternehmen die Kontrolle über eingegebene Daten, die Dokumentation des Verarbeitungs-Vorgangs, die Möglichkeit zum Zugriffs-Entzug bei Mitarbeiter-Austritt und die vertragliche Grundlage gegenüber dem Anbieter. Was über private Konten läuft, läuft de facto vollständig außerhalb der Organisations-Struktur des Unternehmens. Wie bei einem Mitarbeiter-Austritt mit allen offenen Zugängen umzugehen ist, beschreibt der Beitrag zum Zugangs-Audit beim Mitarbeiter-Austritt.

Praxis-Tipp:

Der schnellste Weg, Shadow-KI sichtbar zu machen, ist eine kurze anonyme Umfrage im Unternehmen — „Welche KI-Werkzeuge nutzen Sie aktuell beruflich?" Die Ergebnisse sind in den meisten Fällen überraschend breit und bilden eine ehrliche Ausgangslage für die Richtlinien-Arbeit. Sanktionen vor der Richtlinien-Einführung sind kontraproduktiv — der Zeitpunkt für klare Regeln ist mit der Einführung der Richtlinie, nicht davor.

Human Review als verbindlicher Prüfprozess

KI-generierte Inhalte sind plausibel, aber nicht zwingend richtig. Sie produzieren sachliche Fehler, erfinden Quellen, übernehmen Stil- Konventionen aus dem Training, die nicht zur Markenstimme passen, und können urheberrechtlich problematische Formulierungen enthalten. Wer KI-Ergebnisse ungeprüft nach außen gibt, übernimmt die Verantwortung für diese Mängel.

Die Antwort ist ein schriftlich definierter Vier-Augen-Prozess: KI- generierte Inhalte gehen vor Versand, Veröffentlichung oder Übergabe an einen festgelegten Prüfer aus der jeweiligen Fachabteilung. Der Prüfer ist nicht der Verfasser, sondern eine zweite Person mit dem Auftrag, das Ergebnis gegen sachliche, rechtliche und markenseitige Kriterien zu prüfen.

Pflicht-Bereiche für Human Review

Kommunikation an Kunden und Geschäftspartner

E-Mails, Angebote, Rückfragen, Korrespondenz — sachliche und sprachliche Prüfung

Angebote und Verträge

Inhaltliche Prüfung gegen interne Vorlagen, rechtliche Eckpunkte, Markt-Konditionen

Blog-, Fach- und Marketing-Texte

Sachliche Belege bei Faktenbehauptungen, Markenstimmen-Konformität, Urheberrechts-Risiken

Programmierung und automatisierte Prozesse

Code-Review vor Übernahme in produktive Systeme, besonders bei Geschäftslogik und Schnittstellen

Bewerber- und Personal-Vorgänge

Vier-Augen-Prinzip bei jeder personenbezogenen KI-Auswertung, plus Hinweis auf den KI-Einsatz

Wer prüft, wer freigibt und wer im Ergebnis verantwortet, wird pro Bereich schriftlich festgelegt — nicht als Gewohnheit, sondern als dokumentierter Prozess. Auch die Markenstimme selbst ist ein Prüfpunkt: KI-generierte Texte tendieren ohne Steuerung zu einer generischen Sprache, wie der Beitrag zu Markenstimme im KI-Zeitalter ausführt.

KI als Unternehmensprozess, nicht als Tool

Der eigentliche Schritt vom unkontrollierten Werkzeug-Einsatz zur professionellen KI-Nutzung ist nicht die Richtlinie allein, sondern die Behandlung der KI als Bestandteil der Unternehmens-Infrastruktur. KI wird nicht „auch noch genutzt", sondern als geplanter Baustein geführt — mit den gleichen Maßstäben wie E-Mail, Cloud-Speicher, CRM oder Buchhaltungs-System.

Was diese Behandlung konkret bedeutet

  • Definierte Prozesse: Wann wird KI eingesetzt, wann nicht — pro Aufgabe und pro Bereich
  • Definierte Verantwortung: Eine benannte Person verantwortet KI-Governance auf Geschäftsführungs- oder Bereichs-Ebene
  • Definierte Systeme: Welche KI-Werkzeuge sind Bestandteil des freigegebenen Stacks, welche nicht
  • Definierte Regeln: Was darf, was muss, was ist verboten — auch in Grenzfällen
  • Definierte Dokumentation: Verarbeitungs-Verzeichnisse, Schulungs-Nachweise, Vorfalls-Dokumentation
  • Definierte Re-Audits: Mindestens jährliche Überprüfung der Systeme, Verträge und Rollen

Die Geschäftsführung trägt die Gesamt-Verantwortung. Sie kann sie operativ delegieren — typischerweise an einen KI-Verantwortlichen oder eine kleine Arbeitsgruppe aus IT, Datenschutz und Fach-Bereich — behält aber die Letztverantwortung. Die KI-Governance gehört auf die regelmäßige Tagesordnung, nicht in eine einmalige Projekt-Phase.

Genau an dieser Stelle wird sich künftig der professionell aufgestellte Mittelstand von Unternehmen unterscheiden, in denen KI weiter als individueller Werkzeug-Einsatz läuft. Wer den Übergang strukturiert vollzieht, baut eine belastbare organisatorische Grundlage für die kommenden Jahre — in denen sich sowohl die KI-Werkzeuge selbst als auch die regulatorischen Rahmenbedingungen weiter erheblich verändern werden.

Die fünf häufigsten Versäumnisse bei der KI-Organisation

Bei der Auseinandersetzung mit KI-Governance-Vorhaben im Mittelstand zeigen sich wiederkehrende Muster — branchenübergreifend und unabhängig von der Unternehmensgröße.

1
Richtlinie wird nur verteilt, nicht bestätigt

Ohne unterschriebene Kenntnisnahme keine arbeitsrechtliche Durchsetzbarkeit

2
Private KI-Accounts werden geduldet

Daten-Abfluss läuft außerhalb der Organisation, ohne Sicht und ohne Vertrag

3
Schulung als einmalige Pflichtveranstaltung

Erfüllt die Kompetenz-Pflicht nach AI Act Artikel 4 nicht

4
Kein Vier-Augen-Prozess für nach-außen-Inhalte

KI-Ergebnisse gehen ungeprüft zu Kunden, Partnern oder ins Marketing

5
Keine benannte KI-Verantwortlichkeit

„Alle und niemand" verantwortet — keine Eskalations- und keine Re-Audit-Routine

Punkte 1 bis 3 sind die typischen Versäumnisse mit organisatorischer und regulatorischer Tragweite — sie betreffen Verbindlichkeit, Kontrolle und Kompetenz-Pflicht.

Häufig gestellte Fragen

Der Unterschied entsteht in der Ordnung, nicht im Werkzeug

KI im Unternehmen sinnvoll zu nutzen, hängt 2026 weniger davon ab, welches Werkzeug konkret eingesetzt wird, als davon, in welchem organisatorischen Rahmen es eingesetzt wird. Die Werkzeuge selbst werden sich in den nächsten Jahren mehrfach verändern — die organis- atorische Grundlage trägt unabhängig davon.

Wer Richtlinie, Vereinbarung, Schulung, Rollenmodell, Freigabe-Liste und Review-Prozesse in dieser Reihenfolge aufbaut, hat nach wenigen Monaten einen belastbaren Rahmen — und kann sich anschließend auf die eigentlichen Produktivitäts-Fragen konzentrieren. Wie ein DSGVO-konformer KI-Chatbot architektonisch umgesetzt wird, wenn er Teil dieses Rahmens werden soll, beschreibt der Beitrag zum DSGVO-konformen KI-Chatbot.

ÜBER DIE AUTORIN
Dagmar Seebo, Geschäftsführerin von ProXWorks®Dagmar Seebo

Dagmar Seebo, B.A., ist seit 1999 im E-Commerce tätig. Als Geschäftsführerin von ProXWorks® verbindet sie über 27 Jahre Marketing-Erfahrung mit digitalem Know-how.

Die Inhalte entstehen unter redaktioneller Verantwortung und fachlicher Prüfung unter Einsatz moderner KI-gestützter Systeme.

Antwort in 2 Werktagen

Wir prüfen in 2 Werktagen, wie die KI-Nutzung in Ihrem Unternehmen heute aussieht — und nennen die fünf Stellen, an denen ohne Richtlinie unkontrolliert Daten abfließen.

KI-Nutzungs-Audit anfragen