Was Schatten-KI ist

Schatten-KI, im Englischen Shadow AI, ist die Weiterentwicklung der bekannten Schatten-IT. Gemeint sind alle KI-Anwendungen, die im Arbeitsalltag eingesetzt werden, ohne dass das Unternehmen sie geprüft und freigegeben hat.

  • Private Accounts bei ChatGPT, Gemini, Claude oder anderen Chat-Diensten für dienstliche Aufgaben
  • Browser-Erweiterungen, die Webseiten, E-Mails oder Formulare mitlesen
  • Meeting-Bots, die sich in Videokonferenzen einwählen und Gespräche transkribieren
  • Übersetzungs-, Text- und Präsentationstools in der kostenlosen Variante
  • KI-Funktionen, die in bereits genutzte Software neu eingebaut und automatisch aktiviert wurden
  • KI-Agenten mit Zugriff auf Postfach, Kalender oder Cloud-Speicher

Warum Schatten-KI entsteht

In fast jedem Fall steckt dasselbe Muster dahinter: Der Nutzen ist sofort spürbar, das Risiko ist unsichtbar, und der offizielle Weg ist langsam oder existiert gar nicht.

  • Es gibt kein freigegebenes KI-Werkzeug oder nur für wenige Abteilungen
  • Der Freigabeprozess dauert Wochen, die Aufgabe ist morgen fällig
  • Niemand hat erklärt, was erlaubt ist und was nicht
  • Das private Tool ist besser oder bequemer als die Firmenlösung

Die konkreten Risiken

Das Risiko hängt weniger vom Tool ab als von den Daten und den Rechten, die es bekommt.

  • Datenabfluss: Kundendaten, Verträge oder Quellcode landen bei Anbietern ohne Vertrag und werden möglicherweise zum Training genutzt
  • DSGVO-Verstoß: Verarbeitung personenbezogener Daten ohne Auftragsverarbeitungsvertrag und ohne Rechtsgrundlage
  • Weitreichende Zugriffsrechte: Browser-Erweiterungen und Agenten können oft alle Seiten lesen, auf denen sie aktiv sind, inklusive interner Systeme
  • Meeting-Bots: Vertrauliche Besprechungen werden aufgezeichnet und bei unbekannten Anbietern gespeichert, teilweise ohne Wissen aller Teilnehmenden
  • Qualität und Haftung: Ungeprüfte KI-Ergebnisse fließen in Angebote, Verträge oder Kundenkommunikation ein
  • Kontrollverlust: Im Vorfall weiß niemand, welche Daten wo liegen und wer sie löschen kann

Schatten-KI erkennen

Bevor ein Unternehmen Schatten-KI regeln kann, muss es sie sehen. Dafür reichen meist Werkzeuge, die ohnehin vorhanden sind. Wichtig ist, die Ergebnisse für die Bestandsaufnahme zu nutzen und nicht für die Suche nach Schuldigen.

  • Proxy- und DNS-Protokolle auf Aufrufe bekannter KI-Dienste auswerten
  • Installierte Browser-Erweiterungen inventarisieren, zentral über die Geräteverwaltung
  • In Microsoft 365 oder Google Workspace prüfen, welchen Drittanbieter-Apps Nutzer Zugriff auf Postfach, Kalender oder Dateien erteilt haben
  • Teilnehmerlisten von Videokonferenzen auf Transkriptions-Bots prüfen
  • Eine anonyme Kurzumfrage durchführen: Welche KI-Tools nutzt ihr und wofür?

Die Umfrage liefert oft die ehrlichsten Ergebnisse, wenn vorher klar kommuniziert wird, dass es keine Sanktionen gibt.

Fünf Schritte vom Wildwuchs zur geregelten Nutzung

  1. Bestandsaufnahme: Welche Tools werden genutzt, von wem, mit welchen Daten?
  2. Freigegebene Alternative schaffen: Mindestens ein KI-Werkzeug mit Vertrag zur Auftragsverarbeitung für alle bereitstellen
  3. Kurze Richtlinie veröffentlichen: Eine Seite mit Datenklassen-Ampel, freigegebenen Tools und Ansprechpartner
  4. Schulen: Die Pflicht zur Förderung der KI-Kompetenz nach Art. 4 AI Act gilt ohnehin, Schatten-KI ist ein ideales Praxisbeispiel
  5. Schnellen Freigabeprozess einrichten: Neue Tools in Tagen statt Monaten prüfen, sonst entsteht die nächste Schatten-KI