Ein bekannter Fall
Im Frühjahr 2023 wurde bekannt, dass Beschäftigte von Samsung vertraulichen Quellcode und interne Besprechungsinhalte in ChatGPT eingegeben hatten, um Fehler zu finden und Protokolle zu erstellen. Samsung schränkte die Nutzung generativer KI daraufhin intern stark ein.
Der Fall ist typisch: Niemand wollte Daten preisgeben. Die Beschäftigten wollten ihre Arbeit gut machen und hatten kein freigegebenes Werkzeug mit klaren Regeln.
Die häufigsten Abflusswege
| Weg | Was passiert | Typisches Beispiel |
|---|---|---|
| Private Accounts | Daten landen bei einem Anbieter ohne Vertrag, möglicherweise im Training | Kundenbeschwerde zur Antwortformulierung in den privaten Chatbot kopiert |
| Hochgeladene Dokumente | Ganze Dateien statt einzelner Absätze werden verarbeitet | Vollständiger Vertrag zur Zusammenfassung hochgeladen |
| Browser-Erweiterungen | Erweiterungen lesen Inhalte aller besuchten Seiten mit, auch interner Systeme | KI-Schreibhilfe liest im Ticketsystem und im Webmail mit |
| Verbindungen zu Cloud-Speichern | KI-Tool erhält Zugriff auf Ordner, Postfach oder Kalender | Persönliche Verbindung des Chatbots mit dem Firmen-Drive |
| Geteilte Links | Unterhaltungen oder selbst gebaute Assistenten werden per Link geteilt | Link zu einem Chat mit internen Zahlen im Kundenticket |
| Logs und Konfigurationen | Bei der Fehlersuche werden Zugangsdaten mitkopiert | Konfigurationsdatei mit API-Schlüssel zur Analyse eingefügt |
Warum sich Daten schwer zurückholen lassen
Was in einem Chat eingegeben wurde, lässt sich meist löschen. Ob und wann die Daten auch beim Anbieter gelöscht werden, hängt von dessen Speicherfristen ab. Wurden sie für das Training genutzt, sind sie Teil des Modells und lassen sich nicht gezielt entfernen.
Hinzu kommt: Zugangsdaten, die einmal in einem fremden System gelandet sind, gelten als kompromittiert. Sie müssen sofort geändert werden, unabhängig davon, ob ein Missbrauch erkennbar ist.
Technische Gegenmaßnahmen
- Freigegebene KI-Werkzeuge mit Vertrag zur Auftragsverarbeitung und abgeschaltetem Training bereitstellen
- Anmeldung nur mit Firmenkonto und Single Sign-on
- Browser-Erweiterungen zentral verwalten und nur freigegebene zulassen
- Zustimmung zu Drittanbieter-Apps in Microsoft 365 oder Google Workspace auf Administratoren beschränken
- Data Loss Prevention für sensible Datentypen wie Kreditkartennummern, Ausweisdaten oder Schlüssel einsetzen
- Aufrufe nicht freigegebener KI-Dienste im Proxy sichtbar machen und bei Bedarf blockieren
Organisatorische Gegenmaßnahmen
- Datenklassen-Ampel, die jede Person in einer Minute versteht
- Kurze Schulung mit echten Beispielen aus dem eigenen Arbeitsalltag
- Meldeweg für versehentliche Eingaben, ohne Sanktionen für ehrliche Meldungen
- Regel, Dokumente vor dem Hochladen auf das Nötige zu kürzen
- Regelmäßige Prüfung geteilter Links und Assistenten
Wenn es passiert ist
- Eingabe im Tool löschen und den Chat-Verlauf entfernen
- Betroffene Zugangsdaten sofort ändern oder sperren
- Informationssicherheit und Datenschutz informieren
- Prüfen, ob personenbezogene Daten betroffen sind und eine Meldung nach Art. 33 DSGVO binnen 72 Stunden nötig ist
- Ursache klären: Fehlte ein freigegebenes Tool oder eine Regel?