Was sind KI-Agenten?
KI-Agenten sind KI-Systeme, die ein vorgegebenes Ziel eigenständig in mehreren Schritten verfolgen. Sie planen ihr Vorgehen, nutzen dafür Werkzeuge wie Websuche, E-Mail, Kalender oder Programmierumgebungen und prüfen Zwischenergebnisse, bevor sie den nächsten Schritt ausführen. Bekannte Beispiele sind die Agentenmodi von ChatGPT, Microsoft Copilot, Claude oder Mistral Vibe sowie Browser-Agenten, die selbstständig Webseiten bedienen.
Was einen Agenten ausmacht
Ein KI-Agent erhält ein Ziel statt einer einzelnen Frage, etwa "Bereite die Unterlagen für das Kundengespräch morgen vor". Er plant die Schritte selbst, sucht in E-Mails und Dateien, ruft Webseiten auf und erstellt ein Ergebnis. Dafür braucht er Zugriffe auf Systeme und oft auch die Möglichkeit, dort etwas zu verändern.
Die neuen Risiken
| Risiko | Beispiel |
|---|---|
| Zu weite Rechte | Agent mit Vollzugriff auf das Postfach löscht oder versendet E-Mails |
| Prompt Injection | Eine besuchte Webseite enthält versteckte Anweisungen, die der Agent ausführt |
| Fehlhandlungen | Agent missversteht das Ziel und bucht, bestellt oder ändert etwas Falsches |
| Datenabfluss | Agent überträgt interne Daten an externe Dienste, die er im Auftrag nutzt |
| Fehlende Nachvollziehbarkeit | Niemand kann später sagen, welche Aktion der Agent warum ausgeführt hat |
| Geteilte Zugangsdaten | Agent nutzt das persönliche Konto eines Mitarbeitenden mit dessen vollen Rechten |
Regeln für den sicheren Einsatz
- Eigene Identität: Agenten mit eigenem Konto statt mit den Zugangsdaten eines Menschen betreiben
- Minimale Rechte: Nur die Systeme und Aktionen freigeben, die für die Aufgabe nötig sind
- Freigabe vor Außenwirkung: Senden, Bezahlen, Löschen, Veröffentlichen erst nach Bestätigung durch einen Menschen
- Protokollierung: Jede Aktion mit Zeit, Anlass und Ergebnis aufzeichnen
- Begrenzung: Budgets, Mengenlimits und Zeitfenster festlegen
- Notaus: Agenten jederzeit stoppen und Rechte sofort entziehen können
- Testphase: Neue Agenten zunächst nur lesend oder in einer Testumgebung einsetzen
Agenten auf privaten Rechnern und in Browsern
Viele Agenten laufen als Browser-Erweiterung oder Desktop-Anwendung und arbeiten mit den Rechten der angemeldeten Person. Damit haben sie Zugriff auf alles, was diese Person im Browser oder auf dem Rechner erreicht, auch auf interne Anwendungen. Solche Werkzeuge sollten nur nach Freigabe installiert werden und gehören in die Bestandsaufnahme zur Schatten-KI.