Wer was kennzeichnen muss
| Fall | Wer ist verpflichtet | Was ist zu tun |
|---|---|---|
| KI interagiert mit Menschen, z. B. Chatbot | Anbieter des Systems | Personen informieren, dass sie mit einer KI interagieren, sofern nicht offensichtlich |
| Generative KI erzeugt Texte, Bilder, Audio oder Video | Anbieter des Systems | Ergebnisse maschinenlesbar als künstlich erzeugt markieren |
| Deepfakes werden veröffentlicht | Betreiber, also das nutzende Unternehmen | Offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde |
| KI-Texte zu Themen von öffentlichem Interesse | Betreiber | Offenlegen, außer bei menschlicher Prüfung und redaktioneller Verantwortung |
| Emotionserkennung oder biometrische Kategorisierung | Betreiber | Betroffene Personen informieren |
Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen anbietet. Betreiber ist, wer es in eigener Verantwortung einsetzt. Wer einen Chatbot auf Basis eines fremden Sprachmodells unter eigenem Namen auf die Website stellt, kann selbst als Anbieter gelten.
Chatbots auf der eigenen Website
Der häufigste Fall in Unternehmen ist der Kundenservice-Chatbot. Hier muss für Nutzende klar sein, dass sie nicht mit einem Menschen schreiben. Die Information muss spätestens zu Beginn der Interaktion erfolgen und gut wahrnehmbar sein.
- Hinweis direkt im Chatfenster, nicht nur in der Datenschutzerklärung
- Klare Formulierung, etwa: "Sie chatten mit einem KI-Assistenten. Auf Wunsch verbinden wir Sie mit unserem Team."
- Kein menschlicher Vorname oder Avatar, der den Eindruck einer echten Person verstärkt, ohne gleichzeitigen KI-Hinweis
- Möglichkeit, an einen Menschen weitergeleitet zu werden, ist nicht vorgeschrieben, aber empfehlenswert
Deepfakes und KI-Bilder im Marketing
Als Deepfake gelten KI-erzeugte oder veränderte Bild-, Audio- oder Videoinhalte, die realen Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich echt wirken würden. Wer solche Inhalte veröffentlicht, muss sie kennzeichnen.
- Ein KI-generiertes Werbevideo mit einer realistisch wirkenden Person: kennzeichnen
- Eine synthetische Stimme, die wie ein bekannter Sprecher klingt: kennzeichnen
- Eine erkennbar illustrierte oder stilisierte Grafik: in der Regel kein Deepfake
- Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt eine Offenlegung, die die Darstellung nicht beeinträchtigt
Unabhängig vom AI Act können Persönlichkeitsrechte, Wettbewerbsrecht und Plattformregeln eine Kennzeichnung verlangen.
Was nicht gekennzeichnet werden muss
- Interne Texte, E-Mails oder Angebote, die mit KI-Unterstützung entstanden sind
- KI-unterstützte Texte, die vor der Veröffentlichung von Menschen geprüft und verantwortet werden
- Bloße Rechtschreib- und Stilkorrekturen durch KI
- Übersetzungen, die inhaltlich nichts verändern
Eine freiwillige Kennzeichnung kann trotzdem sinnvoll sein, etwa um Vertrauen bei Kunden zu schaffen.
Folgen bei Verstößen
Verstöße gegen die Transparenzpflichten können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, für kleine und mittlere Unternehmen gilt der niedrigere Wert. Zuständig für die Aufsicht in Deutschland ist die Bundesnetzagentur.