Nachschlagen

Glossar: KI, Datenschutz und Sicherheit

Die wichtigsten Begriffe kurz und verständlich erklärt, mit Verweisen auf vertiefende Beiträge.

AI Act: Europäische Verordnung über künstliche Intelligenz. Sie regelt KI-Systeme nach ihrem Risiko und verteilt Pflichten auf Anbieter und Betreiber. Mehr dazu
Anbieter (AI Act): Wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt. Anbieter tragen die umfangreichsten Pflichten. Mehr dazu
Auftragsverarbeitung: Verarbeitung personenbezogener Daten durch einen Dienstleister im Auftrag des Unternehmens. Erfordert einen Vertrag nach Art. 28 DSGVO. Mehr dazu
Betreiber (AI Act): Wer ein KI-System in eigener Verantwortung beruflich einsetzt. Die meisten Unternehmen sind Betreiber. Mehr dazu
Datenschutz-Folgenabschätzung: Vorab-Prüfung nach Art. 35 DSGVO für Verarbeitungen mit voraussichtlich hohem Risiko für Betroffene. Mehr dazu
Deepfake: Mit KI erzeugte oder veränderte Bild-, Audio- oder Videoinhalte, die echte Personen täuschend echt nachahmen. Mehr dazu
Generative KI: KI-Systeme, die neue Inhalte wie Texte, Bilder, Audio oder Code erzeugen.
Halluzination: Plausibel klingende, aber falsche Ausgabe eines Sprachmodells, etwa erfundene Quellen oder Zahlen. Mehr dazu
Hochrisiko-KI-System: KI-System in einem besonders sensiblen Bereich wie Personalauswahl oder Kreditprüfung, für das strenge Anforderungen gelten. Mehr dazu
KI-Agent: KI-System, das Aufgaben eigenständig in mehreren Schritten ausführt und dabei Werkzeuge oder Schnittstellen nutzt. Mehr dazu
KI-Kompetenz: Fähigkeiten und Kenntnisse, um KI-Systeme sachkundig einzusetzen und ihre Risiken zu erkennen. Unternehmen müssen nach Art. 4 AI Act Maßnahmen ergreifen, die ihren Aufbau unterstützen. Mehr dazu
KI-Richtlinie: Interne Regelung, welche KI-Tools wofür und mit welchen Daten genutzt werden dürfen. Mehr dazu
Large Language Model (LLM): Großes Sprachmodell, das auf riesigen Textmengen trainiert wurde und Text vorhersagt. Grundlage von Chatbots.
Prompt: Eingabe oder Anweisung an ein KI-System.
Prompt Injection: Angriff, bei dem einer KI über manipulierte Inhalte versteckte Anweisungen untergeschoben werden. Mehr dazu
Schatten-KI: Nutzung von KI-Diensten ohne Wissen oder Freigabe des Unternehmens. Mehr dazu
Training mit Eingaben: Verwendung von Nutzereingaben durch den Anbieter, um KI-Modelle weiterzuentwickeln. Bei vielen Diensten abschaltbar. Mehr dazu