Transparenzpflichten
🖱️ Interaktiv: Ziehen zum Drehen · Lektion 4
Lernziele
Nach dieser Lektion kannst du:
- KI-generierte Inhalte korrekt kennzeichnen
- Die Anforderungen an Human Oversight umsetzen
- Ein AI-Inventory für dein Unternehmen erstellen
- Die Dokumentationspflichten als Betreiber von KI-Systemen einhalten
Kennzeichnungspflichten
Der EU AI Act verpflichtet Betreiber von KI-Systemen zur Transparenz gegenüber:
- Mitarbeitern: Einsatz von KI am Arbeitsplatz muss kommuniziert werden
- Kunden: Interaktion mit einem KI-System (Chatbot) muss erkennbar sein
- Öffentlichkeit: KI-generierte Inhalte (Texte, Bilder, Videos) müssen gekennzeichnet sein
💡 Praktische Kennzeichnung
• Chatbot: „Ich bin ein KI-Assistent" zu Beginn des Gesprächs • KI-generierte Texte: Hinweis „Dieser Text wurde mit KI-Unterstützung erstellt" • KI-Bilder: Wasserzeichen oder Metadaten „KI-generiert" • KI-Entscheidungen: „Diese Entscheidung wurde automatisiert getroffen"
Kennzeichnung von KI-generierten Inhalten
Die Kennzeichnung muss:
- Klar und gut sichtbar sein (nicht im Kleingedruckten)
- Zum Zeitpunkt der Interaktion erfolgen
- Für den Empfänger verständlich sein (kein Fachjargon)
- Nicht irreführend sein
Human Oversight
Human Oversight bedeutet, dass ein Mensch die Kontrolle über KI-Systeme behält. Dies ist bei Hochrisiko-Systemen gesetzlich vorgeschrieben, aber auch bei risikoarmen Systemen dringend empfohlen.
Formen des Human Oversight
- Human-in-the-Loop (HITL): Der Mensch muss jede KI-Entscheidung bestätigen
- Human-on-the-Loop (HOTL): Der Mensch überwacht das System und greift bei Bedarf ein
- Human-in-Command (HIC): Der Mensch trifft strategische Entscheidungen über den KI-Einsatz
📝 Schnellprüfung
Was bedeutet 'Human-on-the-Loop'?
AI-Inventory — Der KI-Kataster
Ein AI-Inventory ist die systematische Erfassung aller KI-Systeme in deinem Unternehmen. Die EU-Kommission empfiehlt dies als erste Maßnahme zur Erfüllung von Art. 4.
Was gehört ins AI-Inventory?
| Feld | Beschreibung | Beispiel |
|---|---|---|
| Name | Bezeichnung des KI-Tools | ChatGPT Enterprise |
| Typ | LLM, Bildgenerierung, etc. | Sprachmodell |
| Hersteller | Anbieter des Systems | OpenAI |
| Risikoklasse | Nach EU AI Act | Minimales Risiko |
| Einsatzbereich | Wofür genutzt | Textentwürfe |
| Verantwortlicher | Wer ist zuständig | Abteilungsleiter |
🏢 Praxis-Szenario: Aufbau eines AI-Inventory
Eine Marketing-Agentur mit 50 Mitarbeitern nutzt: ChatGPT für Texte, Midjourney für Bilder, Copilot für Code, einen KI-basierten Übersetzer, und ein KI-Tool zur Kundenanalyse. Eine Mitarbeiterin nutzt auf eigene Faust ein weiteres KI-Tool (Shadow AI). Wie gehst du vor?
Dokumentationspflichten
Als Betreiber eines KI-Systems musst du dokumentieren:
- Welche KI-Systeme werden eingesetzt?
- Für welche Zwecke werden sie eingesetzt?
- Welche Daten werden verwendet?
- Wie wird die Qualität sichergestellt?
- Welche Human Oversight Maßnahmen gibt es?
- Welche Schulungen wurden durchgeführt?
Die Dokumentation muss im Falle einer Prüfung durch die Aufsichtsbehörde vorgelegt werden können.
💡 Tipp: Dokumentation als Prozess
Die Dokumentation sollte nicht als einmalige Aufgabe, sondern als kontinuierlicher Prozess angelegt werden. Führe ein lebendes Dokument, das du regelmäßig aktualisierst — nicht ein PDF, das veraltet und vergessen wird.
✅ Wichtige Erkenntnisse
Haken setzen, um deinen Lernfortschritt zu markieren:
→ Vertiefung: Datenschutz & DSGVO — Datenschutz-Folgenabschätzung und AVV · KI-Tools im Arbeitsalltag — Shadow AI und praktische Umsetzung
Weiterführende Inhalte
Relevante Rechtsgrundlagen: Art. 13 · Art. 14 · Art. 50 · Art. 52