Erlaubte & verbotene Nutzung
🖱️ Interaktiv: Ziehen zum Drehen · Lektion 3
Lernziele
Nach dieser Lektion kannst du:
- Die verbotenen KI-Praktiken nach Art. 5 EU AI Act nennen
- Beispiele für erlaubte, aber regulierte KI-Nutzung erkennen
- Deepfakes und synthetische Inhalte korrekt kennzeichnen
- Ausnahmen von Verboten in der Strafverfolgung verstehen
Verbotene KI-Praktiken (Art. 5)
Der EU AI Act verbietet folgende KI-Praktiken — unabhängig davon, wer sie einsetzt:
1. Social Scoring (Soziales Bewertungssystem)
Die Bewertung von Personen durch Behörden anhand ihres Verhaltens oder ihrer Persönlichkeitsmerkmale über einen bestimmten Zeitraum, wenn dies zu ungerechtfertigter oder unverhältnismäßiger Behandlung führt.
2. Manipulative KI-Systeme
Systeme, die Subliminal-Techniken oder gezielte Manipulation einsetzen, um das Verhalten von Personen zu beeinflussen — insbesondere wenn dadurch ein erheblicher Schaden entstehen kann.
3. Ausnutzung von Schwachstellen
Systeme, die Schwachstellen von Personen aufgrund von Alter, Behinderung oder wirtschaftlicher Notlage ausnutzen, um ihr Verhalten zu manipulieren.
4. Echtzeit-Biometrie im öffentlichen Raum
Die Erfassung und Analyse biometrischer Daten in Echtzeit durch Strafverfolgungsbehörden im öffentlichen Raum — mit sehr engen Ausnahmen.
💡 Nicht alles ist verboten — aber vieles ist reguliert
• Verboten sind wirklich nur die Extremfälle • Die meisten KI-Anwendungen sind erlaubt, aber reguliert • Hochrisiko-Systeme sind nicht verboten, sondern unterliegen strengen Auflagen • Das Hauptrisiko für Unternehmen liegt in Fahrlässigkeit, nicht im Verbot
Erlaubte Nutzung mit Auflagen
Emotionserkennung
Seit August 2026 ist die Emotionserkennung an Arbeitsplätzen verboten. In anderen Kontexten ist sie unter strengen Auflagen möglich:
- Informierte Einwilligung der betroffenen Person
- Dokumentation der Funktionsweise und Genauigkeit
- Regelmäßige Überprüfung auf Bias
Biometrische Kategorisierung
Die Kategorisierung von Personen nach Geschlecht, Rasse oder ethnischer Herkunft ist grundsätzlich verboten. Ausnahmen gelten nur für spezifische, gesetzlich definierte Zwecke.
📝 Schnellprüfung
Darf ein Unternehmen KI-gestützte Emotionserkennung bei Mitarbeitern einsetzen?
Deepfakes und synthetische Inhalte
Die Erstellung von Deepfakes (KI-generierte Bild-, Video- oder Audio-Inhalte, die echte Personen imitieren) ist nicht grundsätzlich verboten, unterliegt aber strengen Kennzeichnungspflichten:
- Transparenz: Deepfakes müssen klar als KI-generiert gekennzeichnet werden
- Ausnahmen: Satire, Parodie, künstlerische Werke (wenn keine Täuschungsabsicht)
- Verboten: Deepfakes, die zu Straftaten aufrufen oder Wahlen manipulieren
🏢 Praxis-Szenario: Deepfake im Marketing
Eine Marketing-Abteilung erstellt ein KI-generiertes Video, in dem der CEO Produktneuigkeiten präsentiert. Das Video sieht täuschend echt aus. Einige Kunden glauben, der CEO habe das Video tatsächlich aufgenommen. Wie ist das einzuordnen?
Strafverfolgung und nationale Sicherheit
Der EU AI Act erlaubt enge Ausnahmen für Strafverfolgungsbehörden:
- Verfolgung schwerer Straftaten wie Terrorismus oder Menschenhandel
- Verhinderung unmittelbarer Gefahren für Leib und Leben
- Richtliche Genehmigung erforderlich
- Zeitliche Begrenzung auf 48 Stunden (Echtzeit-Biometrie)
💡 Relevanz für Unternehmen
Die meisten Verbote betreffen Behörden oder spezifische Anwendungsszenarien. Für den typischen Unternehmenseinsatz (ChatGPT, Copilot, Bildgenerierung) sind weniger die Verbote als die Transparenz- und Dokumentationspflichten relevant.
✅ Wichtige Erkenntnisse
Haken setzen, um deinen Lernfortschritt zu markieren:
→ Vertiefung: EU AI Act & Risikoklassen — die Risikoklassen im Überblick · Transparenzpflichten — Kennzeichnungspflichten für Deepfakes
Weiterführende Inhalte
Relevante Rechtsgrundlagen: Art. 5