EU AI Act & Risikoklassen
🖱️ Interaktiv: Ziehen zum Drehen · Lektion 2
Lernziele
Nach dieser Lektion kannst du:
- Die vier Risikoklassen des EU AI Act benennen und unterscheiden
- Beispiele für verbotene, hochriskante und risikoarme KI-Systeme nennen
- Deine Rolle als Anbieter (Provider) oder Betreiber (Deployer) bestimmen
- Die Konsequenzen von Verstößen gegen den EU AI Act einschätzen
Der EU AI Act im Überblick
Der EU AI Act (Verordnung (EU) 2024/1689) ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Er trat am 2. Februar 2025 in Kraft und wird schrittweise umgesetzt.
Ziel: KI-Systeme sollen sicher, transparent und rechtskonform sein, ohne Innovation unnötig zu behindern.
💡 Wichtige Fristen
• 2. Februar 2025 — Inkrafttreten, Art. 4 KI-Kompetenz ist geltendes Recht • 3. August 2026 — Durchsetzungsbefugnisse für nationale Behörden • 2. Februar 2025 — Verbotene KI-Praktiken (Art. 5) treten in Kraft • Dezember 2027 — Hochrisiko-Pflichten (verschoben durch Digital Omnibus)
Die vier Risikoklassen
Der EU AI Act verfolgt einen risikobasierten Ansatz:
1. Verboten (Unacceptable Risk)
Systeme, die gegen EU-Grundrechte verstoßen:
- Social Scoring durch Behörden
- Manipulative KI-Systeme (Subliminal-Techniken)
- Echtzeit-Biometrie im öffentlichen Raum (mit engen Ausnahmen)
- Emotionserkennung an Arbeitsplätzen
2. Hochrisiko (High Risk)
Systeme mit erheblichen Auswirkungen auf Sicherheit oder Rechte:
- KI in kritischer Infrastruktur
- Medizinprodukte mit KI
- Biometrische Identifikationssysteme
- KI im Recruiting, Kreditwürdigkeit, Grenzkontrolle
- KI im Strafverfolgungskontext
3. Begrenztes Risiko (Limited Risk)
Systeme mit Transparenzpflichten:
- Chatbots (muss als KI gekennzeichnet sein)
- Deepfakes und synthetische Inhalte (Kennzeichnungspflicht)
4. Minimales Risiko (Minimal Risk)
Alle anderen KI-Systeme, die keine spezifischen Pflichten auslösen:
- KI-basierte Spiele
- Spam-Filter
- Produktempfehlungen
📝 Schnellprüfung
In welche Risikoklasse fällt eine KI zur Vorauswahl von Bewerbungen?
Anbieter vs. Betreiber — Deine Rolle
Anbieter (Provider): Entwickelt oder importiert ein KI-System in den EU-Markt Betreiber (Deployer): Setzt ein KI-System in der eigenen Organisation ein
Die meisten Unternehmen in der EU sind Betreiber — sie nutzen KI-Tools wie ChatGPT, Copilot oder spezialisierte KI-Anwendungen.
Als Betreiber hast du folgende Pflichten:
- KI-Kompetenz-Schulung für alle Mitarbeiter (Art. 4)
- Dokumentation der eingesetzten KI-Systeme
- Human Oversight bei Hochrisiko-Systemen
- Transparenz gegenüber betroffenen Personen
🏢 Praxis-Szenario: Risikoklassen-Bestimmung im Unternehmen
Dein Unternehmen plant drei KI-Einsätze: 1) Einen Chatbot für Kundenanfragen, 2) Ein Gesichtserkennungssystem für Zutrittskontrolle, 3) Ein Tool zur automatischen Sortierung von Bewerbungen. In welche Risikoklassen fallen diese?
Durchsetzung und Sanktionen
- Bis €35 Millionen oder 7% des weltweiten Jahresumsatzes (verbotene Praktiken)
- Bis €15 Millionen oder 3% (Hochrisiko-Pflichtverletzungen)
- Bis €7,5 Millionen oder 1,5% (falsche Angaben)
Die nationale Aufsicht in Deutschland übernimmt die Bundesnetzagentur.
💡 Art. 4 gilt für alle
Anders als die Hochrisiko-Pflichten gilt Art. 4 KI-Kompetenz für ALLE Unternehmen, die KI nutzen — unabhängig von Risikoklasse oder Unternehmensgröße. Auch KMU sind nicht ausgenommen.
✅ Wichtige Erkenntnisse
Haken setzen, um deinen Lernfortschritt zu markieren:
→ Vertiefung: Erlaubte & verbotene Nutzung — welche KI-Praktiken verboten sind · Transparenzpflichten — Kennzeichnungs- und Dokumentationspflichten
Weiterführende Inhalte
Relevante Rechtsgrundlagen: Art. 4 · Art. 5 · Art. 6