Wie definiert der AI Act Hochrisiko-KI für Banken?
Hochrisiko-KI für Banken: Was der AI Act vorschreibt
Der EU AI Act (Verordnung (EU) 2024/1689) arbeitet mit einem risikobasierten Stufenmodell – und für Banken ist die Hochrisikokategorie die mit Abstand relevanteste. Hier ist der Überblick, wie die Einstufung funktioniert, welche Bankapplikationen konkret betroffen sind und was das in der Praxis bedeutet.
Das Vier-Stufen-Modell: Wo Banken aufpassen müssen
Der AI Act klassifiziert KI-Systeme in vier Risikoklassen:
| Risikostufe | Beispiele im Banking | Anforderungen |
|---|---|---|
| Unzulässig | Social Scoring, manipulative Systeme, biometrische Echtzeit-Überwachung | Vollständiges Verbot – gilt seit 02.02.2025 |
| Hochrisiko | Kredit-Scoring, AML-Screening, algorithmische Handelsentscheidungen, Risikobewertung | Dokumentation, Transparenz, menschliche Aufsicht, Risikomanagementsystem, Qualitätssicherung |
| Begrenztes Risiko | Chatbots, Robo-Advisor (Erstberatung), KI-gestützte Kundeninteraktion | Transparenzpflicht: Nutzer muss wissen, dass KI eingesetzt wird |
| Minimales Risiko | Spamfilter, Textkorrektur, interne Prozessautomatisierung, Marketing-Tools | Keine spezifischen Auflagen |
Was ist im Finanzsektor explizit als Hochrisiko eingestuft?
Der konkrete Anknüpfungspunkt für Banken ist Anhang III, Punkt 5b der Verordnung. Dort sind folgende Anwendungen direkt und namentlich als Hochrisiko-KI klassifiziert:
- KI-Systeme zur Bewertung der Kreditwürdigkeit natürlicher Personen und zur Festlegung ihres Kredit-Scores
- KI-Systeme zur Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen für natürliche Personen
Das ist die harte Kern-Einstufung. Kein Ermessensspielraum, kein "es kommt drauf an" – diese Systeme sind Hochrisiko, Punkt.
Die Grauzone: Algorithmischer Handel und AML-Screening
Nicht ganz so eindeutig einzuordnen sind zwei Bereiche, die im Banking ebenfalls zentral sind:
Algorithmischer Handel: Handelssysteme, die nicht direkt die Kreditwürdigkeit natürlicher Personen bewerten, fallen nicht automatisch unter Anhang III. Sie könnten aber über den Umweg der Risikobewertung oder über sektorale Regulierung als Hochrisiko eingestuft werden.
AML-Screening: Systeme zur Geldwäsche-Erkennung, die natürliche Personen bewerten, geraten ebenfalls in den potenziellen Anwendungsbereich – auch wenn die Einordnung nicht so eindeutig ist wie beim Kredit-Scoring.
Die Empfehlung ist pragmatisch: Im Zweifelsfall die strengere Kategorie annehmen. Die Kosten einer vorübergehenden Über-Compliance sind vernachlässigbar verglichen mit den Sanktionen bei Unter-Compliance.
Was die Hochrisiko-Einstufung konkret bedeutet: Sieben Pflichten
Für jedes als Hochrisiko klassifizierte KI-System müssen Banken die vollständige Compliance-Spine des AI Act erfüllen – Artikel 9 bis 19 für Anbieter, Artikel 26 und 27 für Betreiber:
- Risikomanagementsystem (Art. 9): Kontinuierliche Identifikation, Analyse und Minderung von Risiken über den gesamten Lebenszyklus
- Data Governance (Art. 10): Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit der Trainings- und Validierungsdaten
- Technische Dokumentation (Art. 11, Anhang IV): Systembeschreibung, Entwurfsspezifikationen, Überwachungskonzepte – 10 Jahre Aufbewahrungspflicht
- Protokollierung (Art. 12): Automatische Aufzeichnung relevanter Ereignisse während des Betriebs
- Transparenz (Art. 13): Gebrauchsanweisung mit Informationen über Leistung, Einschränkungen und vorgesehene Verwendung
- Menschliche Aufsicht (Art. 14): Design für wirksame menschliche Überwachung, Fähigkeit zur Intervention und Außerkraftsetzung
- Genauigkeit, Robustheit, Cybersicherheit (Art. 15): Angemessenes Leistungsniveau, Widerstandsfähigkeit gegen Fehler und Angriffe
Black-Box-Modelle ohne nachvollziehbare Entscheidungslogik sind damit künftig regulatorisch kaum noch haltbar. Automatisierte Kreditentscheidungen müssen begründet und dokumentiert werden – und vollständig autonome Handelsentscheidungen ohne menschliche Kontrollinstanz werden problematisch.
Doppeltes Aufsichtsregime für CRR-Institute
Für regulierte Banken kommt eine Besonderheit hinzu: Bei selbst eingesetztem KI-Kredit-Scoring ist die BaFin die zuständige Marktüberwachungsbehörde – nicht die Bundesnetzagentur (BNetzA), die als allgemeine zentrale KI-Marktaufsicht fungiert. Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, Kabinettsbeschluss vom 11. Februar 2026) hat diesen hybriden Ansatz für Deutschland festgelegt. CRR-Kreditinstitute unterstehen damit gleichzeitig der Finanzaufsicht der BaFin und den technischen Vorgaben des AI Act – ein echtes Doppelregime, das die Compliance-Komplexität erhöht.
Die BaFin hat dazu bereits am 18. Dezember 2025 ihre Orientierungshilfe zu IKT-Risiken beim Einsatz von KI-Systemen veröffentlicht – formal unverbindlich, aber ein klares Signal: Die Behörde verortet den KI-Einsatz konsequent im bestehenden IKT-Risikomanagementrahmen nach DORA und betrachtet KI-Systeme über ihren gesamten Lebenszyklus.
Das Sanktionsregime: Was auf dem Spiel steht
| Verstoßkategorie | Maximalbuße | Relevanz für Banken |
|---|---|---|
| Verbotene KI-Praktiken (Art. 5) | 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes | Social Scoring, manipulative Systeme |
| Hochrisiko-Pflichten (Art. 9–19, 26–27) | 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes | Credit Scoring, AML, algorithmische Kreditentscheidungen |
| Sonstige Verstöße | 7,5 Mio. EUR oder 1 % des weltweiten Jahresumsatzes | Dokumentationsmängel, irreführende Angaben |
Für eine deutsche Großbank mit 20 Mrd. EUR Jahresumsatz bedeuten 3 % ein Risiko von 600 Millionen Euro – eine Größenordnung, die das Thema zwingend auf die Vorstandsagenda bringt.
Kritische Deadline: 2. August 2026
Alle Hochrisiko-KI-Systeme müssen bis zum 2. August 2026 vollständig compliant sein. Lediglich der sogenannte "Digital Omnibus" könnte das Backstop-Datum für Anhang-III-Systeme auf den 2. Dezember 2027 verschieben – aber die inhaltlichen Anforderungen bleiben identisch. Wer auf Fristverschiebungen wartet statt jetzt mit KI-Inventarisierung, Gap-Analyse und Governance-Aufbau zu beginnen, riskiert – wie schon bei DORA – dass die dann verbleibende Zeit nicht reicht.