Bankenaufsicht

Riskanter EU-Vorschlag zur Regulierung von KI

Quelle: pixabay.com

Künstliche Intelligenz (KI) gilt längst als eine Schlüsseltechnologie der Zukunft - und die diesbezüglichen Forschungen dazu laufen in den USA und in China auf Hochtouren. Auch in Deutschland ist die Grundlagenforschung dazu im Grunde hervorragend aufgestellt. Mitte April wurde nun ein Entwurf der Europäischen Kommission zur Regulierung von Künstlicher Intelligenz (Regulation on a European Approach for Artificial Intelligence) veröffentlicht. Leider ist der Entwurf ein Schlag ins Gesicht all derer, welche sich gerade um einen Technologietransfer von der Wissenschaft in die Anwendung in Europa bemühen und versuchen Innovationen nicht schon im Vorfeld einer möglichen Anwendung zu regulieren, sondern Freiräume für einen marktwirtschaftlichen Entwicklungs- und Wettbewerbsprozess zu schaffen.

Gerade für die Kreditwirtschaft ist ein einzelner Erwägungsgrund ein Damoklesschwert, welches dann auch im maßgeblichen Text Anwendung findet, und daher ist es wert, dieses "Recital 36" einmal im Original zu zitieren: "AI systems used to evaluate the creditworthiness of persons should be classified as high-risk as they determine said persons' access to financial resources and may therefore appreciably affect their course of life, for example if they deny them the opportunity to make certain investments. AI systems used for this purpose may also perpetuate historical patterns of discrimination in consumer finance, for example against persons of certain ethnic or racial origins or create new forms of discrimination."

Aus dieser Grundlage einer künftigen Regulierung - vorbehaltlich Abstimmung mit Europäischen Rat und Parlament - ergeben sich bemerkenswerte Punkte: Für die Bewertung der Kreditwürdigkeit (oder "Kreditscoring") gilt KI also als eine Hochrisikoanwendung, weil damit der "Zugang zu finanziellen Ressourcen" bestimmt wird. Dabei sind dies doch die "finanziellen Ressourcen" des Kreditgebers - und die Bank trägt immer noch das Kreditrisiko im Rahmen von Vertragsfreiheit und Privatautonomie. Konsequent weitergedacht für alle entsprechenden Anwendungen würde letztlich jede automatisierte Kreditvergabe hier einzubeziehen sein - ob nun auf Basis von "normalen" Algorithmen oder von KI.

Leider muss man - mit großem Bedauern - feststellen, dass in den USA seit über fünfzig Jahren versucht wird, die systemische Diskriminierung von Minderheiten auch in der Kreditvergabe zu beheben, wobei eine aktuelle Studie zum Haus- und Hypothekenmarkt in den USA (Quillian et al., 2020) in erschütternder Weise festgestellt hat: "Racial gaps in loan denial have declined only slightly." Nur ist es eben nicht angezeigt, diese zutiefst verstörende Tatsache ohne weitere Evidenz auch für Europa zu unterstellen ("perpetuate historical patterns of discrimination"). Scheinbar folgt dieser Regulierungsvorschlag damit Tendenzen, welche schon im Gutachten der Datenethikkommission der deutschen Bundesregierung von 2019 zu erkennen waren, wenn dort als ein Bespiel angeführt wird: "Im Rahmen der Schätzung der Kreditwürdigkeit wird das Haushaltseinkommen als Information verwendet. Dieses fällt in Deutschland für die Geschlechter im Mittel unterschiedlich aus. In der Folge kann ein algorithmisches System, welches das Haushaltseinkommen verwendet, zu unterschiedlichen Verteilungen der Schätzungen für die Kreditwürdigkeit von Männern und Frauen gelangen."

Natürlich ist der sogenannte "Gender Pay Gap" in Deutschland bekannt und liegt laut Pressemeldung des Statistischen Bundesamts vom 9. März 2021 bei 6 Prozent. Wenn aber vereinfacht hierzulande eine Person - unabhängig ob Frau, Mann oder divers - mit einem vergleichbaren Haushaltseinkommen und einer vergleichbaren Kredithistorie einen Kredit nachfragt, dann wird auch ein vergleichbares Ergebnis bei einer statistischen Schätzung herauskommen. Und: Ja, wenn man dann alle Personen zusammennimmt, dann werden wiederum vereinfacht auch weniger Frauen - wegen des geringeren Haushaltseinkommens - einen Kredit bekommen als der Rest der Population. Nur ist dies weder eine "Schuld" des Kreditgebers, noch des Algorithmus, noch einer künstlichen Intelligenz, sondern - um dies noch einmal zu betonen - ein bedauernswerter Zustand der Gesellschaft.

In dieser Denkrichtung scheint nun auch der Vorschlag der Europäischen Kommission zu argumentieren, wenn ein KI-System zum Kreditscoring als "high-risk" definiert wird. Natürlich müssen entsprechende Kreditmodelle in der Finanzwirtschaft sorgfältig entwickelt werden, jede Naivität beim Umgang mit Daten und statistischen Analysen vermieden werden, der internen und externen Prüfung unterliegen und auch kontinuierlich an veränderte Rahmenbedingungen angepasst werden - natürlich!

Aber das sprichwörtliche Kind mit dem Bade auszuschütten, wie dies nun die EU-Kommission mit dem vorliegenden Vorschlag tun möchte, führt zu den Fehlanreizen einer verbotsorientierten Regulierung anstelle von Freiräumen für innovative Technologien. Gerade im Sinne einer "zweiten Chance" können KI-basierte Verfahren zum Beispiel unter Nutzung der Zahlungsverkehrshistorie es ermöglichen, solchen Personen, welche bei einer traditionellen Bewertung der Kreditwürdigkeit kein positives Votum bekommen, durch innovative Methoden dennoch eine positive Prognose zu ermöglichen, wenn eben der traditionelle Ansatz nicht trennscharf genug war. Ob man nun eine solche "zweite Chance" für bisher sozusagen durch das Raster Gefallene als "high-risk" ansehen möchte, müsste man einmal die Europäische Kommission fragen, oder?

Udo Milkau, Frankfurt am Main

Dr. Udo Milkau , Digital Counselor, Frankfurt am Main
Noch keine Bewertungen vorhanden


X