Bafin verschärft KI-Überwachung bei Versicherern

Düsseldorf. In ihrer neuen Rolle als KI-Marktüberwachungsbehörde will die Finanzaufsicht Bafin verstärkt prüfen, ob die von Versicherern und anderen Finanzunternehmen eingesetzten Systeme verbotene Praktiken enthalten. „Hier werden wir keine Kompromisse eingehen“, sagte Sebastian Schnitzler, Leiter des Referats Risikomodellierung und Künstliche Intelligenz (KI) der Bafin, bei der Handelsblatt-Veranstaltung „AI in Insurance“.

Am 29. Juli ist das deutsche Gesetz zur Durchführung der europäischen KI-Verordnung in Kraft getreten. Seitdem ist die Bafin für die Marktüberwachung von KI-Systemen zuständig, die im Zusammenhang mit regulierten Finanztätigkeiten stehen. Verboten gemäß der KI-Verordnung ist beispielsweise das sogenannte „Social Scoring“, also die Klassifizierung von Menschen anhand ihres Verhaltens, ihrer persönlichen Eigenschaften oder bestimmter weiterer Merkmale.

In der Regel hätten sich die Versicherer zwar klare Vorgaben gegeben, dass die von ihnen entwickelten und genutzten KI-Systeme keine solche Klassifizierung vornehmen, erklärte Schnitzler. Bei der Umsetzung konkreter Anwendungsfälle sei aber nicht immer ganz klar, ob durch die Kombination verschiedener Daten eventuell doch eine verbotene Klassifizierung entstehen könnte. Die Bafin schaue sich daher vor allem an, wie sich ein System in ungewöhnlichen oder kritischen Grenzsituationen verhält, sagte er.

Nach ersten Datensichtungen sieht die Finanzaufsicht demnach in einem Punkt Verbesserungsbedarf: „Nicht überall waren wir zufrieden damit, welche Vielfalt an Daten in KI-Modelle eingeht“, betonte Schnitzler.

Nicht immer sei nachvollziehbar gewesen, warum sensible Kundendaten für den Zweck des Systems erforderlich sein sollen. Versicherer sollten sich auf entsprechende Fragen der Aufsicht vorbereiten und den Datenappetit ihrer KI-Systeme begründen können – insbesondere dort, wo sie Kundendaten an Drittanbieter weitergeben.

Dass die Versicherer das Thema ernst nähmen, machte Ergo-Vorstand Mark Klein deutlich. Fachbereiche, die bei dem Düsseldorfer Versicherer bestimmte KI-Anwendungen nutzen wollen, müssten diese von einer zentralen internen Stelle abnehmen lassen. Dazu müssten sie unter anderem einen umfassenden Fragenkatalog abarbeiten.

Der Berater Jonathan Larsen, ehemaliger Innovationsvorstand der chinesischen Ping An Group, ergänzte, dass Versicherer die meisten Probleme vermeiden könnten, wenn sie ihre KI-Systeme mit anonymisierten Daten trainierten. Gleichzeitig betonte Ergo-Manager Klein, Regulierung dürfe kein Gegner der Innovation sein. Europa werde sonst im Bereich KI weiter abgehängt.

Eine verständliche Begründung erwartet die Bafin nach eigener Aussage unterdessen auch bei nachteiligen automatisierten Entscheidungen, wie der Ablehnung eines Leistungsantrags etwa oder einer risikobasierten Prämienerhöhung. Das sei aber keine KI-spezifische Anforderung, betonte Schnitzler: Sie gelte unabhängig davon, ob ein Mensch, ein statistisches Modell oder ein KI-System die Entscheidung vorbereitet hat. KI mache sie nur schwerer zu erfüllen, sagte er.

Großes Potenzial, wie Versicherer KI nutzbringend einsetzen können, sieht Schnitzler in der Prozessautomatisierung, der Risikoprüfung und Preisfindung sowie an der Schnittstelle zum Kunden. Die KI ermögliche hier kürzere Antwortzeiten und passgenauere Auskünfte, sagte er.

Klein vom Versicherer Ergo, der KI bisher unter anderem in der Kundenkommunikation, beim Dokumentenmanagement und zur Bild- und Videogenerierung einsetzt, berichtete von Effizienzsteigerungen von mindestens 20 bis 30 Prozent. Unternehmen müssten aber verstärkt einen Fokus darauf legen, die Vorteile der KI zu realisieren und Anwendungsfälle zu skalieren.

Auch Bafin-Experte Schnitzler betonte, dass nicht alle Versicherer gleichermaßen von den Potenzialen der KI profitierten. Er sagte: „Wer sie auf schlechte, fragmentierte Daten ansetzt, bekommt keinen Fortschritt, sondern automatisiertes Chaos.“ Wer bisher über eine saubere Dateninfrastruktur und über klar strukturierte Prozesse verfügt, werde stärkeren Nutzen daraus ziehen können als Häuser, die hier noch Hausaufgaben zu erledigen hätten.

Funktionieren wird das seiner Einschätzung nach zudem nur, wenn die Belegschaft mit im Boot ist: „Wird KI als Effizienzprogramm mit dem Ziel Stellenabbau wahrgenommen, ist mit stillem Widerstand zu rechnen“, sagte Schnitzler.