KI-Chatbots als Versicherungsberater: Regulierungslücke oder Grauzone?

Frankfurt, München. Wer eine Versicherung abschließen will, kann sich bei Chatbots wie ChatGPT und Claude informieren. Die auf Künstlicher Intelligenz (KI) basierenden Systeme geben in vielen Fällen sogar konkrete Tarifempfehlungen ab. Unklar ist, ob das zulässig ist – und wer bei einer Fehlberatung haftet. Die Deutsche Industrie- und Handelskammer (DIHK) und die Finanzaufsicht Bafin drängen daher auf eine einheitliche europäische Lösung.

„Wir sehen, dass KI-Chatbots und KI-Agenten zunehmend konkrete Produktempfehlungen geben oder sogar Verträge vorbereiten und damit derzeit in eine rechtliche Grauzone hineinreichen“, sagte DIHK-Chefjustiziar Stephan Wernicke dem Handelsblatt. Um in Deutschland gewerbsmäßig über Versicherungen zu beraten oder den Abschluss zu vermitteln, braucht man nämlich eine Erlaubnis.

KI-gestützte Anwendungen würden jedoch grenzüberschreitend entwickelt und genutzt, auch die Regulierung erfolge wesentlich in der EU, sagt Wernicke. Er fordert deshalb „eine europäische Lösung, die rechtssicher und pragmatisch ist, technische Innovation ermöglicht und gleichzeitig den gesetzlichen Schutz aufrechterhält“.

Auch die Bafin hält eine europaweit einheitliche Beurteilung des Sachverhalts für geboten. Laut einem Behördensprecher hat die europäische Versicherungsaufsicht Eiopa die Europäische Kommission bereits vor einiger Zeit gefragt, ob und wann die Tätigkeit eines KI-Chatbots als Versicherungsvertriebstätigkeit anzusehen ist. Mit einer Antwort rechnet die Eiopa erst im weiteren Jahresverlauf.

Mit ihren Äußerungen reagieren die Aufsichtsbehörden auf eine Anfrage, die der Votum-Verband Ende Mai öffentlich gemacht hatte. Darin hatte der Branchenverband des unabhängigen Finanzvertriebs die beiden Institutionen aufgefordert, zeitnah eine klare regulatorische Einordnung vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen. Die regionalen Industrie- und Handelskammern mit der DIHK als ihrem Dachverband sind für die Aufsicht über die Versicherungsvermittler zuständig, während die Bafin in erster Linie die Versicherer beaufsichtigt.

In den vergangenen Tagen haben sich die Beteiligten sowie Vertreter mehrerer Bundesministerien nun ausgetauscht. „In unseren Gesprächen mit der Bafin und der DIHK wurde uns versichert, dass man das Problem erkannt habe“, sagte Martin Klein, geschäftsführender Vorstand des Votum-Verbands. Einen Ansatz für ein Eingreifen sehe man derzeit allerdings nicht.

Der Branchenverband betrachtet individuelle Versicherungsempfehlungen jedoch als Rechtsverstoß, solange die KI-Chatbots nicht über eine Erlaubnis nach Paragraf 34d der Gewerbeordnung verfügen. Zusammen mit der ursprünglichen Anfrage hatte er Beispiele vorgelegt: Demnach hatte OpenAIs Chatbot ChatGPT eine Hausratversicherung von Getsafe empfohlen, Claude vom Wettbewerber Anthropic riet zu einer Police von Huk-Coburg.

Für die vom Votum-Verband vertretenen klassischen Vermittler stellt sich dabei zunehmend die Frage, welche Rolle sie künftig noch spielen. Denn während sich immer mehr Verbraucher von Chatbots beraten lassen, unternehmen die Versicherer große Anstrengungen, um mit ihren Produkten in den KI-generierten Empfehlungen aufzutauchen. Dazu werden etwa Texte auf eigenen Websites so formuliert, dass KI-Systeme sie besonders gut auslesen können.

Votum kritisiert jetzt die ungleichen Voraussetzungen für die Marktteilnehmer: Auf der einen Seite müssten zugelassene Versicherungsvermittler gesetzlich geregelte Beratungs- und Dokumentationspflichten erfüllen und für Beratungsfehler haften. Auf der anderen Seite stünden KI-Anbieter, die weder eine Zulassung bräuchten noch haften müssten.

„Aus Sicht der DIHK reiht sich diese Entwicklung in eine Vielzahl aktueller rechtlicher wie auch spezifisch aufsichtsrechtlicher Herausforderungen ein, die durch den Einsatz von KI entstehen. Die bestehenden Regeln sind auf klassische Beratung zugeschnitten und stoßen bei KI an Grenzen“, sagt auch Wernicke von der DIHK. Das gelte umso mehr, als Fragen wie Gewerblichkeit oder Vergütung oft unklar seien.

So zahlen Verbraucher bei einem kostenpflichtigen KI-Chatbot für die Nutzung der KI und nicht für die Versicherungsempfehlung. Die DIHK stellt deshalb die Gewerblichkeit infrage, Klein vom Votum-Verband bezeichnet das als „naiv“. Je mehr es KI-Modellen gelinge, sich durch Empfehlungen wie in Versicherungs- und Kapitalanlagefragen als vermeintlich unentbehrlicher Helfer zu etablieren, desto leichter könnten sie Umsätze etwa durch Abo-Gebühren generieren. Statt auf eine EU-weite Lösung zu warten, will er die Erstauskünfte der Behörden zum Anlass nehmen, um ein vertieftes Rechtsgutachten zu den noch offenen Fragestellungen zu erarbeiten.

Experten zeigen unterdessen Wege auf, wie die rechtliche Unsicherheit gelöst werden könnte. Patrick Dahmen, Mitgründer der Strategieberatung Valytics, verwies in einem Handelsblatt-Webinar kürzlich auf das Beispiel Tuio. Der spanische Digitalversicherer bietet in ChatGPT eine App für Hausratversicherungen an: „In diesem Fall ist sehr klar, dass ein lizenzierter Versicherungsanbieter im Chat aktiv ist und die Plattform nur die Technik liefert“, erklärte Dahmen.

In Deutschland erwartet Nele Wollert, Vertriebschefin beim KI-Start-up Muffintech, dass KI-Chatbots künftig deutlicher machen werden, dass sie nicht als Berater oder Vermittler tätig sind. „Häufig weisen sie in den Chatverläufen darauf hin, dass es sich um keine Beratung handelt, sondern dass sie nur Orientierung geben. Auf eine solche Kennzeichnung werden die Sprachmodelle sicherlich künftig noch stärker achten“, betonte Wollert. Wie Anthropic und OpenAI die Sachlage bewerten, ist nicht bekannt. Auf eine Handelsblatt-Anfrage haben die beiden US-Unternehmen bis zur Veröffentlichung nicht geantwortet.

Laut Wollert können die KI-Anbieter auch nicht für alles haftbar gemacht werden. Es sei wichtig, dass „die Bürger wissen, wie KI-Werkzeuge funktionieren und wie sie mit ihnen arbeiten können“, sagt sie. Auch Wernicke von der DIHK nimmt die Nutzer von KI-Chatbots in die Pflicht: „Verbraucher und Unternehmen tragen auch selbst Verantwortung für ihr Handeln und die Nutzung von KI.“