KI-Chatbots wie ChatGPT werden zunehmend für psychische Probleme genutzt. Experten sehen Potenzial bei leichten Belastungen, warnen aber vor Grenzen und Risiken wie Fehlantworten und Abhängigkeit. Sie ersetzen keine Psychotherapie.
KI-Chatbots wie ChatGPT geben konkrete Versicherungsempfehlungen, bewegen sich aber in einer rechtlichen Grauzone. DIHK und Bafin fordern eine einheitliche europäische Lösung, da die aktuellen Regeln an ihre Grenzen stoßen. Unklar ist, wer bei Fehlberatung haftet.
Die EU-Kommission hat Meta verpflichtet, eine Gebühr für KI-Anbieter auf WhatsApp abzuschaffen. Andernfalls droht ein Bußgeld von bis zu 10% des weltweiten Jahresumsatzes. Ziel ist es, faire Wettbewerbsbedingungen für alle KI-Dienste zu schaffen.
Das OLG Hamm entschied, dass Ärzte für Falschangaben ihrer KI-Chatbots haftbar sind, unabhängig von der Datengrundlage. Der Fall betrifft einen Chatbot, der frei erfundene Facharzttitel anwies.
Character.AI sieht sich mit einer weiteren Klage konfrontiert. Sie wirft erneut die Grundsatzfrage auf, wer rechtlich für Aussagen von KI-Chatbots haftet.
Eine repräsentative Befragung der Stiftung Deutsche Depressionshilfe und Suizidprävention zeigt, dass 65 Prozent der 16- bis 39-Jährigen bereits mit KI-Chatbots über psychische Probleme gesprochen haben. Rund ein Drittel der Betroffenen mit diagnostizierter Depression nutzt ebenfalls KI. Fachleute warnen, dass digitale Gespräche keine ärztliche Behandlung ersetzen können.
