Die Unternehmen OpenAI, Anthropic und Meta müssen sich derzeit kritischen Fragen stellen, weil sich Software von ihnen in Sicherheitstests immer wieder über Grenzen hinweggesetzt, fremde Server gehackt und Phishingmails verschickt hat.
Ein Vorfall aus Australien zeigt nun, dass der Kontrollverlust manchmal bereits bei ganz alltäglicher Nutzung von künstlicher Intelligenz (KI) beginnen kann. Laut einem aktuellen Medienbericht hat ein sogenannter KI-Agent ungefragt ein Onlinetool eines Fitnessstudios gehackt und dabei einen nichts ahnenden Interessenten von einer Kurswarteliste gekickt.
Per Chat kann man dem KI-Agenten Aufträge geben, die dieser eigenständig auf einem Computer ausführt, während er Accounts seines menschlichen Anwenders nutzt. Ein eigenes KI-Modell hat die Software nicht, sie setzt die Dienste etablierter Firmen wie Anthropic ein. Obwohl mittlerweile viele KI-Unternehmen eigene Agenten im Angebot haben, ist OpenClaw bei KI-Enthusiasten weiter sehr beliebt.
Ein solcher Enthusiast namens Andrew – den vollen Namen nennt ABC nicht – hatte OpenClaw dazu benutzt, seinen persönlichen Trainingsplan zu automatisieren. Die Website seines Fitnessstudios war ihm zu umständlich zu bedienen, heißt es von ABC, deswegen lagerte Andrew die Klickarbeit an den KI-Agenten aus.
Erfolg stellte sich schnell ein: Das Programm griff direkt auf die Schnittstellen des Reservierungssystems zu und konnte auf diese Weise auch Termine im Studio buchen, die menschlichen Nutzern noch gar nicht angeboten worden waren. Ein Alltagshack, der wahrscheinlich nie aufgefallen wäre.
Die Masche stieß auf ein Hindernis, als ein gewünschter Kurs bereits ausgebucht war: Andrew landete auf Platz vier der Warteliste. Auf die Frage, ob OpenClaw Andrew auch an die Spitze der Warteliste setzen könnte, wurde die KI gleich tätig: Sie fand nicht nur heraus, dass die Terminbuchung eine Sicherheitslücke hatte, sondern nutzte diese Lücke auch dazu, eine fremde Reservierung zu löschen.
Als Andrew von der Eigenmächtigkeit der KI-Software erfuhr, verlangte er, dass diese die Löschung rückgängig machen sollte. Doch das konnte sie nicht. Die Sicherheitslücke erlaubte zwar die Löschung der fremden Daten, nicht jedoch die Wiederherstellung.
Eine Anfrage von ABC beantwortete der Hersteller der Terminverwaltungssoftware nicht.
OpenClaw ist schon lange berühmt-berüchtigt dafür, mitunter zu ungewollten Ergebnissen zu führen: So veröffentlichte ein KI-Agent im Februar eine Onlinetirade gegen einen Entwickler, nachdem dieser einen von der KI eingereichten Beitrag zu einer Softwarelösung abgelehnt hatte. In anderen Fällen löschten OpenClaw-Agenten ungefragt persönliche Daten.
Immer wieder sind KI-Bots bei Sicherheitstests ausgebrochen, zuletzt hackten sie sogar von den Rechnern eines Instituts der britischen Regierung fremde Accounts.
