Anthropic: Fake-Hinweis von KI-Agent an Polizei in Philadelphia

Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht. In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekannt gab. Medienberichten zufolge waren es 20 Visaanträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivitäten vor allem von KI des ChatGPT-Entwicklers und Anthropic-Wettbewerbers OpenAI bekannt.

Die Unternehmen trainieren aktuell sogenannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll. Die von Anthropic aufgelisteten Vorfälle gehen direkt auf Versuche zurück, die KI für alle möglichen Onlineaufgaben vorzubereiten.

»Ich könnte Informationen zu diesem Fall haben«

Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. »Ich könnte Informationen zu diesem Fall haben«, schrieb die Software demnach. »Ich erinnere mich, jemanden, der der Beschreibung entspricht«, in der Gegend zur Tatzeit gesehen zu haben, hieß es weiter. Die Website der Polizei enthielt allerdings gar keine Täterbeschreibung. Die Software ließ außerdem das Kontaktfeld offen – und ihre Einreichung wurde als Spam markiert.

Die Polizei von Philadelphia kritisierte als »inakzeptabel«, dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr. Anthropic zufolge wurde das Handeln der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software hatte den Auftrag gehabt, Aufgaben auf zufällig ausgesuchten Websites auszuführen. Ihr sei zwar untersagt gewesen, etwa Accounts anzulegen oder Dinge zu kaufen – aber das Ausfüllen von Formularen habe man nicht verboten.

»Versehentlich« Formular ausgefüllt

In anderen Fällen sollte die KI laut Anthropic üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte es dort ein, wie die KI-Firma erläuterte. In einem der Versuche sollte sie demnach ein Formular nur ausfüllen, aber nicht einreichen. Sie tat es versehentlich dennoch, weil sie davon ausgegangen sei, dass es vorher noch eine Bestätigungsseite geben werde.

Dabei habe Anthropics KI beim US-Außenministerium 20 Anträge auf Besuchervisa eingereicht, berichteten das Portal »Axios« und die »New York Times« unter Berufung auf Regierungsbeamte. Sie seien unvollständig gewesen und nicht bearbeitet worden, hieß es. 19 der Anträge seien im August eingereicht worden und einer bereits im Mai.

Anthropic schränkt Internetzugang für Test-KI ein

Seit Wochen schüren Berichte über ungeplantes Verhalten künstlicher Intelligenz in Testläufen Sorgen rund um die Technologie. In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face.

Anthropic-Chef Dario Amodei schlug danach vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen, damit man nicht die Kontrolle über die Technologie verliert. US-Präsident Donald Trump lehnt dies jedoch ab und verweist darauf, dass die USA bei künstlicher Intelligenz den Vorsprung gegenüber China behalten müssten. Inzwischen darf Trump zufolge nur noch von »Superintelligenz« gesprochen werden. Zu den jüngsten Anthropic-Vorfällen hieß es aus dem Weißen Haus laut »Axios«, für KI-Firmen sei es verpflichtend, sie offenzulegen.

Anthropic betonte, dass inzwischen der Internetzugang in Testläufen eingeschränkt worden sei und Versuche in Offline-Versionen liefen. Zugleich seien einige Aufgaben ohne eine Verbindung zum Internet schwer zu trainieren, schränkte die Firma ein. »Trainingsumgebungen sind nicht perfekt« – und manchmal finde ein Modell eine Lücke oder lerne, Einschränkungen zu umgehen. Allerdings sind KI-Modelle keine eigenständigen Subjekte. Ihr Handeln hängt davon ab, wie die Menschen sie programmieren und welches Interesse die Auftraggeber dabei verfolgen.