Künstliche Intelligenz in der Polizeiarbeit: Globale Überwachung im Wandel

Wer in Berlin am berüchtigten Kottbusser Tor unterwegs ist, den hat die Künstliche Intelligenz (KI) bald fest im Blick. In einem Pilotprojekt testet die Berliner Polizei seit August eine KI-gestützte Videoüberwachung mit 30 Kameras. Eine neuartige Software soll anhand der Kamerabilder auffällige Verhaltensmuster von Menschen und Situationen erkennen und dann die Polizei informieren, ohne dabei Gesichter biometrisch zu identifizieren. Einsatzkräfte entscheiden dann, ob die KI-Hinweise tatsächlich einen Einsatz auslösen sollten.

Berlins Innensenatorin Iris Spranger (SPD) sagte, es gehe darum, „Gefahrensituationen frühzeitig zu erkennen, Einsatzlagen schneller zu erfassen und dadurch die Aufmerksamkeit der Einsatzkräfte gezielt auf das Geschehen zu lenken“. Das Kottbusser Tor gilt seit Jahren als Schwerpunkt für Kriminalität. Oppositionspolitiker und Datenschützer äußern scharfe Kritik an dem Vorhaben. „Es wird eine Überwachungsinfrastruktur geschaffen, die wir als Brückentechnologie zu noch schärferen Maßnahmen sehen“, sagt etwa Kilian Vieth-Ditlmann von der Nichtregierungsorganisation Algorithm Watch. Auch ohne Gesichtserkennung hätten die Kameras einen Einschüchterungseffekt: „Gehe ich noch zur gewerkschaftlichen Kundgebung oder zur Suchtberatung, wenn ich fürchte, überwacht zu werden?"

In Berlin zeigt sich ein Grundsatzkonflikt, der durch die rasanten Fortschritte der Künstlichen Intelligenz noch stärker in den Fokus rückt: Wie kann Überwachungstechnologie das Zusammenleben sicherer machen ohne dabei zu stark in Grundrechte einzugreifen? Wo liegt die Grenze zwischen dem technologisch Machbaren und dem ethisch Vertretbaren?

Nur Hinweise, keine KI-Entscheidungen

Jan Taube setzt sich mit diesen Fragen sehr intensiv auseinander: Er ist Geschäftsführer des Unternehmens Staige, das hinter der Software steckt, die für die Berliner Polizei künftig Gewaltdelikte am „Kotti“ frühzeitig erkennen soll. „Der Schlüssel ist, dass die KI den Menschen unterstützt und niemals eigenständig entscheidet“, sagt er. Sie müsse ein Tippgeber für den Menschen bleiben.

Staige ist eine Tochtergesellschaft des Dortmunder IT-Dienstleisters Adesso. Das Programm ist mit vielen künstlich erzeugten und auch echten Überwachungsvideos trainiert. Die KI erkenne den Kontext der Überwachungsbilder, ein weiteres KI-Modell verstehe das räumliche Verhältnis der Kameras zueinander und erstelle eine Art virtuellen Zwilling des gesamten überwachten Areals, sagt Taube. Aus diesen Daten errechnet die KI einen Gefahrenwert: Wird er überschritten, gibt es einen Hinweis an die Leitstelle. „Oft hilft auch schon eine Durchsage“, sagt Taube. „Sie da im grünen Pullover: Bitte unterlassen Sie dieses Verhalten.“ Ansonsten blieben die Bildschirme in der Leitstelle schwarz, um möglichst datensparsam zu arbeiten. „Unser System ist bewusst nicht zur Gesichtserkennung in der Lage, so dass es nicht missbraucht werden kann."

„Rein technisch ist schon enorm viel möglich"

Durch Berichterstattung zu Gewalt an öffentlichen Plätzen und der hybriden Bedrohung durch Russland habe die gesellschaftliche Akzeptanz für Videoüberwachung zugenommen, sagt Taube. Zudem habe sich die Technik in den vergangenen Jahren rasant entwickelt, sodass die Kosten für die Verarbeitung großer Datenmengen durch KI gesunken seien. „Rein technisch ist schon enorm viel möglich."

Längst läuft nicht nur in Berlin ein Projekt zur KI-gestützten Videoüberwachung, sondern auch in Mannheim, Frankfurt und Hamburg. In Bremer Straßenbahnen soll die KI neuerdings aggressives Verhalten erkennen und melden. Und der Bundestag hat im Juli ein neues Bundespolizeigesetz verabschiedet, das in bestimmten Fällen eine automatische Echtzeit-Gesichtserkennung erlaubt. In vielen Bundesländern gibt es ähnliche Pläne.

Das älteste Projekt gibt es seit 2017 in Mannheim. Dort sind unter technischer Leitung des Fraunhofer-Instituts für Optronik, Systemtechnik und Bildauswertung (IOSB) 70 Kameras installiert, deren Bilder Software mit Künstlicher Intelligenz auswertet. Dafür erkennt zunächst eine KI in Echtzeit, wo auf den Bildern überhaupt Menschen auftauchen. Die nächste KI rechnet diese Bildausschnitte in eine Art Strichfigur um, um deren Bewegungsabläufe dann auf mögliche körperliche Angriffe hin zu überprüfen. Das System sendet dann einen Hinweis an die Polizeileitstelle, die entscheidet, ob sie etwa eine Streife losschickt. Auch in Hamburg kommt die Fraunhofer-Technik inzwischen zum Einsatz. „Eine Strichfigur hat keine Identität, kein Geschlecht, keine Herkunft, keine Hautfarbe, keine Religionszugehörigkeit“, sagt Markus Müller vom Fraunhofer-IOSB in Karlsruhe.

Gesichtserkennung im Frankfurter Bahnhofsviertel

Im berüchtigten Frankfurter Bahnhofsviertel geht die Polizei noch weiter. Dort kommt schon seit dem vergangenen Jahr sogar eine KI-gestützte Gesichtserkennung zum Einsatz. Die Technik soll Gesichter mit einer polizeilichen Fahndungsdatenbank abgleichen und so zunächst bei der Suche nach Vermissten und terroristischen Gefährdern helfen soll. Etwa 300.000 Gesichter scannt die KI dafür täglich. Die Verantwortlichen betonen, diese Daten würden sofort wieder gelöscht. Für jede Suche ist ein richterlicher Beschluss erforderlich.

Trotz der zunehmenden Anzahl an Pilotprojekten stehe die Implementation der Technik in Deutschland im internationalen Vergleich noch ganz am Anfang, sagt Jan Taube von Staige. In Ländern wie den USA oder China sind Überwachungstechnologien gang und gäbe. In den USA sind sie freilich nicht unumstritten. Besonders kontrovers diskutiert werden derzeit KI-gestützte Kamerasysteme, die vorbeifahrende Autos aufzeichnen, sogenannte Automated License Plate Readers (ALPRs).

Gegen Flock Safety, den bekanntesten Anbieter solcher Technologien, hat sich in den vergangenen Monaten eine regelrechte Widerstandsbewegung gebildet. Es gibt eine eigene Internetseite namens „DeFlock“, deren Betreiber sich dem Kampf gegen die Kameras verschreiben. Zuletzt gab es auch eine Reihe von Berichten über Vandalen, die solche Kameras zerstörten.

Streit um Flock-Kameras in Amerika

Die Flock-Kameras sind in etwa so groß wie ein Schuhkarton, und sie sind in vielen amerikanischen Gegenden zu einem vertrauten Teil des Straßenbildes geworden. Nach Angaben ihres Herstellers können mit ihrer Hilfe eine ganze Reihe von Informationen über Autos analysiert werden, von Nummernschildern über Modelltypen und Farben bis hin zu etwaigen Dellen und Aufklebern. Die Flock-Datenbanken können dann von den Kunden nach solchen Kriterien durchsucht werden. Nach Erhebungen von „DeFlock“ sind mehr als 130.000 Flock-Kameras in den USA installiert. Der Hersteller selbst sagt, er arbeite mit mehr als 5000 Polizeibehörden zusammen. Flock behauptet, dank seiner Kameras würden jede Woche mehr als 2800 Verbrechen „gelöst“, und im vergangenen Jahr seien mit ihrer Hilfe mehr als 10.000 vermisste Personen gefunden worden.

Kritiker stellen den Nutzen der Kameras in Frage und sehen sie als Instrument für Massenüberwachung. Für Empörung sorgte vor wenigen Wochen auch ein Bericht der Zeitung „Washington Post“ über fast 50 Fälle, in denen Polizisten missbräuchliche Nutzung the Flock-Systeme vorgeworfen worden ist, etwa um ihre Frauen oder frühere Partnerinnen auszuspionieren.

„Man kann sehr leicht nachvollziehen, wo jemand lebt und arbeitet"

Zu den prominentesten Gegnern der Flock-Systeme gehört die Electronic Frontier Foundation (EFF), die sich für Datenschutz und Meinungsfreiheit einsetzt. Sie führt zum Beispiel einen Rechtsstreit gegen die Stadt San José, wo es nach Angaben in der Klage fast 500 Flock-Kameras gibt. Saira Hussain, eine Anwältin der Organisation, sagt, die Flock-Systeme seien viel bedenklicher als etwa gewöhnliche Sicherheitskameras vor einem Geschäft. Weil es so viele von ihnen gebe und sie alle vernetzt seien, werde es möglich, einen großen Teil der Bewegungen von Menschen nachzuverfolgen. „Man kann sehr leicht nachvollziehen, wo jemand lebt und arbeitet, oder mit wem er sich trifft.“

Hussain zufolge kann sich auch die Einwanderungsbehörde ICE, die in jüngster Zeit wiederholt mit brutalem Umgang gegenüber Einwanderern und Demonstranten aufgefallen ist, Zugang zu Flock-Daten verschaffen. Flock betont zwar, nicht selbst mit ICE zusammenzuarbeiten, was Hussain auch nicht bezweifelt. Aber die Behörde könne auf indirektem Wege an Daten herankommen, etwa über Anfragen bei lokalen Polizeibehörden.

Inmitten zunehmender öffentlicher Empörung hat in jüngster Zeit eine ganze Reihe amerikanischer Städte Verträge mit Flock gekündigt oder ihre Kameras deaktiviert. Selbst Bundesstaaten wie Texas und Florida, die von der Republikanischen Partei regiert werden, schränken die Nutzung der Kameras ein. Flock sah sich vor wenigen Wochen gezwungen, eine Reihe von Veränderungen anzukündigen. Das Unternehmen verspricht zum Beispiel, stärker gegen Missbrauch der Kameras vorzugehen und die gesammelten Daten standardmäßig schneller zu löschen. Außerdem muss jede Suche in der Datenbank künftig an einen bestimmten Fall geknüpft sein und somit einen konkreten Grund haben. EFF-Anwältin Hussain hält diese Zugeständnisse für unzureichend. Sie findet zum Beispiel, für jede Suche sollte es eine richterliche Genehmigung geben.

Über die Verwendung von Überwachungstechnologien ist in den USA in diesem Jahr auch im Zusammenhang mit ICE-Einsätzen in Städten wie Minneapolis diskutiert worden. ICE-Beamte wurden oft dabei gesehen, wie sie Smartphones auf Demonstranten oder Autos gehalten haben, mutmaßlich um sie zu identifizieren. Zu den von ICE genutzten Technologien gehört die Smartphone-App Mobile Fortify, die es ermöglicht, Menschen per Gesichtserkennung oder kontaktloser Fingerabdrücke zu identifizieren. Dazu müssen Regierungsbeamte nur mit ihrer Handykamera ein Foto einer Person machen, das dann mit verschiedenen Datenbanken abgeglichen werden kann. Ein anderer Partner von ICE ist BI2 Technologies, ein Anbieter eines Systems, das Menschen innerhalb weniger Sekunden mit dem Scannen ihrer Iris identifizieren kann.

China überwacht selbst in abgelegenen Städten

In China ist Überwachung mittels Künstlicher Intelligenz seit Jahren weitverbreitet. Überwachungskameras sind allgegenwärtig, Millionen Geräte lassen in den Großstädten keinen Winkel des öffentlichen Raumes unbewacht. Unzählige Bürger, darunter auch einige Ausländer, haben in Polizeistationen erlebt, wie die Polizei mithilfe von Überwachungskameras mühelos die Routen einzelner Bürger durch die ganze Stadt nachverfolgen konnte. In manchen Regionen, wie etwa Shanghai, haben die Behörden die Systeme auch schon der Öffentlichkeit präsentiert. Gesichtserkennung zur Einlasskontrolle in Bahnhöfen oder Messen ist Alltag.

Wie weit verbreitet das System ist, zeigt beispielsweise eine Ausschreibung der Polizeibehörde in Wuhai in der Inneren Mongolei in Nordchina, die die F.A.Z. analysiert hat. In Wuhai leben laut offiziellen Zahlen etwas mehr als eine halbe Million Menschen auf einer Fläche, die doppelt so groß ist wie Berlin. Um 17.09 Uhr am 23. März dieses Jahres veröffentlichte die Polizeibehörde das Ergebnis einer Ausschreibung für das Projekt „Anwendungssystem für ein multimodales Großmodell zur städtischen Video- und Bildanalyse“. Das Dokument, das auf einer Plattform der chinesischen Regierung einsehbar ist, gibt einen detaillierten Einblick in die Fähigkeiten, die selbst abgelegene Städte wie Wuhai für nötig halten.

Die China Mobile Communications Group, die den Auftrag gewonnen hat, verpflichtet sich etwa, „Gesichtsanalysesoftware“, einen „Abgleichdienst für Gesichtsfahndung“ zu liefern. Im Paket sind auch die Module „Eine Akte je Person“ und „Eine Akte je Fahrzeug“ enthalten sowie Module „zur Zusammenführung und Visualisierung von Bewegungsverläufen“, zur „Beziehungsanalyse“ und „für Personen von besonderem Interesse“. In einer Mitteilung der Polizeibehörde heißt es: „Mithilfe des Gesichtserkennungssystems werden Datensätze zu Personen zusammengeführt und archiviert, um Personenakten aufzubauen.“ Der Spiegelstrich „Software zur Anbindung an den nationalen Videostandard“ legt nahe, dass die lokalen Systeme mit landesweiten Lösungen vernetzt werden.

Dargestellt wird all das unter anderem auf einem „All-in-one-Gerät zur Bündelung von Personenbilddaten“, das die Polizeibehörde gleich dreimal bestellt hat. „Innerhalb von drei Monaten“ soll sie zudem einen „polizeilichen Wissensassistenten auf Basis eines Sprach-Großmodells“ und einen „Anwendungsdienst“ für den KI-Anbieter Deepseek erhalten, die beide der „städtischen Video- und Bildanalyse“ dienen. Überdies sind in dem Rundum-Paket Algorithmen zur Erkennung von Bränden, von Abfallbehältern, beschädigten Grünflächen und Straßenschäden enthalten.

Lassen sich mit der Überwachung sogar Verbrechen verhindern?

Die Beschreibungen der Ausschreibungen ähneln einer Plattform, über die im Frühjahr einige internationale Medien berichtet haben. Auf der Plattform, die durch eine fehlerhafte Einstellung zugänglich war, konnten etwa ausländische Journalisten und Diplomaten verfolgt werden. Es handelte sich um eine Demoversion für die Behörde für öffentliche Sicherheit in Zhangjiakou, in der ein Teil der Olympischen Winterspiele 2022 stattfand. Das System konnte nicht nur auf Kameras, sondern auch auf Zug- und Sitzplatznummern, auf Gesichtserkennungskameras in einem Skiresort oder häufige Einkaufsorte zugreifen.

„Große Sprachmodelle“ seien für die Polizeiarbeit „eine konsequente Weiterentwicklung“, heißt es in der Mitteilung der Polizeibehörde Wuhais. Künstliche Intelligenz sei schon heute tief in die Polizeiarbeit integriert. Nun solle sich die Polizeiarbeit aber von der „nachträglichen Beweiserhebung und der Bekämpfung laufender Vorfälle schrittweise hin zur Prävention entwickeln“. Man wolle ein „intelligentes System aufbauen, das multimodales Verstehen, Frühwarnung und Lagebewertung“ ermöglicht und in der Entscheidungsfindung unterstützt. Die Polizeibehörde lässt sich das Paket laut dem Dokument 10.086.000 Renminbi kosten, umgerechnet knapp 1,3 Millionen Euro.

Es gibt viele ähnliche Projekte chinesischer Lokalregierungen. Das Polizeibüro der Großstadt Shenyang im Nordosten Chinas veröffentlichte Mitte Mai eine Ausschreibung zur „Beschaffung intelligenter Überwachungstechnik“ über knapp acht Millionen RMB, rund eine Million Euro. Darin enthalten sind insgesamt rund 850 „Überwachungskameras zur Gesichtserkennung“, Anforderung: mindestens vier Megapixel, oder knapp 600 Mikrofone. Lieferung, Installation und Abnahme müssen innerhalb von 20 Tagen nach Vertragsunterzeichnung erfolgen. Zum Zug kam ein Unternehmen, das den Auftrag für rund 900.000 Euro (etwas mehr als sieben Millionen Renminbi) übernimmt und nun vor allem Kameras des chinesischen Hikvision-Konzerns verbaut.

Vieles ist in der EU rechtlich nicht möglich

In Europa wäre vieles davon rechtlich nicht möglich. Die KI-Verordnung der EU verbiet