KI-Überwachung im öffentlichen Raum — Sicherheit um jeden Preis?

Stück für Stück in den Überwachungsstaat

Was in Deutschland gerade passiert, ist beispiellos: Bundesland für Bundesland werden Polizeigesetze novelliert, die der Polizei ein Arsenal an KI-gestützten Überwachungswerkzeugen in die Hand geben. Verhaltensscanner, die „gutes" von „bösem" Verhalten unterscheiden sollen. Gesichtserkennung im öffentlichen Raum. Palantir-artige Datenanalyse, die aus Polizeidatenbanken intime Profile zusammenstellt. Drohnen mit Kameras über Festivals und Fußballspielen.

Das Erschreckende daran? Der Widerstand ist praktisch nicht vorhanden.

Was gerade passiert. Eine Übersicht

Der aktuelle Auslöser: Thüringen will mit einer Polizeigesetz-Novelle ein komplettes Überwachungspaket einführen:

• Verhaltensscanner: KI analysiert Kamerabilder und entscheidet automatisch, was „verdächtig" ist
• Automatisierte Datenanalyse à la Palantir: Zusammenführung von Polizeidatenbanken, inklusive Daten aus verdeckter Wohnraumüberwachung
• Gesichtersuchmaschine: gefüttert mit frei zugänglichen Bildern aus dem Internet
• Stimmenerkennung: automatisierter Abgleich von Sprachproben aus dem Netz
• Kennzeichenscanner mit Bewegungsprofilen
• Videodrohnen über öffentlichen Veranstaltungen

Und Thüringen ist kein Einzelfall. Hamburg nutzt Verhaltensscanner bereits. Baden-Württemberg und Berlin haben die Gesetzesgrundlage geschaffen. Schleswig-Holstein, Sachsen und Niedersachsen planen Ähnliches. In Hessen erweiterten CDU und SPD Ende 2024 die Polizeibefugnisse um KI-Videoüberwachung.

Innenminister Georg Maier (SPD, Thüringen) argumentiert: „Es wäre fatal, wenn wir als einziges Bundesland darauf verzichten würden." Das ist die klassische Dominostein-Logik: Weil alle anderen es machen, müssen wir mitziehen.

Der Mannheimer Verhaltensscanner — acht Jahre, null Ergebnisse

Ein Detail, das in der Debatte gern übersehen wird: In Mannheim wird seit 2018 ein Prototyp einer Verhaltensscanner-Software mit den Bildern oft ahnungsloser Passanten trainiert. Acht Jahre später kann die Polizei keinen einzigen Fall nennen, bei dem das System eine Ermittlung unterstützt hätte.

Trotzdem wollen immer mehr Bundesländer genau dieses System einführen. Das ist, als würde man ein Medikament ohne nachgewiesene Wirkung flächendeckend verschreiben (aber mit erheblichen Nebenwirkungen).

Der Chilling Effect ist real

Wer weiß, dass eine KI sein Verhalten analysiert, verhält sich anders. Das ist kein Bauchgefühl, sondern ein gut dokumentiertes Phänomen: der Chilling Effect. Menschen vermeiden bestimmte Orte, bestimmte Gesten, bestimmte Kleidung. Sie ziehen die Mütze tiefer und machen sich damit verdächtig.

Katharina König-Preuss (Die Linke, Thüringen) bringt es auf den Punkt: „Das Problem ist, wer irgendwann in der Lage sein wird, solche Software zu nutzen." Ein Blick in die USA, wo Palantir-Produkte zur Überwachung von Migranten und Demonstranten eingesetzt werden, zeigt, wohin die Reise gehen kann.

Was der EU AI Act eigentlich verbietet

Ironisch: Der EU AI Act, seit Februar 2025 teilweise in Kraft, verbietet ausdrücklich:

• Das ungezielte Durchsuchen des Internets zur Erstellung biometrischer Datenbanken
• Massenhafte biometrische Echtzeit-Überwachung in öffentlichen Räumen (mit eng begrenzten Ausnahmen für schwere Straftaten)
• Social Scoring und unterschwellige Manipulation

Die deutschen Polizeigesetz-Novellen bewegen sich in genau diesen Grauzonen. Thüringen will eine Gesichtersuchmaschine aufbauen, die mit Internetbildern gefüttert wird (genau das, was der AI Act verbieten soll). Die Ausnahmen im AI Act für „Echtzeit-Fernidentifikation" bei schweren Straftaten werden dabei offensiv ausgelegt.

Ob die Landesgesetze vor dem Bundesverfassungsgericht Bestand hätten, ist eine offene Frage. Erste Gutachten — etwa vom Verfassungsblog zu Berlins ASOG-Novelle — sprechen von „Grundrechtseingriffen von extremer Intensität und Streubreite".

Ein zartes Pflänzchen Widerstand in Thüringen

Es gibt aber einen Lichtblick. In Thüringen formiert sich tatsächlich Widerstand gegen das geplante Gesetz. Die Initiative kommt von zwei jungen Juristen und Bürgerrechtlern, und sie hat eine realistische Chance:

Die CDU-BSW-SPD-Koalition hat genau die Hälfte der Landtagssitze, also keine eigene Mehrheit. Ohne Stimmen der Linken geht nichts. Und die Linke hat bereits 100 Fragen zum Gesetzentwurf eingereicht und die Kontaktdaten von 100 zivilgesellschaftlichen Organisationen für Sachverständigen-Anhörungen.

Auch das BSW zeigt sich kritisch: Die Überwachungsinstrumente seien „besonders eingriffsintensiv" und dürften nur unter „klar definierten Voraussetzungen" genutzt werden, mit Richtervorbehalt, parlamentarischer Kontrolle und Evaluierung.

„Das kehrt die Unschuldsvermutung um"

In einem Interview mit netzpolitik.org macht Ronald Hande, innenpolitischer Sprecher der Linken-Fraktion, deutlich, wie weit die geplanten Befugnisse wirklich gehen.

Die Palantir-artige Datenanalyse könnte laut Gesetzentwurf auf Abschriften von Abhöroperationen, Funkzellenabfragen, Observationsfotos, Berichte von V-Personen, Kennzeichenscanner-Daten und sogar Leitstellendaten zugreifen. Auch Social-Media-Daten sind nicht ausgeschlossen: Wenn sie bereits in Kriminalakten oder Fallbearbeitungssystemen gespeichert sind, können sie in die Analyse einfließen.

Handes zentrale Kritik: „Diese Datenanalyse kehrt die Unschuldsvermutung praktisch um: Aus Bürgerinnen und Bürgern werden nicht nur gläserne Menschen, sondern Datenspuren in einer Maschine, die automatisiert neue Verdächtige berechnet."

Besonders brisant: Man muss nicht einmal verdächtig sein, um in dem System zu landen. Die Eingriffsschwellen sind niedrig, bereits eine „einfache Gefahr für die Gesundheit" reicht aus. Und die Betroffenen sind nicht nur Bürger, sondern auch Polizeibeamte selbst, deren private Social-Media-Bilder biometrisch gerastert werden könnten.

Auf den Hinweis, dass Innenminister Maier keine Palantir-Software nutzen wolle, entgegnet Hande trocken: Dieser Minister könne „schon morgen oder übermorgen ein anderer sein. Und gemessen an den Umfragen wäre es naiv, nicht einen möglichen AfD-Innenminister mitzudenken."

Und jetzt auch der Bund: Biometrischer Internet-Abgleich

Während die Länder ihre Polizeigesetze verschärfen, legt auch die Bundesregierung nach. Ein Referentenentwurf aus dem Justizministerium sieht zwei neue Instrumente in der Strafprozessordnung vor: automatisierten biometrischen Internet-Abgleich (§ 98d StPO) und KI-gestützte Datenanalyse (§ 98e StPO).

Was Bundesjustizministerin Hubig als „zeitgemäße Ermittlungswerkzeuge" verkauft, ist nach Einschätzung von AlgorithmWatch der Bauplan für eine Infrastruktur zur Massenüberwachung. Denn ein automatisierter Abgleich von Millionen Web-Bildern ist technisch nur möglich, wenn man vorher das gesamte öffentlich zugängliche Internet biometrisch inventarisiert. Urlaubsfotos, Demo-Aufnahmen, zufällige Passanten im Hintergrund von Social-Media-Posts: alles wird erfasst.

Das steht in direktem Konflikt mit dem EU AI Act, der genau solche ungezielten Gesichtsdatenbanken verbietet. Selbst der Wissenschaftliche Dienst des Bundestages bestätigt, dass ein systematischer Abgleich ohne vorverarbeitete Datenbank technisch kaum realisierbar ist. Das Ministerium hält trotzdem an der Darstellung fest, es handle sich nur um eine „digitale Beschleunigung des manuellen Augenscheins".

Pikant: Für den biometrischen Abgleich soll nicht einmal ein Richter zustimmen müssen, eine staatsanwaltliche Anordnung reicht. Und die KI-Datenanalyse nach § 98e soll die Grenzen des Karlsruher Palantir-Urteils von 2023 umschiffen, das den Einsatz solcher Software in Hessen und Hamburg für weitgehend verfassungswidrig erklärt hatte.

Die Volkszählung war gestern

1987 gingen in Deutschland Hunderttausende gegen eine Volkszählung auf die Straße. 2010 demonstrierten Zehntausende gegen die Vorratsdatenspeicherung. 2018/19 gab es breite Proteste gegen Polizeigesetz-Verschärfungen.

Und heute? Gegen die Einführung eines flächendeckenden KI-Überwachungssystems gab es bisher eine einzige Demonstration, und die richtete sich nur gegen einen einzelnen Softwarehersteller.

Anscheinend hat der stetige Ausbau die Ausdauer der Zivilgesellschaft ausgehöhlt. Vielleicht hat auch Social Media den Wert, den wir unseren Daten zuschreiben, erodiert. Wenn wir freiwillig alles teilen, warum sollte es stören, wenn der Staat zuschaut?

Sicherheit um jeden Preis?

Ich bin kein Gegner von Polizeiarbeit, und ich finde Sicherheit wichtig. Aber es gibt einen fundamentalen Unterschied zwischen anlassbezogener Ermittlung und anlassloser Massenüberwachung.

Ein Verhaltensscanner im öffentlichen Raum überwacht nicht Verdächtige: er überwacht alle. Jeder, der an einer Kamera vorbeigeht, wird von einer KI bewertet. Und die KI trifft diese Bewertung auf Basis von Mustern, die sie in Trainingsdaten gelernt hat (mit allen bekannten Verzerrungen und Fehlern).

Benjamin Franklin wird das Zitat zugeschrieben: „Wer die Freiheit aufgibt, um Sicherheit zu gewinnen, wird am Ende beides verlieren." Das mag abgedroschen klingen, aber es trifft den Kern. Ein Rechtsstaat, der seine Bürger unter Generalverdacht stellt, untergräbt genau die Werte, die er zu schützen vorgibt.

Was jeder tun kann

• Informiert euch über die Polizeigesetz-Novellen in eurem Bundesland
• Unterstützt Organisationen wie netzpolitik.org, AlgorithmWatch oder die Gesellschaft für Freiheitsrechte
• Nutzt euer Wahlrecht: wer für diese Gesetze stimmt, muss das an der Wahlurne verantworten
• Redet darüber: die größte Gefahr ist die Gleichgültigkeit

Quellen: netzpolitik.org (Thüringen-Widerstand), netzpolitik.org (Polizeigesetz-Novelle), netzpolitik.org (Niedersachsen), Verfassungsblog (Berlin ASOG), hessenschau (KI-Videoüberwachung), SWR (Palantir BW), Die Linke Thüringen (PAG-Analyse), netzpolitik.org (Interview Hande: „Unschuldsvermutung umgekehrt"), heise online (Justizministerium: Biometrischer Internet-Abgleich)