Ermittler müssen digital arbeiten können. Überwachungssoftware aus den USA aber ist der falsche Weg. Die Regierung muss Experimentierräume für eigene Lösungen schaffen. Gemeinsam mit Michael Kolain habe ich bei ZEIT Online folgenden Gastbeitrag veröffentlicht und einen eigenen Vorschlag gemacht, um das vermeintliche Spannungsfeld zwischen digitaler Ermittlungsarbeit und Wahrung von Bürgerrechten aufzulösen:
Im vergangene Woche (Anmerkung der Redaktion: am 21. April 2025) ausgestrahlten Hannover-Tatort „Im Wahn“ setzt die Polizei eine neuartige Software des fiktiven Unternehmens KROISOS ein, um eine Messerattacke am Hauptbahnhof aufzuklären. Im Präsidium taucht der Vertreter des Techkonzerns auf, lässt eine künstliche Intelligenz über die Datenbestände laufen und präsentiert in Windeseile den wahrscheinlichsten Täter: einen psychisch erkrankten Mann. Die Führungsebene ist begeistert, die Innenministerin jubelt. Doch Kommissar Falke bleibt skeptisch gegenüber der mysteriösen Firma – zurecht, wie sich schließlich herausstellt.
KROISOS steht für zahlreiche reale Unternehmen, die ihr Arsenal an Überwachungstools derzeit deutschen Sicherheitsbehörden feilzubieten versuchen. So verspricht das US-Unternehmen Palantir, Erkenntnisse aus behördlichen Datenpools in Echtzeit zu gewinnen, zu denen menschliche Analysten nicht (so schnell) gelangen könnten – bis hin zur algorithmischen Identifizierung möglicher Täter. Die US-Firma Clearview.ai wiederum lockt die Behörden damit, unbekannte Personen mithilfe einer riesigen Datenbank biometrisch identifizieren zu können.
Doch so reizvoll der Einsatz neuer digitaler Tools auch ist: Unsere Verfassung und das europäische Recht machen, gerade im Bereich der Sicherheitspolitik, verpflichtende Vorgaben – und ziehen mitunter auch rote Linien. So verstößt die Gesichtsdatenbank von Cleaview.ai gegen europäisches Datenschutzrecht und die Verbote der EU-KI-Verordnung (KI-VO). Der Einsatz der Datenanalysesoftware Gotham der Firma Palantir in deutschen Polizeibehörden scheiterte mehrfach vor dem Bundesverfassungsgericht. Dennoch scheint nun auch die schwarz-rote Koalition wieder damit zu liebäugeln, bei der Firma des Trump-Unterstützers und Demokratiefeinds Peter Thiel auf Einkaufstour zu gehen. In der aktuellen geopolitischen Lage erschiene das maximal fahrlässig.
Denn Softwarelösungen aus nicht-europäischen Staaten unreflektiert einzukaufen, führt im schlimmsten Fall in neue Abhängigkeiten, erleichtert Spionage oder führt gar dazu, dass der Staat die Kontrolle über seine Kernaufgaben verlieren könnte. Statt Sonntagsreden, die abstrakt mehr digitale Souveränität Deutschlands und Europas fordern, braucht es konkrete Maßnahmen. Das fängt bei der Beschaffung an: Die Innenministerien sollten in erster Linie auf staatliche Eigenentwicklungen und europäische Lösungen statt auf Angebote dubioser Konzerne zurückgreifen.
Das ist keine Fundamentalkritik. Wer pauschal fordert, Behörden sollten einfach die Finger vom „modernen Teufelszeug“ lassen, verkennt den sicherheitspolitischen Ernst der Lage. Angesichts der inneren und äußeren Bedrohungsszenarien muss eine moderne Polizei im 21. Jahrhundert auch digital arbeiten, um Gefahren ebenso effektiv wie verhältnismäßig zu begegnen.
Leider spielte allerdings verfassungsrechtliches Augenmaß bei der Sicherheitsgesetzgebung bislang zu oft keine Rolle. Auch und gerade angesichts eines künftigen CSU-Innenministers steht zu befürchten, dass die Bundesregierung den grundrechtlichen Spielraum erneut maximal aus- und überreizen und zu weitgehende Befugnisse gegen die Kritik von Abgeordneten, Zivilgesellschaft und Sachverständigen durchboxen wird. Ein fatales Signal in einer Zeit, in der es eigentlich angezeigt wäre, den digitalen Autokratien dieser Welt ein freiheitsachtendes Gegenmodell aufzuzeigen.
Ein pragmatischer Weg zu zeitgemäßer Polizeiarbeit
Wir schlagen einen pragmatischen, bislang wenig diskutierten Ausweg aus dem – nur scheinbaren – Dilemma zwischen moderner Ausstattung und grundrechtskonformen Maßnahmen einer zeitgemäßen Polizeiarbeit vor: KI-Reallabore.
Reallabore sind rechtlich eingehegte Experimentierfelder. Technische Lösungen, die allgemein noch nicht zugelassen sind, werden im Rahmen solcher Projekte in der Praxis erprobt. Dabei können die Beteiligten herausfinden, wie nützlich eine Technik wirklich ist und gleichzeitig Antworten auf offene regulatorische Fragen finden. Die KI-VO sieht solche Labore als Instrument der Innovationsförderung explizit vor – und jeder Mitgliedsstaat muss bis August 2026 ohnehin eines einrichten.
Reallabore können den Weg zu einer grundrechtskonformen, technologisch souveränen und nachhaltigen IT-Infrastruktur für die innere Sicherheit ebnen. Sie eröffnen einen transparenten Experimentierraum, in dem sich die zuständigen Aufsichtsbehörden gemeinsam mit der Digitalwirtschaft auf die Suche nach ebenso rechtskonformen wie effektiven KI-Systemen machen können – etwa um Zeugenaussagen zu übersetzen, Tatspuren zu analysieren oder komplexe Sachverhalte zu visualisieren. So können sie auch bei der gezielten Fahndung nach Tätern helfen.
Der EU-Gesetzgeber eröffnet gezielt Raum dafür, dass die Polizei ihre Datenbestände für derartige Analysen nutzt: Personenbezogene Daten, die in der Vergangenheit zum Zweck der „Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten“ rechtmäßig verarbeitet wurden, dürfen in Reallaboren weiterverwendet werden (vgl. Art. 59 Abs. 2 KI-VO). Als Sicherung sieht die Verordnung zugleich vor, dass die sensiblen Daten „unter der Kontrolle und Verantwortung der Strafverfolgungsbehörden“ bleiben müssen – einer Auslagerung an Privatfirmen ist damit ein Riegel vorgeschoben.
Funktionierende Lösungen, die der Staat selbst betreiben kann
Gerade bei sehr grundrechtssensiblen Ermittlungsmethoden können sich Reallabore als nützlich erweisen. Sie könnten zwei Ziele miteinander in Ausgleich bringen: Auf der einen Seite verfassungskonforme Rechtsgrundlagen, die den Technikeinsatz präzise vorzeichnen. Auf der anderen Seite technisch funktionierende Lösungen, die der Staat souverän betreiben und unabhängig überprüfen kann. Am Ende des Prozesses stünde ein tatsächlicher Mehrwert in der täglichen Polizeiarbeit.
Um die Interessen der Behörden und der Bürgerinnen und Bürger in Ausgleich zu bringen, sollten bei Konzeption und Umsetzung neuer Ermittlungsbefugnissen Aufsichtsbehörden mit starkem Fokus auf Grundrechte und technischem Sachverstand von vornherein mit im Boot sein. Hier denken wir vor allem an die Datenschutzbeauftragten von Bund und Ländern, aber auch an das Bundesamt für Sicherheit in der Informationstechnik (BSI). Am Ende eines Reallabors könnte dann nicht nur ein Beschaffungsvorgang für KI-Systeme stehen, sondern ebenso ein Stoppschild – etwa wenn sich bestimmte Ansinnen oder Anwendungen bei genauerem Hinsehen als verfassungs- und europarechtswidrig erweisen. Dies wäre etwa für eine Echtzeitüberwachung mit Gesichtserkennung im öffentlichen Raum, einer Super-Datenbank des BKA oder bei ausufernden biometrischen Internetscans denkbar.
Politisch klug wäre es, direkt zu Beginn einer neuen Legislaturperiode ein gemeinsames Reallabor von Bund und Ländern einzurichten. Die Details könnte die neue Koalition in ihrem im Koalitionsvertrag verankerten „Bundesexperimentiergesetz“ festlegen. So stünden in absehbarer Zeit technische Lösungen bereit, die Bund und Länder einheitlich beschaffen und in die Pläne für ein Datenhaus Polizei 20/20 integrieren können. So lassen sich Grundrechte schützen und öffentliche Mittel sparsam einsetzen. Behörden könnten künftig sehr viel effizienter zusammenarbeiten und es entstünde mehr Transparenz.
Reallabore ermöglichen der öffentlichen Hand zudem, europäische kleinere und mittlere Unternehmen besonders stark in die Planungen einzubeziehen und zu berücksichtigen – und wenig vertrauenswürdige Unternehmen bewusst außen vor zu lassen. Es wäre echte, gelebte digitale Souveränität im Bereich der inneren Sicherheit, „Privacy by Design“ par excellence – und nebenbei gelebte Förderung des Mittelstands und des Start-up- sowie Open-Source-Ökosystems in Europa. Die KI-VO lässt auch sandboxes, also kontrolliert Umgebungen, mit anderen EU-Mitgliedstaaten zu.
Dass das neue Sondervermögen nicht nur Verteidigungsausgaben im militärischen Sinne beinhaltet, sondern einem integrierten Sicherheitsbegriff folgt, der auch IT-Sicherheit und eine bessere Ausstattung der Sicherheitsbehörden umfasst, ist eine große Chance. Die neue Bundesregierung hat dadurch eine Steilvorlage erhalten. Statt weiterhin Massenüberwachungs-Zombies wie der anlasslosen Vorratsdatenspeicherung oder Gesichtserkennung im öffentlichen Raum nach chinesischem Vorbild nachzulaufen, sollte sie zum Sprint für eine moderne und rechtsstaatliche Polizeiarbeit ansetzen. Wir appellieren an die Verantwortlichen in Union und SPD: Starten Sie KI-Reallabore jetzt.
Comments are closed