Netzwelt

Verbrechensbekämpfung per Software

"Warum ich?"

Verbrechen verhindern, bevor sie geschehen - das verheißt das sogenannte Predictive Policing. Eine Dokumentation zeigt nun, was es für Menschen bedeuten kann, wenn eine Software sie für gefährlich hält.

Pre-Crime

Szene aus dem Film "Pre-Crime"

Von
Mittwoch, 11.10.2017   17:41 Uhr

Als "Minority Report" 2002 ins Kino kam, war der Film eine unterhaltsame Dystopie. Der Steven-Spielberg-Film, der auf einer Kurzgeschichte von Philip K. Dick basiert, spielt im Jahr 2054. Über ein System namens "Pre-Crime" versucht sich die Washingtoner Polizei darin, Morde vorherzusagen. Dabei helfen ihr "Precogs", drei Wesen mit hellseherischen Fähigkeiten. Bestes Popcornkino.

15 Jahre später wirkt "Minority Report" gar nicht mehr so realitätsfern. Polizeibehörden versuchen heute vielerorts tatsächlich, vorab herauszufinden, wo demnächst eine Straftat wie ein Einbruch stattfinden könnte. Statt auf die Hilfe von Hellsehern setzen sie auf Softwareprognosen.

"Wir reden nicht über die Zukunft", heißt es daher zu Beginn der Dokumentation "Pre-Crime", die Donnerstag ins Kino kommt. "Die Zukunft ist schon da: die Versicherheitlichung der Gesellschaft."

"Pre-Crime" liefert einen Einblick in die Welt des Predictive Policings (PP), das auch in deutschen Städten getestet wird (siehe Erklärkasten) - wenn auch in einer vergleichsweise harmlosen Form. Es geht um Vorteile und Probleme des Technikeinsatzes, im Kern aber um die eine Frage: Sollte ein Algorithmus entscheiden, wer im Visier der Fahnder landet?

Darum geht es beim Predictive Policing

Was ist Predictive Policing?

Predictive Policing (PP) steht generell für Polizeiarbeit, die - je nach Ort - in mehr oder weniger großem Maße von Computer-Vorhersagen geprägt wird. Die Idee von PP ist, dass sich durch Daten abschätzen lässt, wo zu bestimmten Zeiten bestimmte Straftaten passieren könnten. Dabei versucht man, zum Beispiel aus sich wiederholenden Mustern von Einbrechern, Schlüsse zu ziehen: Erkenntnisse aus der Vergangenheit sollen helfen, die Zukunft abzuschätzen.

Die Vision: Sind die Daten der PP-Software erst einmal gut genug, könnte es der Polizei womöglich gelingen, Taten zu verhindern, bevor sie passieren. Etwa durch gezielte Präsenz in den Gegenden, in denen das Risiko besonders hoch scheint, dass dort eine Straftat geschieht.

Wo wird Predictive Policing genutzt?

Mit PP wird in vielen Ländern weltweit experimentiert, oft in Form lokaler Tests. Weltweit Schlagzeilen hat ein PP-Projekt aus Chicago gemacht: Dort ließ die Polizei mit Software-Hilfe eine "Strategic Subject List" (SSL) erstellen. Auf dieser Liste tauchen Menschen auf, bei denen es laut der Datenauswertung um ein Vielfalches wahrscheinlicher scheint als bei anderen, dass sie demnächst einen Mord begehen oder Mordopfer werden.

In Deutschland wird PP seit 2014 genutzt, Software-Tests gibt und gab es in einigen Bundesländern, darunter beispielsweise Niedersachsen. In Bayern und Baden-Württemberg wird mit der Software "Precobs" experimentiert. Das Programm kommt dort in den Regionen München, Nürnberg, Karlsruhe und Stuttgart zum Einsatz.

Welche Straftaten sollen mit Predictive Policing verhindert werden?

In Deutschland soll Software wie "Precobs" bislang vor allem dabei helfen, Einbruchswahrscheinlichkeiten zu berechnen, damit sich zum Beispiel Patrouillen besser planen lassen. Grundsätzlich lassen sich Prognose-Systeme aber auch mit Blick auf andere Straftaten nutzen, sofern zu ihnen genug Datenmaterial vorliegt.

Ein großer Unterschied zwischen dem PP-Einsatz in Deutschland und anderen Ländern besteht darin, dass die Systeme hierzulande in erster Linie geobasiert sind. Sie sollen abschätzen helfen, wo etwas passiert, nicht wer etwas tun könnte. Andere Predictive-Policing-Systeme wie das in Chicago beziehen auch personenbezogene Daten ein, sie machen Vorhersagen zu konkreten Personen.

Funktioniert Predictive Policing?

Diese Frage lässt sich nicht pauschal beantworten, dafür gibt es zu unterschiedliche Software und zu viele Einsatzarten. Vom Max-Planck-Institut für ausländisches und internationales Strafrecht in Freiburg hieß es im September 2017 zum "Precobs"-Test in Baden-Württemberg, es hätten sich Hinweise ergeben, "welche die angewandte Predictive-Policing-Methodik anscheinend bestätigen".

Grundsätzlich lässt sich sagen, dass der Einsatz von PP in Großstädten tendenziell sinnvoller erscheint als in ländlichen Regionen, allein durch die höhere Zahl von Straftaten, die zu mehr Datenmaterial führt.

Simon Egbert vom Hamburger Institut für Kriminologische Sozialforschung schrieb im August 2017, es sei schwer zu beurteilen, wie erfolgreich eine PP-Strategie wirklich ist, "da über die Treffergenauigkeit der generierten Prognosen keine Aussage getroffen werden kann": "Prognostiziert die Software einen Einbruch in einem klar definierten Gebiet und Zeitraum und findet dieser nicht statt, ist hinterher unklar, ob die Software fehlging oder die Streifenkräfte die Tat erfolgreich verhindert haben."

Was hat das heutige Predictive Policing mit "Minority Report" gemein?

Die Namen einiger PP-Programme wie "Precobs" und auch ihre Vermarktung spielen auf den Kinofilm "Minority Report" von 2002 an, der auf einer älteren Kurzgeschichte von Philip K. Dick von 1956 basiert. In dem Film versucht die Polizei in Washington über ein System namens "Pre-Crime", Morde zu verhindern, bevor sie passieren. Das System basiert unter anderem auf Hellsehern, sogenannten Precogs.

In der Realität ist PP nicht so weit wie im Science-Fiction-Film: Simon Egbert bemerkt dazu, dass es bei der gegenwärtigen Nutzung polizeilicher Prognosesoftware nicht um die präzise Vorhersage konkreter Taten samt Täter, Tatort und Tatzeit gehe, "sondern deutlich abstrakter um die Prognose von möglichen Risikogebieten (zum Beispiel einer Wohnquartiersebene mit rund 400 Haushalten) in einem spezifischen Zeitraum (zum Beispiel für sieben Tage)". Aus Egberts Sicht gilt daher: "This is not Minority Report."

Monika Hielscher und Matthias Heeder lassen in ihrem Film Fürsprecher wie Mahner zu Wort kommen, Verantwortliche wie Betroffene. Vorgestellt werden dabei Programme mit Namen wie PredPol, Precobs und Beware. Was solche Software tut, variiert stark: Mal erstellt sie digitale Karten mit rot markierten Bereichen, in denen Einbrüche wahrscheinlicher scheinen als anderswo, wie im Film das Beispiel "Precobs" aus München zeigt. Mal geht es aber auch weit darüber hinaus.

Eine Liste, die das Leben schwerer macht

Protagonist Robert McDaniel etwa ist laut dem Film eine von rund 400 Personen, die in Chicago auf der "Strategic Subject List" stehen. Diese Liste hat ein Computer erstellt, McDaniel zählt ihr zufolge sinngemäß zu den gefährlichsten, damit aber auch gefährdetsten Leuten - wohl vor allem wegen seines Bekanntenkreises. Einen Einfluss auf die Liste hat nämlich zum Beispiel, mit wem zusammen man schon festgenommen wurde oder ob kürzlich ein Bekannter ermordet wurde.

Pre-Crime

Robert McDaniel

Eine Polizeibeamtin und ein Sozialarbeiter seien zu ihm nach Hause gekommen, erzählt McDaniel im Film. "Sie teilten mir mit, dass ich einem Test unterzogen wurde und dass es wahrscheinlich sei, dass ich jemanden erschieße oder selbst erschossen werde."

Die Gewissheit, dass er wegen einer Computerprognose unter Dauerbeobachtung steht, macht McDaniel sein Leben schwerer, als es ohnehin ist. So würde er zum Beispiel immer wieder im Alltag beobachtet, erzählt er. "Würde ich jetzt ein Verbrechen begehen, würden sie sich rühmen. Sie bekämen Auszeichnungen. 'Wir hatten recht'. Darauf hoffen sie."

"Sie müssen Ihre Lebensweise ändern"

Eine Menschenrechtsanwältin aus Chicago sagt zu Fällen wie dem von McDaniel: "Es macht Angst, nicht zu wissen, wie die Liste zustande kommt oder wie man wieder runterkommt."

Ubisoft

Szene aus "Watch Dogs": Das Videospiel von 2014, das in Chicago spielt und eine Gesellschaft unter Dauerüberwachung simuliert, hat im Film einen Gastauftritt

Ähnliches wie in Chicago passiert auch in London - am Rand der Gesellschaft, wo es fast nur die Betroffenen selbst wahrnehmen. In Tottenham hat ein Mann namens Smurfz einen Brief von der Polizei bekommen, die Gangs mit einer Datenbank namens Matrix entgegentritt. "Nach unseren Informationen stehen Sie in Verbindung mit einer kriminellen Bande", liest er daraus vor. Weiter heißt es: "Sie müssen Ihre Lebensweise ändern."

"So ein Quatsch", sagt Smurfz dazu. "Niemand kann dir verbieten, mit wem du rumhängst, wo hingehst, was du machst." Aber er sagt auch: "Sie wissen, mit wem wir abhängen, was wir machen." Man könne "dem" nicht entkommen, die Polizei sei die größte Gang der Welt. Später berichtet Smurfz vor der Kamera von einer Auseinandersetzung mit der Polizei, dazu fragt er: "Warum ich?"

Vorsicht, falscher Tweet

Warum es mitunter fatal sein kann, sich zu sehr auf Technik zu verlassen, erklären im Film Bürgerrechtler und Anwälte. So wird etwa im kalifornischen Fresno eine Software namens Beware genutzt, die auf verschiedene Datenbanken und Social-Media-Dienste zugreift. Beamten soll sie helfen abzuschätzen, wie viel Ärger ihnen bei einem Einsatz an einer bestimmten Adresse drohen könnte.

Doch ein System wie Beware läuft offenbar nicht problemlos. Ein Anwalt führt dafür das Beispiel einer Frau an, die auf Twitter das Wort "Rage" (Wut) benutzt haben soll. Sie sei daraufhin von der Software als potenzielles Problem markiert worden, obwohl sich ihre Tweets nur um ein Kartenspiel namens "Rage" gedreht hätten.

In einer perfekten Welt und mit einer perfekten Software wären Polizeibeamte durch das System unter Umständen geschützter, sagt der Anwalt. "Das Problem ist nur, dass nichts perfekt ist."

Fragen am Meer

"Pre-Crime" ist ein düsterer Film, auch ganz praktisch, wegen vieler Nachtaufnahmen. Gebrochen wird der Doku-Teil gelegentlich mit Reflektionen des Regisseurs Heeder, die es in dieser Form nicht gebraucht hätte. Heeder sitzt zeichnend auf Klippen am Meer und wirft dazu Fragen auf, etwa "Wen schützt der Algorithmus - und wen nicht?" und "Was, wenn Freiheit nichts als eine Illusion gewesen wäre?" Antworten darauf muss sich der Zuschauer selbst geben.

Pre-Crime

Regie-Team Heeder und Hielscher: "Wir halten die Predictive-Crime Systeme, die auf Personen abzielen, für problematisch."

Zu Aktionismus oder Aktivismus ruft die Dokumentation nicht auf, sie ist keine "Making a Murderer"-Variante, in der versucht wird, jemanden von einer Beobachtungsliste herunterzubekommen.

Manchmal würde man sich vom Film aber doch ein wenig mehr Position wünschen, ein wenig mehr Einordnung: Am Ende liefert er vor allem schlaglichtartige Einblicke in teils grundverschiedene PP-Ansätze aus unterschiedlichen Ländern.

Zumindest eines macht der Film aber vor allem anhand von Smurfz und McDaniel klar: Dass man, egal wohin sich die Technik entwickelt, nicht vergessen sollte, dass Wahrscheinlichkeiten keine Gewissheiten sind. Menschen können sich ändern, wie es übrigens auch "Minority Report" zum Teil der Handlung machte, wenn die Hauptfigur einen Mord, den sie angeblich begehen wird, nicht begeht.

Robert McDaniel sagt zum Schluss des Films, dass seine Geschichte vielleicht niemanden interessiere, "weil es nur um mich geht". Doch er fragt auch: "Aber was, wenn es Ihren Sohn, Ihre Tochter, Ihr Kind betrifft? Oder Sie selbst?"

"Pre-Crime"

Deutschland, 2017

Regie: Monika Hielscher, Matthias Heeder

Drehbuch: Monika Hielscher, Matthias Heeder

Produktion: Stefan Kloos

Redaktion: Sabine Rollberg (WDR/ARTE)

Verleih: Rise And Shine Cinema

Länge: 88 Minuten

Start: 12. Oktober 2017, als Original mit deutschen Untertiteln

insgesamt 34 Beiträge
HH1960 11.10.2017
1. Teilweise ist das ok
Wenn die Polizei wie beschrieben gefährdete Areale besser identifizieren und schützen könnte - wie in D in der Erprobung - halte ich das für sinnvoll. Werden einzelne Menschen z.B. aufgrund ihres Social Media Profils [...]
Wenn die Polizei wie beschrieben gefährdete Areale besser identifizieren und schützen könnte - wie in D in der Erprobung - halte ich das für sinnvoll. Werden einzelne Menschen z.B. aufgrund ihres Social Media Profils beobachtet, ist das grenzwertig. Generell sollte m.E. die Polizei auf dem Stand der Technik bleiben. Die Verbrecher sind es allemal.
rex_danny 11.10.2017
2.
Ja nun, überall im Leben übernehmen Maschinen und Software die Aufgaben von Menschen. Was hier beschrieben wird, ist nichts anderes, als der Schutzmann vor 100 Jahren machte, wenn er einfach nur an der Kreuzung stand und die [...]
Ja nun, überall im Leben übernehmen Maschinen und Software die Aufgaben von Menschen. Was hier beschrieben wird, ist nichts anderes, als der Schutzmann vor 100 Jahren machte, wenn er einfach nur an der Kreuzung stand und die Umgebung beobachtete. Seine Datenbank war sein Gehirn, sein Speicher sein Notizbuch und sein Netzwerk waren die Kollegen. Er kannte sein Revier und die Schrullen seiner Bewohner. Er kannte die Guten, die Bösen, die Seltsamen und alle die, auf die man ein Auge werfen musste. Ein Polizist tut in diesem Sinne auch nichts anderes, als (verdächtiges) Verhalten zu analysieren, abzuwägen, einzuordnen, auszusortieren und abzuschätzen, was dahinter stecken könnte. Die guten Polizisten konnten genau das ziemlich gut und hatten dann den berühmten Riecher - wenn etwas "gegen den Himmel stank". Heute hat die wenige Polizei dazu keine Zeit, die Beamten rennen der Arbeit hinterher und der Schutzmann an der Ecke, den sieht man nicht mehr. Und wenn es den gäbe, käme ganz bestimmt der nächste steuerzahlende Bürger und würde ihn anmaulen, ober fürs Nichtstun bezahlt würde. Also übernehmen heute Kameras und Software diese Arbeit. Finde ich im Jahr 2017 durchaus für angemessen.
NatanielPusch 11.10.2017
3. Polizisten haben Erfahrungswerte ...
... weshalb sie bestimmte Menschen häufiger kontrollieren als anderen. Wenn es aber Menschen sind, die diese Wahl treffen, wer häufiger kontrolliert wird, sind Vorwürfe von Rassismus selten weit. Was ist aber, wenn nun eine [...]
... weshalb sie bestimmte Menschen häufiger kontrollieren als anderen. Wenn es aber Menschen sind, die diese Wahl treffen, wer häufiger kontrolliert wird, sind Vorwürfe von Rassismus selten weit. Was ist aber, wenn nun eine Software eine ähnliche Korrelation bestätigt, wie sie den Erfahrungswerten von erfahrenen Polizisten entspricht? Wäre diese Software dann auch Rassistisch? Oder müsste sie der Quotengerechtigkeit halber eine äquivalente Anzahl eigentlich unbescholtener Leute in die Liste nehmen, nur damit es keine Rassismusvorwürfe gibt? Sozusagen die "Quotenweissen", wie es sie heute schon bei Kontrollen gibt. Sie werden nur deswegen gefilzt, damit niemand sagen kann, dass die Polizei nur Schwarze kontrolliert.
melnibone 11.10.2017
4. Der Staat ...
und die Software: sind bedeutend gefährlicher als der Bürger. Ich möchte keine neue schöne Diktatur.
und die Software: sind bedeutend gefährlicher als der Bürger. Ich möchte keine neue schöne Diktatur.
oil-peak-fan 11.10.2017
5. Brazil.
Philip K. Dick, im Text wird es kurz erwähnt, hatte Minority Report 46 Jahre vor der Spielberg-Verfilmung veröffentlicht. Er kannte die Werke Huxleys, Heinleins, Asimovs, Bradburys und hat vieles noch weitergedacht, vor allem [...]
Philip K. Dick, im Text wird es kurz erwähnt, hatte Minority Report 46 Jahre vor der Spielberg-Verfilmung veröffentlicht. Er kannte die Werke Huxleys, Heinleins, Asimovs, Bradburys und hat vieles noch weitergedacht, vor allem aber heruntergebrochen in eine mögliche Realität. Wie total ein Staat sein kann, ließ sich von den damit gescheiterten damaligen Deutschen lernen. Heute ist die totale Überwachung durch z.B. Meldeamt, Finanzamt, Arbeitsagentur, Jobcenter, Krankenkasse, … Standard in Demokratien. Nacktscanner an Flughäfen und wer weiß schon, wo noch, und im öffentlichen Raum überall Kameras. Wozu das alles? Zu unserer Sicherheit? Wer zudem an sichere Software glaubt, sollen ja nicht wenige sein, dem ist nicht zu helfen, und was Egbert von der bpb insbesondere in den letzten drei Absätzen schreibt, lässt auch eine andere Lesart zu. Ich halte davon nichts.

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH

TOP