Predictive Policing  Jak algoritmy pomáhají při boji se zločinem

Zamezovat zločinům, než k nim dojde – to je touha jak policie tak obyvatelstva. Dva experti vysvětlují, zda a jak prognostické systémy mohou být nápomocné při „predictive policing“.

Policista John Anderton má problém: pracuje pro oddělení Precrime washingtonské policie v USA a zatýká normálně lidi, kteří jsou jen krok od spáchání vraždy. Co když najednou systém předpoví, že on sám hodlá spáchat vraždu? Je tato prognóza bezchybná a nemýlí se? Nebo ani policista není imunní vůči tomu spáchat zbabělou vraždu?
 
Zápletka amerického filmu Minority Report z roku 2002 slouží jako hojně citovaný příklad pro to, jak funguje oddělení „Precrime“, kterému jde v podstatě o prevenci páchání kriminálních činů a „predictive policing“, což lze do češtiny přeložit jako „prediktivní práci policie“. Zásadní roli pak hrají algoritmy, které přejímají operativní prognózu zločinů.
 
Mediální obraz prediktivní policejní práce je spíše temný: obávané jsou především chybné prognózy nebo sledování, což nemá daleko ke konspiraci ohledně všekontrolujícího policejního státu, který člověka sleduje na každém kroku. Německá policie predictive policing používá nejpozději roku 2016 – s filmem Minority Report to ale souvisí jen málo. „Jedné noci jsem stál před mapou, do které si policisté zapichovali špendlíky,“ říká sociolog Thomas Schweer. Vede Institut pro prognózu založenou na vzorcích (Institut für musterbasierte Prognosetechnik) v Oberhausenu. „Tehdy jsem řekl: Žijeme v roce 2000. Roku 1969 jsme letěli na Měsíc a v roce 2000 pořád ještě zapichujeme špendlíky do mapy?“ Institut podle Schweera vyvinul „od kriminalistů pro kriminalisty“ směrodatný policejní prognostický software PRECOBS, který je používán v Německu a Švýcarsku.

  PRECOBS se specializuje na masovou kriminalitu jako právě vloupání (viz infobox) a má předpovídat pravděpodobnost dalšího vloupání v dané oblasti – jeho úspěšnost je však sporná. V jedné evaluaci byla zjištěno „pouze velmi omezené využití“ tohoto programu, říká kriminolog Dominik Gerstner. Pracuje v Institutu Maxe Plancka pro zkoumání kriminality, bezpečnosti a práva ve Freiburgu a PRECOBS v letech 2015-2016 důkladně prozkoumal. Zbytečný podle něj systém rozhodně není – ale jeho efekt na policejní práci je podle Gerstnera „mírný“. Vývojář Schweer o evaluaci říká: „Evaluace hodně vypovídá o funkčnosti PRECOBSu. Jen závěry nejsou dobře udělané.“ Podle něj ale výsledek rozhodně není nezdar. „Chce to ještě čas.“

Predictive Policing je celosvětově na postupu

Schweer může mít pravdu. Neboť policejní prognostické softwary se už používají ve Velké Británii, JAR, Brazílii, Švýcarsku a Nizozemsku. I v Číně experimentují se „Sesame Credit“, social scoring systémem, který připomíná německou informační úvěrovou kancelář SCHUFA, ovšem zahrnuje více rankingových faktorů. Kriticky je v Německu vnímaná obzvlášť americká prediktivní policejní praxe. V Chicagu se tak například na seznamu „Strategic Subject List“ (zvaném také „Heat List“) už jasně nerozlišují podezřelí a potenciální oběti trestných činů. Ostatně nejasné je i to, jak se některé osoby na seznam vůbec dostaly – a zda z něj vůbec někdy budou smazány.
 
V kalifornském Fresnu se naproti tomu policisté před nouzovým voláním od prognostického systému Beware pokaždé dozví, zda člověk na místě činu, s nímž hovoří, byl již trestaný nebo vlastní zbraň. „To má vliv především na jednání policistů,“ vysvětluje Gerstner. „Jestli spíše zvoní nebo stojí za dveřmi se zbraní v ruce. To může být v USA samozřejmě velký rozdíl.“ Problematické je v prediktivní práci policie v USA používání osobních dat (například adresa, číslo účtu nebo rodinný stav) a také rasisticko-etnické stereotypy a odsouzení předem, na které doplácí především chudší vrstvy obyvatelstva. I v Německu se shromažďují osobní údaje – ovšem aktuálně pouze v souvislosti s takzvanými islamistickými „ohrožovači“. Jak Gerstner tak Schweer zdůrazňují, že software může poskytovat i chybné výsledky, například na základě chybějících nebo chybných dat nebo prostě chyb vzniklých při vkládání. Takové konstelace by se v podobě závažných důsledků pro postižené mohly v rámci systému množit.

Nakopnout digitalizaci místo dystopie

Pro Německo ovšem nejdříve platí: prediktivní práce policie je spíše krok k digitalizaci nebo než dystopická science fiction. Pro policisty software znamenal ulehčení jejich práce, tvrdí Gerstner, byť některé spolkové země ho využívají odlišně. Policisté mohou nyní shromažďovat a vyhodnocovat velmi strukturovaná data pro určité trestné činy stejně jako včas rozpoznat nápadné vzorce. Jsou tak „dění napřed“, jak líčí Schweer – mohou tedy předvídat, jak náročný zásah bude a přizpůsobit tomu třeba velikost nasazení jednotky.
 
Se zavedením systému se kromě toho ukázalo i to, že policie pro svoji práci potřebuje moderní počítače, chytré telefony a software, kterému rozumí a který umí správně ovládat. Vybavení moderními technologiemi na policejních stanicích v Německu není samozřejmost, konstatuje Schweer – stejně jako souhra člověka a dat: „Je třeba se také vyrovnávat s výhradami,“ doplňuje Schweer. „Objevil se  nyní software, který člověku říká, kam má jet. Pro policistu to nesmí být žádný black box a musí být pochopitelný i po odborné stránce, aby byl respektovaný.“ Oba experti jsou zajedno v tom, že prediktivní práce policie není žádná „magická křišťálová koule“, z níž lze vyčíst „trendy v kriminalitě“ nebo dokonce budoucí trestné činy. Hodně vyšetřování – i co se kyberkriminality týče – lze provádět i klasickými metodami. Nástroje prediktivní práce policie mohou sloužit jako doplňující rozhodovací a vyšetřovací pomůcka, která šetří personál a náklady.

Spící obr – policejní databanky

Ovšem neškodná německá prediktivní práce policie není. Německé bezpečnostní úřady mají k dispozici enormní množství dat, byť dřímou na jakoby izolovaných „datových ostrovech“. Pouze malé vzájemné propojení těchto databank působí zastarale, ovšem uskladněná data jsou tak dodatečně chráněná před zneužití. Nástroje jako PRECOBS zvyšují tlak na policejní práci, aby se přesně taková data ve velkém používala a pracovalo se s nimi jako se surovinou. Kvůli ochraně dat a rizikovosti prognóz je celá situace mnohem více kontroverzní, pokud se ještě přikoupí další data od externích firem – například pramenící z geomarketingu (data využívající geolokace), jak líčí Gerstner. Je doposud nejasné, jak přesně se tato data projevují v softwaru prediktivní práce policie a zda by (jako v USA) mohly vést k intenzivnějšímu odsuzování předem a to s dopadem na určité společenské skupiny.

Kriminolog Dominik Gerstner | Foto: © Max-Planck-Institut zur Erforschung von Kriminalität, Sicherheit und Recht

Veřejná debata o prediktivní práci policie se téměř nekoná

Problematická může být také spolupráce soukromých dodavatelů a státních úřadů. Spolková země Hesensko používá prognostický software, který vychází z programu Gotham americké firmy Palantir basiert. Palantir spolupracuje i s americkými úřady jako CIA, NSA a FBI. „Gotham je komplexní, ukládají se do něj hodně různé zdroje dat,“ tvrdí kriminolog Gerstner. „Je založený na spoustě algoritmů, které jsou obchodní tajemství. To je samozřejmě pro úřady problém.“ Koupit takový software za peníze daňových poplatníků se úřadům musí vyplatit. Vzniká tak tlak na to předložit úspěšnost při používání programu. Co když se ale stane, že ochrana dat jde ve velké míře stranou, aby program rychle dodal „rychlé“ výsledky?
 
Závěrem lze říct, že nástroje prediktivní práce policie jsou již sice v některých spolkových zemích používány – veřejná diskuse na toto téma se ovšem téměř nekoná. Kritici těchto nástrojů se obávají potíží s ochranou dat, a to především proto, že by mohlo dojít k porušování také základních právních pilířů jako presumpce neviny a zákaz diskriminace. Doposud otevřené jsou také otázky ohledně potenciálu prognóz – například jak lze neprovedené trestné činy vlastně správně měřit? Kromě toho mezi policisty nadále platí kvóta zatčení jakožto faktor úspěšnosti jejich práce – jak s těmito očekáváními policistů budou v budoucnu pracovat? A jakou roli software hraje ve výši kvóty zatčení? Další důležitou otázkou je, proč jsou nástroje jako prediktivní policejní práce potřeba? Míra kriminality v Německu přece jenom spíše klesá, než stoupá.

Cítíme se prostě mnohem méně v bezpečí, nebo skutečně existuje více ohrožení? A v jaké vrstvě společnosti se cítíme ohrožení – a v jaké spíše kriminalizováni? Jedním ze sporných aspektů je kromě toho vývoj softwaru, který má vyhledávat radikalizované atentátníky. Co když ale potenciálnímu teroristickému útoku lze zamezit jen na dálku řízeným zabitím takové cílové osoby? A co když prognóza bude třeba jen v jednom jediném případě chybná?

január 2021