Ministerstwo Sprawiedliwości Zjednoczonego Królestwa (UK) rozwija projekt badawczy mający służyć przeprowadzeniu zakrojonej na szeroką skalę oceny ryzyka popełnienia brutalnych przestępstw przez określone osoby. W ramach tego programu, algorytmy mają przetwarzać dane osobowe tysięcy osób znanych brytyjskich organom ścigania i wymiarowi sprawiedliwości (w tym również np. ofiar przestępstw). Opinia publiczna przyjęła informacje o programie bardzo krytycznie, a on sam został określony jako ,,dystopijny”.
Pytanie lombrozjańskie w XXI wieku
Kwestia możliwości przewidywania, kto popełni określone przestępstwa od zawsze było obiektem zainteresowania kryminologii. Już Cesare Lombroso – jeden z ojców tej nauki – zastanawiał się jakie cechy odróżniają przestępców od ludzi, którzy przestępstw nie popełniają, czy też czy na podstawie określonych cech da się przewidzieć kryminalną przyszłość danej osoby. Temat ten eksplorowała również kultura popularna – idea karania za przestępstwo przewidziane lecz jeszcze niepopełnione od razu przywodzi na myśl fabułę popularnego filmu Raport mniejszości.
Takie działania bez wątpienia wzbudzają szereg wątpliwości, w tym wątpliwości etycznych. Dotychczas próby przewidywania kto może popełnić przestępstwo, były możliwe tylko w bardzo ograniczonym zakresie. Zmieniło się to jednak w ciągu ostatnich dwóch dekad – rozwój technologii informacyjnych, ukoronowany powstaniem powszechnie dostępnej AI, zapewnił możliwości profilowania ludzi i predykcji ich zachowania w sposób wcześniej niewyobrażalny – z roku na rok każdy kolejny ,,program przewidywania przestępczości” będzie coraz doskonalszy i coraz bliższy odpowiedzi na pytanie lombrozjańskie.
,, sharing data to improve risk assessment”
Program badawczy prowadzony przez Ministerstwo Sprawiedliwości UK nosi aktualnie nazwę „sharing data to improve risk assessment” (w wolnym tłumaczeniu: udostępnianie danych w celu poprawy oceny ryzyka). Pierwotnie nazywał się on ,,homicide prediction project”. Program ten prowadzony jest przez Ministerstwo Sprawiedliwości UK i określany jest jako program badawczy, opierający się o analizę danych osobowych w celu oceny ryzyka popełnienia brutalnych przestępstw przez poszczególne osoby. Rząd UK wskazał, że rozwiązanie oparte o analizę ryzyka są już wykorzystywane w brytyjskim sądownictwie i systemie penalnym, a zaimplementowanie ich do działań profilaktycznych pomoże w zmniejszeniu przestępczości. Brytyjscy urzędnicy zastrzegli jednak, że projekt ma obecnie charakter wyłącznie badawczy.
Wątpliwości organizacji pozarządowych
Organizacja Statewatch wskazała, że z projektem wiąże się szereg kwestii etycznie wątpliwych, które sprawiają, że nie można traktować go po prostu jako ,,programu oceny ryzyka”. Organizacja podnosi, że, wbrew zapewnieniom rządu, w ramach programu wykorzystywane mają być nie tylko dane osób skazanych, ale też np. ofiar przestępstw, czy osób zgłaszających przestępstwa. Przetwarzane w systemie dane mają być natomiast bardzo kompleksowe i obejmować np. historię przemocy domowej w rodzinie danej osoby, historię nałogów, problemów psychicznych czy przypadków samookaleczania. Organizacja wskazała dodatkowo, że wskutek realizacji programu mogą być tworzone wyniki uprzedzone względem określonych grup etnicznych i socjoekonomicznych, co jest częstym problemem algorytmów badających kwestie społeczne.
Strona prawna
Mimo że UK nie podlega już pod prawo Unii Europejskiej (choć trzeba zaznaczyć, że brytyjskie regulacje krajowe w zakresie ochrony danych osobowych są bliźniaczo podobne do RODO), dobrze jest zwrócić uwagę na to jak bardzo problematyczny może być taki program z punktu widzenia ochrony danych osobowych. Warto zaznaczyć, że dyskusyjne jest to czy w ogóle taki program podlegałby pod RODO – jeśli tego typu działalność analityczną uzna się za ,,zapobieganie przestępczości”, zastosowanie znalazłaby bowiem Dyrektywa 2016/680 i implementowane na jej podstawie przepisy krajowe (dyrektywa dotycząca przetwarzania danych przez właściwe organy w celu m.in. zapobiegania przestępczości).
Z samej swojej natury program opiera się na profilowaniu – polega bowiem na wnioskowaniu o przyszłym zachowaniu osoby w oparciu o posiadane dane. Jakkolwiek według zapewnień póki co projekt ma charakter stricte badawczy, to w razie jego rozwinięcia – w taki sposób, że decyzje podjęte na tej podstawie wywierałyby skutki prawne lub istotnie wpływały na osoby, których dane są przetwarzane – profilowanie to stałoby się profilowaniem kwalifikowanym i jako takie byłoby objęte specjalnym reżimem prawnym. Warto też zaznaczyć, że tego rodzaju wnioskowanie – zautomatyzowane podejmowanie decyzji przez algorytmy – może być objęte również regulacjami dotyczącymi sztucznej inteligencji (w UE – Ai Act).
Zgodnie z doniesieniami, w ramach programu mają być przetwarzane nie tylko dane dotyczące wyroków, czy wniesionych aktów oskarżenia, ale również dane szczególnych kategorii, np. dotyczących stanu zdrowia ocenianej osoby. Zarówno RODO, jak i brytyjskie przepisy o ochronie danych osobowych przewidują dodatkowe wymogi w zakresie dopuszczalności przetwarzania takich danych osobowych.
Źródło:
