magazyn lewicy katolickiej

System matematycznej przemocy

System do podejmowania decyzji o pomocy spo┼éecznej staje si─Ö pa┼ästwowo-policyjnym mechanizmem wydobywania wiedzy o ludziach ┼╝yj─ůcych ÔÇ×na marginesieÔÇŁ. Wiedzy bezczelnie wykorzystywanej w celu ich nadzorowania, dyscyplinowania i kryminalizowania. To panoptykon na miar─Ö XXI wieku.
System matematycznej przemocy
Ilustr.: Magdalena Sołodyna

Sama przeciw systemowi

Sze┼Ť─ç miesi─Öcy po urodzeniu pierwszego dziecka mieszkaj─ůca w Indianie Lindsay Kidwell utraci┼éa dost─Öp do programu gwarantuj─ůcego ubogim matkom niezb─Ödn─ů opiek─Ö medyczn─ů. Problemy rozpocz─Ö┼éy si─Ö, gdy otrzyma┼éa wysoki na 246 dolar├│w rachunek z informacj─ů o tym, ┼╝e Medicaid, czyli program pomocy socjalnej finansuj─ůcy opiek─Ö zdrowotn─ů, nie op┼éaci┼é kosztu jej kontroli poporodowej. Gdy dwa dni p├│┼║niej jak zwykle robi┼éa zakupy spo┼╝ywcze, jej karta z kuponem ┼╝ywno┼Ťciowym zosta┼éa odrzucona przy kasie. Jedyn─ů poszlak─ů co do ┼║r├│d┼éa tych problem├│w by┼é list, kt├│ry znalaz┼éa w skrzynce pocztowej. ÔÇ×Twoje ┼Ťwiadczenia zostan─ů wstrzymane z nast─Öpuj─ůcego powodu: BRAK WSP├ô┼üPRACY W ZAKRESIE WERYFIKACJI DOCHODU NA PODSTAWIE REGULACJI 470IAC2 1-1-2ÔÇŁ ÔÇô g┼éosi┼éa automatycznie wygenerowana wiadomo┼Ť─ç.

Pozostawiona bez ┼Ťrodk├│w na leczenie oraz jedzenie, Lindsay posz┼éa do urz─Ödu pomocy spo┼éecznej. Jego pracownik t┼éumaczy┼é, ┼╝e ┼Ťwiadczenia zosta┼éy cofni─Öte, poniewa┼╝ w dokumentacji brakowa┼éo tak zwanego paska p┼éacowego jej m─Ö┼╝a, czyli dokumentu zawieraj─ůcego list─Ö wyp┼éat Jacka. Wiadomo┼Ť─ç ta zaskoczy┼éa m┼éod─ů matk─Ö, bo dos┼éownie kilka dni wcze┼Ťniej dzwoni┼éa na infolini─Ö, ┼╝eby upewni─ç si─Ö, jakie dokumenty nale┼╝y z┼éo┼╝y─ç, aby dosta─ç niezb─Ödne wsparcie. Zgodnie z zaleceniami zamiast paska, kt├│rego Jack nie otrzymywa┼é, Lindsay za┼é─ůczy┼éa skan wyp┼éat m─Ö┼╝a i o sprawie zapomnia┼éa.

Przed kolejn─ů wypraw─ů do urz─Ödu Kid-well uzbroi┼éa si─Ö w komplet wszystkich papier├│w, kt├│rych wymaga┼éa stanowa biurokracja. Na jej oczach pracownik biura zeskanowa┼é dokumenty, wgra┼é do systemu i ÔÇô na jej specjaln─ů pro┼Ťb─Ö ÔÇô przekaza┼é pisemne potwierdzenie, ┼╝e trafi┼éy gdzie trzeba. Lindsay z┼éo┼╝y┼éa r├│wnie┼╝ apelacj─Ö od decyzji o rzekomym braku wsp├│┼épracy. W ko┼äcu spe┼énia┼éa wszystkie kryteria, ┼╝eby otrzyma─ç pomoc, i ze swoich obowi─ůzk├│w wywi─ůza┼éa si─Ö w stu procentach. Niesprawiedliwa i bolesna w skutkach decyzja urz─Ödu by┼éa b┼é─Ödem, kt├│ry, jak si─Ö wydawa┼éo, ┼éatwo b─Ödzie odwr├│ci─ç.

Kilka tygodni p├│┼║niej z rutyny codziennych obowi─ůzk├│w Lindsay wyrwa┼é niepokoj─ůcy telefon. Dzwoni┼é pracownik s─ůdu, kt├│ry ┼╝yczliwie nalega┼é, ┼╝eby wycofa┼éa si─Ö ze swojej sprawy. Dlaczego? W systemie pono─ç brakowa┼éo listy wyp┼éat Jacka. Na nic zda┼éo si─Ö t┼éumaczenie matki, ┼╝e w r─Öku trzyma potwierdzenie z biura z czerwon─ů piecz─ůtk─ů: OTRZYMANO. ÔÇ×Ja w systemie nie widz─Ö dokumentacji pani m─Ö┼╝a. S─Ödzia po prostu spojrzy w komputer i przegra pani spraw─ÖÔÇŁ ÔÇô argumentowa┼é pracownik.

Decyzja, ┼╝eby mimo nalega┼ä nie rezygnowa─ç z apelacji, kosztowa┼éa Lindsay wiele nieprzespanych nocy. Przegrana w s─ůdzie poci─ůgn─Ö┼éaby za sob─ů koszty, na pokrycie kt├│rych nie by┼éo sta─ç m┼éodej rodziny. Szcz─Ö┼Ťliwie poczucie niesprawiedliwo┼Ťci, jakiej do┼Ťwiadczy┼éa, ostatecznie pchn─Ö┼éo Lindsay na sal─Ö s─ůdow─ů, gdzie spraw─Ö uda┼éo si─Ö wygra─ç, a tym samym, odzyska─ç przys┼éuguj─ůc─ů pomoc. Mimo zwyci─Östwa, zderzenie z bezosobowym systemem, kt├│rego drobne potkni─Öcie prawie doprowadzi┼éo rodzin─Ö do spirali d┼éug├│w, by┼éo na tyle traumatyczne, ┼╝e Lindsay ju┼╝ nigdy nie zaaplikowa┼éa o przys┼éuguj─ůce jej wsparcie.

Zoptymalizowa─ç pomoc

Virginia Eubanks w ksi─ů┼╝ce ÔÇ×Automating InequalityÔÇŁ (pol. ÔÇ×Automatyzuj─ůc Nier├│wno┼ŤciÔÇŁ) obok przypadku Lindsay opisuje wiele podobnych historii. Wszystkie ┼é─ůczy to, ┼╝e ┼║r├│d┼éem ludzkich tragedii s─ů wdra┼╝ane na szerok─ů skal─Ö systemy s┼éu┼╝─ůce do automatycznego podejmowania decyzji. Jednak ma┼éo kt├│ra historia, tak jak opowie┼Ť─ç Lindsay, ko┼äczy si─Ö happy endem. Wida─ç to w statystykach. W 1973 roku niemal po┼éowa os├│b ┼╝yj─ůcych poni┼╝ej progu ub├│stwa w USA otrzymywa┼éa jak─ů┼Ť form─Ö finansowego wsparcia. Dekad─Ö p├│┼║niej, po wprowadzeniu pierwszych system├│w do zarz─ůdzania pomoc─ů spo┼éeczn─ů, odsetek ten spad┼é do 30 procent. Dzi┼Ť jest to mniej ni┼╝ 10 procent. Jeszcze wi─Ökszy spadek dotkn─ů┼é najm┼éodszych. W 1973 roku 80 procent ubogich dzieci otrzymywa┼éo pomoc od rz─ůdu USA, dzi┼Ť takie ┼Ťwiadczenie uzyskuje zaledwie jedna pi─ůta potrzebuj─ůcych nieletnich. Na przestrzeni tylko jednej dekady (od 1996 do 2006 roku) blisko osiem i p├│┼é miliona Amerykan├│w i Amerykanek zosta┼éo wyrzuconych z systemu pomocy spo┼éecznej.

Po cz─Ö┼Ťci jest to efekt zmian prawnych, kt├│re w latach 90. wprowadzi┼éy szereg obwarowa┼ä utrudniaj─ůcych otrzymanie wsparcia. Przyj─Öta w 1996 roku ustawa The Personal Responsibility and Work Opportunity Reconciliation Act (ustawa dostosowuj─ůca przepisy o odpowiedzialno┼Ťci osobistej oraz mo┼╝liwo┼Ťci pracy) zmieni┼éa do┼╝ywotni─ů pomoc na maksymalnie sze┼Ť─çdziesi─Öciomiesi─Öczn─ů oraz zako┼äczy┼éa subsydiowanie uniwersyteckiej edukacji. Najdotkliwsze w skutkach by┼éy jednak nowe sankcje. Samo sp├│┼║nienie si─Ö na spotkanie z pracownikiem pomocy spo┼éecznej, nieprzyj┼Ťcie na wolontariat czy pozytywny wynik testu na obecno┼Ť─ç narkotyk├│w m├│g┼é doprowadzi─ç do sta┼éej utraty zasi┼éku.

Polityczny grunt pod t─Ö zmian─Ö przygotowa┼éa kampania prezydencka Ronalda Reagana wymierzona w tak zwane kr├│lowe zasi┼ék├│w (welfare queens). Reagan w swoich wyst─ůpieniach uwielbia┼é przytacza─ç przyk┼éad Lindy Taylor, kt├│ra pos┼éuguj─ůc si─Ö 80 to┼╝samo┼Ťciami mia┼éa wy┼éudzi─ç 150 tysi─Öcy dolar├│w z pomocy spo┼éecznej. W rzeczywisto┼Ťci Taylor zosta┼éa skazana za pos┼éugiwanie si─Ö czterema personaliami, dzi─Öki kt├│rym przyw┼éaszczy┼éa sobie osiem tysi─Öcy dolar├│w. Niemniej rozdmuchane historie o chciwych i leniwych kobietach, wiod─ůcych wystawny tryb ┼╝ycia za pieni─ůdze podatnik├│w, drastycznie zmieni┼éy wizerunek opieki socjalnej.

┼╗eby ukr├│ci─ç rzekom─ů rozrzutno┼Ť─ç, wprowadzono system informatyczny, kt├│ry mia┼é uniemo┼╝liwi─ç pracownikom socjalnym wsp├│┼éprac─Ö z oszustami, a tak┼╝e pozwoli─ç na masowy nadz├│r nad przestrzeganiem wprowadzonych obwarowa┼ä. Obs┼éuga systemu zosta┼éa sprywatyzowana, w efekcie czego ponad 90 procent bud┼╝etu o┼Ťrodk├│w pomocy spo┼éecznej zacz─Ö┼éo trafia─ç do prywatnych dostawc├│w us┼éug. Ci obiecali zredukowa─ç wysokie koszty obs┼éugi systemu, ograniczy─ç biurokracj─Ö i wyeliminowa─ç finansowe malwersacje. Efektywno┼Ť─ç systemu zacz─Öto mierzy─ç nowymi wska┼║nikami. Wprowadzone miary nie koncentrowa┼éy si─Ö jednak na tym, ilu osobom uda si─Ö znale┼║─ç mieszkanie czy prac─Ö, tylko na zmniejszeniu liczby nieuprawnionych ┼Ťwiadcze┼ä oraz skr├│ceniu czasu procesowania aplikacji o zasi┼éek.

W┼éa┼Ťnie dlatego pracownik, kt├│ry telefonowa┼é do Lindsay, sugerowa┼é jej zamkni─Öcie procesu. Szybko zako┼äczona sprawa to sukces w oczach nowego systemu, bez wzgl─Ödu na rezultat. Tak┼╝e dlatego ka┼╝dy b┼é─ůd, jak na przyk┼éad znikni─Öcie pliku z wyp┼éatami Jacka, jest interpretowany na niekorzy┼Ť─ç aplikantki. Takich znikni─Ö─ç zwi─ůzanych z digitalizacj─ů dokument├│w tylko mi─Ödzy 2007 a 2009 rokiem zarejestrowano a┼╝ 272┬átysi─ůce. Ka┼╝dy brakuj─ůcy dokument interpretowany jest za┼Ť jako ÔÇ×BRAK WSP├ô┼üPRACYÔÇŁ, kt├│ry ka┼╝dorazowo prowadzi do potencjalnego odebrania komu┼Ť lek├│w, jedzenia czy mieszkania. Jak zauwa┼╝a Eubanks, system automatycznego podejmowania decyzji o pomocy spo┼éecznej zbudowano na za┼éo┼╝eniu, ┼╝e lepiej wyeliminowa─ç dziesi─Ö─ç kwalifikuj─ůcych si─Ö os├│b ni┼╝ przyzna─ç zasi┼éek jednemu oszustowi.

Pozorny urok algorytmu

Mimo ┼╝e na przestrzeni lat zmniejszy┼éa si─Ö liczba przyznawanych ┼Ťwiadcze┼ä, to jednocze┼Ťnie zautomatyzowane systemy obejmuj─ů coraz wi─Öcej sytuacji i w efekcie ÔÇô os├│b. W Stanach Zjednoczonych programy komputerowe decyduj─ů ju┼╝ nie tylko tym, kt├│ra osoba w kryzysie bezdomno┼Ťci otrzyma mieszkanie, ale nawet, kt├│rym rodzicom nale┼╝y odebra─ç dziecko. Wykorzystywanie algorytm├│w do podejmowania tego rodzaju decyzji niesie ze sob─ů szereg powa┼╝nych zagro┼╝e┼ä.

Ju┼╝ pierwszy etap, czyli zbieranie informacji o uczestnikach i uczestniczkach danego programu, wi─ů┼╝e si─Ö z ryzykiem pogorszenia i tak ju┼╝ z┼éej sytuacji marginalizowanych grup. ┼╗eby to zobrazowa─ç, Cathy OÔÇÖNeil w ksi─ů┼╝ce ÔÇ×Bro┼ä matematycznej zag┼éadyÔÇŁ pos┼éuguje si─Ö przyk┼éadem modelu recydywy. W niekt├│rych stanach przy orzekaniu o wyroku, s─Ödziowie kieruj─ů si─Ö tym, czy oskar┼╝ony mo┼╝e ponownie pope┼éni─ç przest─Öpstwo. ┼╗eby zminimalizowa─ç wp┼éyw uprzedze┼ä na orzecznictwo, wprowadzono model, kt├│ry w oparciu o statystyczne dane wyznacza prawdopodobie┼ästwo ponownego wyl─ůdowania za kratkami. Pytania, na kt├│re musz─ů odpowiedzie─ç oskar┼╝eni obj─Öci programem dotycz─ů mi─Ödzy innymi tego, kiedy mieli pierwszy kontakt z policj─ů albo tego, czy ich znajomi s─ů notowani.

Zbieranie takich danych w efekcie zaszywa w programie szereg rasowych uprzedze┼ä, zupe┼énie wbrew pierwotnym za┼éo┼╝eniom o eliminowaniu wp┼éywu ludzkich stereotyp├│w na orzecznictwo. W jaki spos├│b? Badanie przeprowadzone w 2013 roku w Nowym Jorku wykaza┼éo, ┼╝e czarni i latynoscy m─Ö┼╝czy┼║ni s─ů przedmiotem ponad 40 procent rutynowych przeszuka┼ä i kontroli, mimo ┼╝e stanowi─ů mniej ni┼╝ 5 procent populacji miasta. Niemal wszyscy ÔÇô ┬ábo oko┼éo 90 procent z nich ÔÇô okazuj─ů si─Ö niewinni. Natomiast wystarczy mie─ç przy sobie odrobin─Ö marihuany, ┼╝eby wej┼Ť─ç w konflikt z prawem wcze┼Ťniej ni┼╝ bia┼éy r├│wie┼Ťnik z zamo┼╝nej dzielnicy, kt├│ry je┼Ťli w og├│le spotka si─Ö z policj─ů, to najpewniej dopiero w sytuacji powa┼╝nego przest─Öpstwa. Inaczej m├│wi─ůc, cho─ç w kwestionariuszu nie znajdziemy wprost zadanego pytania o ras─Ö, to jego niekt├│re elementy powoduj─ů, ┼╝e koniec ko┼äc├│w i tak otrzymamy gorsz─ů ocen─Ö ze wzgl─Ödu na kolor naszej sk├│ry. Po cz─Ö┼Ťci w┼éa┼Ťnie dlatego czarni m─Ö┼╝czy┼║ni otrzymuj─ů wyrok ┼Ťrednio o 20 procent d┼éu┼╝szy ni┼╝ biali, kt├│rzy pope┼énili to samo przest─Öpstwo.

┼╣r├│d┼éo tego problemu jest prozaiczne: tworz─ůc model, cz─Östo nie mamy dost─Öpu do danych, kt├│re bezpo┼Ťrednio m├│wi─ů o interesuj─ůcym nas zjawisku. Dlatego si─Ögamy po zamienniki, tworz─ůc proste korelacje mi─Ödzy danymi zast─Öpczymi a wynikiem, kt├│ry chcemy przewidzie─ç. Cz─Östo dzia┼éa to bez zarzutu. Na przyk┼éad model, jakim jest czujnik przeciwpo┼╝arowy, skutecznie wi─ů┼╝e wyst─ůpienie zmiennej zast─Öpczej (dymu) z interesuj─ůcym nas zjawiskiem (po┼╝arem). Sprawa komplikuje si─Ö, gdy pr├│bujemy w analogiczny spos├│b modelowa─ç ludzkie zachowanie. Tworzenie prostych korelacji mi─Ödzy kodem pocztowym a potencja┼éem do sp┼éacenia kredytu lub mi─Ödzy pierwszym kontaktem z policj─ů a szans─ů, ┼╝e wr├│cimy do wi─Özienia, cz─Östo prowadzi do zobiektywizowania instytucjonalnej dyskryminacji kobiet, mniejszo┼Ťci etnicznych, a w szczeg├│lno┼Ťci os├│b najubo┼╝szych.

Co wi─Öcej, z czasem ich sytuacja si─Ö pogarsza. Wszystko za spraw─ů tak zwanej spirali sprz─Ö┼╝enia zwrotnego. Mieszkaj─ůc w ÔÇ×gorszej dzielnicyÔÇŁ, czyli w miejscu, w kt├│rym statycznie w┼Ťr├│d naszych s─ůsiad├│w wi─Öcej os├│b b─Ödzie mia┼éo problemy z prawem, otrzymujemy wy┼╝szy wynik w modelu recydywy. Dostajemy wi─Öc ci─Ö┼╝szy wyrok i po wyj┼Ťciu trudniej jest nam znale┼║─ç prac─Ö ni┼╝ osobie z klasy ┼Ťredniej, kt├│ra pope┼éni┼éa identyczne przest─Öpstwo, ale mieszka w bezpieczniejszej cz─Ö┼Ťci miasta. Gdy w konsekwencji znowu pope┼énimy przest─Öpstwo, model przypisuje sobie sukces i utwierdza si─Ö w za┼éo┼╝eniu, ┼╝e okolica, z kt├│rej pochodzimy, jest dobrym wyznacznikiem tego, czy czeka nas recydywa. Cho─ç w rzeczywisto┼Ťci to sam model przyczynia si─Ö do tego, ┼╝e znowu trafili┼Ťmy za kratki. Jest to rodzaj zgubnego cyklu: model tworzy rezultat, kt├│ry stara si─Ö zmierzy─ç. Oczywi┼Ťcie sprz─Ö┼╝enie zwrotne nie dotyka tylko kryminalist├│w. Na podobnej zasadzie wiele firm, gdy decyduje o zatrudnieniu, wykorzystuje dane o ryzyku kredytowym kandydatki, kieruj─ůc si─Ö logik─ů, zgodnie z kt├│r─ů osoby sp┼éacaj─ůce kredyt na czas s─ů bardziej odpowiedzialne i godne zaufania. W rzeczywisto┼Ťci wielu solidnym pracownikom mo┼╝e przytrafi─ç si─Ö nieszcz─Ö┼Ťcie, kt├│re obni┼╝a ich ocen─Ö kredytow─ů. Takim osobom b─Ödzie ci─Ö┼╝ej znale┼║─ç prac─Ö, co za tym idzie, trudniej sp┼éaci─ç kredyt. Wtedy ocena kredytowa dalej spada i jeszcze trudniej uzyska─ç zatrudnienie. Cykl si─Ö zap─Ötla.

Cyfrowy nadzór, zwykłe więzienie

W Unii Europejskiej teoretycznie mo┼╝emy cieszy─ç si─Ö ochron─ů przed czysto algorytmicznymi decyzjami dotycz─ůcymi naszego zatrudnienia czy wysoko┼Ťci raty kredytu. Niestety ta ochrona jest tylko pozorna, poniewa┼╝ zgodnie z regulacjami wystarczy, ┼╝e wyrazimy zgod─Ö, aby decyzje o istotnych kwestiach dla naszego ┼╝ycia m├│g┼é rozstrzyga─ç system informatyczny. Aplikuj─ůc o prac─Ö, bez kt├│rej nie dotrwamy do ko┼äca miesi─ůca, czy o mieszkanie, gdy ┼Ťpimy na ulicy, przecie┼╝ nie odm├│wimy poddania si─Ö algorytmowi. Tutaj ujawnia si─Ö klasowy charakter problemu. Streszcza si─Ö on w pytaniu: o kim zbieramy, a o kim nie zbieramy danych? Kto podlega aparatowi informatycznemu, a kto jest od niego wolny?

W USA ten podzia┼é jest jeszcze bardziej widoczny. To osoby takie jak Lindsay Kidwell zmuszone s─ů do wype┼éniania kilkudziesi─Öciostronicowych kwestionariuszy i odpowiadania na pytania o najbardziej intymne aspekty swojego ┼╝ycia: stan zdrowia, zaburzenia psychiczne, do┼Ťwiadczone traumy, ┼╝ycie seksualne, ale te┼╝ o codzienne nawyki, miejsca przebywania czy numer ubezpieczenia spo┼éecznego. Ch─Ö─ç uzyskania jakiejkolwiek pomocy jest r├│wnoznaczna z poddaniem si─Ö drobiazgowemu nadzorowi ze strony pa┼ästwa. Cho─ç klasa ┼Ťrednia w podobnym stopniu korzysta z pomocy terapeut├│w, lekarzy czy o┼Ťrodk├│w odwykowych, to finansowanie ich ze ┼Ťrodk├│w prywatnych uwalnia od nieustannego monitoringu. ┼╗adne argumenty nie przekona┼éyby przecie┼╝ zamo┼╝nych rodzic├│w chc─ůcych skorzysta─ç z pomocy opiekunki do dzieci do podzielenia si─Ö z pa┼ästwem szczeg├│┼éowymi informacjami o swojej ostatniej konsultacji psychiatrycznej.

W efekcie wy┼é─ůcznie osoby, kt├│rych nie sta─ç na prywatn─ů pomoc, zostaj─ů w┼é─ůczone w mechanizm cyfrowego nadzoru. Tylko wobec ich dzieci szacuje si─Ö prawdopodobie┼ästwo, ┼╝e zostan─ů ofiar─ů przemocy domowej w przysz┼éo┼Ťci. Je┼Ťli celem naprawd─Ö mia┼éaby by─ç ochrona dzieci, to sk─ůd za┼éo┼╝enie, ┼╝e przemocowymi rodzicami mog─ů by─ç tylko ubodzy? By─ç mo┼╝e celem nigdy nie by┼éa realna pomoc, a prawdziwy sens zautomatyzowania systemu pomocy spo┼éecznej jest du┼╝o bardziej przera┼╝aj─ůcy.

Dzi─Öki temu systemowi pa┼ästwo posiada ogromne zbiory danych wype┼énione szczeg├│┼éowymi informacjami o wszystkich osobach aplikuj─ůcych o pomoc ÔÇô jest to niezb─Ödny element programu masowego nadzoru, z jakim nie mieli┼Ťmy do czynienia w historii ludzko┼Ťci. Nie chodzi tylko o skal─Ö. Wcze┼Ťniejsze metody inwigilacji koncentrowa┼éy si─Ö na uprzednio wybranym podejrzanym. Je┼Ťli policjant chcia┼é komu┼Ť za┼éo┼╝y─ç pods┼éuch, to musia┼é zidentyfikowa─ç t─Ö osob─Ö, mie─ç wobec niej uzasadnione podejrzenia, kt├│re nast─Öpnie prezentowa┼é przed s─ůdem, a ten m├│g┼é wyrazi─ç zgod─Ö na pods┼éuch, b─ůd┼║ nie. Inaczej m├│wi─ůc, cel musia┼é by─ç zidentyfikowany przed podj─Öciem inwigilacji. Obecnie sytuacja jest odwrotna. Podejrzany jest typowany przez algorytm z wielkiej bazy danych. Przypomina to fabu┼é─Ö filmu Stevena Spielberga ÔÇ×Raport mniejszo┼ŤciÔÇŁ, w kt├│rym ÔÇ×winnychÔÇŁ karano, zanim pope┼énili zbrodnie. Czy to zbyt daleko posuni─Öte por├│wnanie? Nie, je┼Ťli zauwa┼╝ymy, ┼╝e po pierwsze, wype┼éniaj─ůc kwestionariusz konieczny do uzyskania wsparcia, zgadzamy si─Ö, aby do naszych informacji mia┼éa dost─Öp policja ÔÇ×w celu zapobie┼╝enia powa┼╝nemu przest─ÖpstwuÔÇŁ. A po drugie, ┼╝e policja z tego dost─Öpu ch─Ötnie korzysta ÔÇô w pierwszym roku dzia┼éania programu zautomatyzowanego przyznawania mieszka┼ä osobom bezdomnym w Los Angeles, policja na podstawie zawartych tam danych dokona┼éa 9 000 aresztowa┼ä.

Zautomatyzowany system stawia potrzebuj─ůcych przed koszmarnym dylematem. Z jednej strony, kurcz─ůcy si─Ö zas├│b pomocy spo┼éecznej otrzymuj─ů tylko najbardziej potrzebuj─ůcy, co samo w sobie stanowi zach─Öt─Ö do dzielenia si─Ö w kwestionariuszu informacjami o swoich problemach, w tym na przyk┼éad o uzale┼╝nieniach. Z drugiej strony, dok┼éadnie z powodu podania tych informacji ci sami ludzie padaj─ů ofiar─ů policyjnych kontroli i przeszuka┼ä. Nowa architektura pomocy spo┼éecznej w coraz wi─Ökszym stopniu staje si─Ö narz─Ödziem kryminalizacji biednych, a nie metod─ů wyci─ůgania ich z problem├│w. Co gorsza ten dystopijny mechanizm selekcjonuje potencjalnych przest─Öpc├│w nie na podstawie indywidualnych cech jak w ÔÇ×Raporcie mniejszo┼ŤciÔÇŁ, ale na podstawie grupy spo┼éecznej, do kt├│rej przynale┼╝─ů. O ile wypracowali┼Ťmy ju┼╝ wiele prawnych zabezpiecze┼ä przed wyznaniow─ů kryminalizacj─ů, o tyle klasa wci─ů┼╝ jest siln─ů determinant─ů przysz┼éych problem├│w z policj─ů.

System do zautomatyzowanego podejmowania decyzji o pomocy spo┼éecznej jest wi─Öc nie tylko wygodnym narz─Ödziem redukowania liczby os├│b, kt├│rym przys┼éuguje pomoc ÔÇô narz─Ödziem bardzo wadliwym i pog┼é─Öbiaj─ůcym nier├│wno┼Ťci. Nie tylko sposobem ukrywania politycznych przyczyn tej redukcji pod p┼éaszczykiem ÔÇ×obiektywnychÔÇŁ decyzji programu komputerowego. Przede wszystkim jest pa┼ästwowo-policyjnym mechanizmem wydobywania wiedzy o ludziach ┼╝yj─ůcych ÔÇ×na marginesieÔÇŁ: w kryzysie bezdomno┼Ťci, bezrobotnych, samotnie wychowuj─ůcych i tak dalej. Wiedzy bezczelnie wykorzystywanej w celu ich nadzorowania, dyscyplinowania i kryminalizowania. To panoptykon na miar─Ö XXI wieku.

Sama jeste┼Ť sobie winna

Wr├│─çmy do pocz─ůtku. Istnieje prosta przyczyna, dla kt├│rej Lindsay Kidwell i miliony podobnych jej os├│b s─ů zmuszane do karmienia algorytmu setkami dokument├│w opowiadaj─ůcych o ich ┼╝yciu. C├│┼╝, po prostu jest to bardzo wygodne. Wygoda ta p┼éynie z uwolnienia si─Ö spo┼éecze┼ästwa od moralnej odpowiedzialno┼Ťci za los pokrzywdzonych. Od ci─Ö┼╝aru decydowania o tym, komu przys┼éuguje mieszkanie, a kto ma spa─ç na ulicy; kto ma dosta─ç jedzenie, a kto chodzi─ç g┼éodny. Wprowadzenie do systemu algorytm├│w pozwala jeszcze mocniej zdystansowa─ç si─Ö od tych etycznych dylemat├│w, bo zmatematyzowane mechanizmy tworz─ů iluzj─Ö decydowania wolnego od ludzkich uprzedze┼ä. Dylemat├│w, dodajmy, niechlubnych, bo maj─ůcych swoje ┼║r├│d┼éo w podziale na zas┼éuguj─ůcych i niezas┼éuguj─ůcych na pomoc.

Jak pisze Zygmunt Bauman w ksi─ů┼╝ce ÔÇ×Praca, konsumpcjonizm i nowi ubodzyÔÇŁ, taka dychotomia bazuje na za┼éo┼╝eniu, ┼╝e bycie biednym nie jest wynikiem systemowych problem├│w, a raczej wypadkow─ů cech charakteru lub indywidualnych wybor├│w. Odmowa pomocy ÔÇ×ubogim na w┼éasne ┼╝yczenieÔÇŁ ma korzenie w XIX-wiecznym eugenicznym ruchu Naukowej Charytatywno┼Ťci (Scientific Charity Movement), kt├│ry przestrzega┼é przed wspieraniem niezas┼éuguj─ůcych na pomoc biednych, gdy┼╝ mia┼éo to prowadzi─ç do rozprzestrzeniania si─Ö z┼éych gen├│w w spo┼éecze┼ästwie. Dzi┼Ť podzia┼é na zas┼éuguj─ůcych i niezas┼éuguj─ůcych na pomoc jest rodzajem racjonalizacji, kt├│ra pomaga upora─ç si─Ö ze ┼Ťwiadomo┼Ťci─ů, ┼╝e nie uda┼éo nam si─Ö zadba─ç o siebie nawzajem. M├│wi─ůc wprost, jest to wygodne usprawiedliwienie postawy moralnej oboj─Ötno┼Ťci, kt├│ra cechuje ponowoczesne spo┼éecze┼ästwa. Maj─ůc ┼Ťwiadomo┼Ť─ç, ┼╝e ma┼éa grupka tych, kt├│rym powin─Ö┼éa si─Ö noga, z pewno┼Ťci─ů otrzyma niezb─Ödne wsparcie, a leniwi i oszu┼Ťci nie osuszaj─ů bezczelnie wsp├│lnej skarbonki, ┼Ťpi nam si─Ö lepiej. W spo┼éecze┼ästwie kowali w┼éasnego losu potrzebujemy przecie┼╝ tak┼╝e przegranych, kt├│rzy upewni─ů nas, ┼╝e nasz sukces jest wy┼é─ůcznie nasz─ů zas┼éug─ů.

Potrzebujemy Twojego wsparcia
Jeste┼Ťmy magazynem i ┼Ťrodowiskiem lewicy katolickiej. Piszemy o wykluczeniu, sprawiedliwo┼Ťci spo┼éecznej, biedzie, o wsp├│┼éczesnych zjawiskach w kulturze, polityce i spo┼éecze┼ästwie. Potrzebujemy stabilnego finansowania ÔÇô mo┼╝esz nam w tym pom├│c!
Wybieram sam/a
Ko┼Ťci├│┼é i lewica si─Ö wykluczaj─ů?
Nie ÔÇô w Kontakcie ┼é─ůczymy lewicow─ů wra┼╝liwo┼Ť─ç z katolick─ů nauk─ů spo┼éeczn─ů.

I u┼╝ywamy plik├│w cookies. Dowiedz si─Ö wi─Öcej: Polityka prywatno┼Ťci. zamknij ├Ś