fbpx Wesprzyj nas!

magazyn lewicy katolickiej

Mieli艣my prawo, mamy algorytm

Rz膮dy zbieraj膮 dane na temat ka偶dego i ka偶dej z nas, a wiele decyzji, kt贸re wcze艣niej wymaga艂y zaanga偶owania wymiaru sprawiedliwo艣ci, dzi艣 zosta艂o zautomatyzowanych. Fundamentalne dla demokracji liberalnej rozr贸偶nienie ludzi na niewinnych i tych, kt贸rym win臋 udowodniono, zanika.

Mieli艣my prawo zachowa膰 milczenie. By膰 mo偶e b臋dziemy musieli o nim zapomnie膰, bowiem ju偶 dzisiaj w wielu pa艅stwach policja przes艂uchuje podejrzanych, wykorzystuj膮c technologie pozwalaj膮ce na bezpo艣rednie odczytanie aktywno艣ci m贸zgu. Od lat korzystaj膮 z nich s艂u偶by na Bliskim Wschodzie i聽Azji, w 2014 roku zam贸wienie na odpowiedni sprz臋t z艂o偶y艂a te偶 policja stanu Floryda. Jak to dzia艂a? W trakcie dochodzenia podejrzanym pokazywane s膮 zdj臋cia ukazuj膮ce ofiary przest臋pstw b膮d藕 u偶yte w nich narz臋dzia zbrodni, a urz膮dzenie monitoruj膮ce fale m贸zgowe informuje, czy jaki艣 obraz wywo艂a艂 u podejrzanego fal臋 P300, pojawiaj膮c膮 si臋 zwykle w reakcji na znany ju偶 wcze艣niej bodziec. Nied艂ugo po zamachach 11聽wrze艣nia technologia ta opisywana by艂a w magazynie 鈥濼ime鈥 jako wynalazek, kt贸ry pozwoli 鈥瀘kre艣li膰, czy podejrzany jest zaznajomiony z dowoln膮 rzecz膮 鈥 od numeru telefonu do tajnego has艂a Al-Kaidy鈥.

Wed艂ug pewnych doniesie艅 w艂adze w Chinach stosuj膮 dzi艣 podobne metody do monitorowania os贸b poddawanych tzw.聽reedukacji politycznej. Oczywi艣cie, podobnym zakupom nie mogli oprze膰 si臋 te偶 pracodawcy, kt贸rzy przy pomocy odpowiednich sensor贸w mog膮 zbiera膰 dane ju偶 nie tylko na temat tego, co pracownik robi z firmowym sprz臋tem (czy rusza myszk膮, co pisze na klawiaturze, jak szybko odpowiada na nadchodz膮ce maile), ale te偶 o tym, co dzieje si臋 z jego cia艂em, oczami, 藕renicami, wyrazem twarzy, t臋tnem鈥

Opisywane przeze mnie technologie wci膮偶 s膮 niedoskona艂e, ale wielu specjalist贸w przewiduje, 偶e rozw贸j sztucznej inteligencji pozwoli na ich szybkie usprawnienie. Nakarmienie sieci neuronowych odpowiedni膮 ilo艣ci膮 danych mo偶e pozwoli膰 na opracowanie wynalazk贸w, o kt贸rych dot膮d mogli艣my tylko 艣ni膰. Nomen omen, podawanym niekiedy przyk艂adem takiej technologii jest algorytm zbieraj膮cy dane podczas fazy REM, kt贸re pozwol膮 po obudzeniu obejrze膰 zapis w艂asnego snu. Bardzo mo偶liwe, 偶e zanim wszyscy u偶ytkownicy smartfon贸w odkryj膮 funkcj臋 dyktowania sms-贸w przy pomocy mowy, pojawi si臋 mo偶liwo艣膰 dyktowania ich bezpo艣rednio przy pomocy my艣li.

Technologiczny skok na g艂贸wk臋

Zdaj臋 sobie spraw臋, 偶e to wszystko brzmi jak opowie艣膰 science-fiction. Niedowiarkom proponuj臋 jednak zada膰 sobie pytanie: na ile jeste艣cie przekonani, 偶e tekst, kt贸ry w艂a艣nie czytacie, napisa艂em ja 鈥 cz艂owiek? Na ile jest prawdopodobne, 偶e zosta艂 wygenerowany przez komputer? Czy jeste艣cie pewni swoich szacunk贸w? I co wa偶niejsze, czy uwierzyliby艣cie rok temu, 偶e odpowied藕 na tak zadane pytanie mo偶e nie by膰 oczywista? A je艣li ten eksperyment was nie przekonuje, otw贸rzcie po prostu jeden z聽dost臋pnych w sieci katalog贸w bossware (czyli oprogramowania dla szef贸w) lub obejrzyjcie po艣wi臋con膮 temu tematowi dyskusj臋 z tegorocznego zjazdu w Davos.

Pisz臋 o tym wszystkim, poniewa偶 autor tekstu otwieraj膮cego to wydanie 鈥濻pi臋cia鈥 wydaje si臋 traktowa膰 dylematy zwi膮zane z obecnymi przemianami technologicznymi podobnie jak wszystkie inne problemy. R贸wnie偶 rozwi膮zania proponowane przez Bartosza Paszcz臋 zdaj膮 si臋 nie odbiega膰 od recept, kt贸re mo偶na wypisa膰 w dowolnej innej sprawie. 鈥濶ie panikujmy, w艂膮czajmy obywateli w聽proces decyzyjny, dbajmy o przejrzyste regu艂y gry, inwestujmy w nowe technologie, inwestujmy w聽edukacj臋鈥. Niewiele jest problem贸w, do kt贸rych takie rady nie maj膮 zastosowania. Podpisuj臋 si臋 pod nimi, ale musz臋 doda膰: to nie wystarczy.

Stoimy na progu g艂臋bokiej transformacji 偶ycia spo艂ecznego. Zmiany nast臋puj膮 tak pr臋dko, 偶e rodzice dzieci w wieku szkolnym b臋d膮 musieli wykre艣li膰 ze swojego repertuaru gro藕b臋 鈥濽cz si臋, ucz, bo rowy b臋dziesz kopa膰鈥. By膰 mo偶e, gdy za kilkana艣cie lat ich dzieci b臋d膮 wchodzi膰 na rynek pracy, to w艂a艣nie wymagaj膮ca sprawno艣ci manualnej praca fizyczna b臋dzie dawa艂a jedyny pewny zarobek, podczas gdy zast臋py prawnik贸w, PR-owc贸w i manager贸w zostan膮 zast膮pione przez software. Przy czym s臋k jest nie w tym, 偶e przysz艂o艣膰 na pewno tak w艂a艣nie b臋dzie wygl膮da膰, ale 鈥 przeciwnie 鈥 w tym, 偶e niezwykle trudno jest dzisiaj przewidzie膰 nawet najbli偶sze dekady.

2+2 = opatrzno艣膰

Mimo wszystkich trudno艣ci z wyobra偶eniem sobie przysz艂o艣ci, mo偶emy ju偶 dzisiaj przygl膮da膰 si臋 temu, jak dzia艂aj膮 obecnie algorytmy, czerpi膮c zarazem z bogatych do艣wiadcze艅 przesz艂o艣ci. A jest z czego czerpa膰, algorytmy nie s膮 bowiem pierwszymi bezosobowymi, zmatematyzowanymi i rzekomo obiektywnymi systemami, z jakimi przysz艂o nam si臋 zmierzy膰. Bartosz Paszcza pisze, 偶e nie powinni艣my obawia膰 si臋 chi艅skiego systemu Social Credit, poniewa偶 przypomina on 鈥瀗asze bazy nierzetelnych kredytobiorc贸w鈥. S艂owa te mia艂y nas uspokoi膰, ale dla mnie brzmi膮 z艂owrogo. Bo cho膰 dla nieuzbrojonego oka ocena zdolno艣ci kredytowej mo偶e wydawa膰 si臋 procesem apolitycznym, jest to jedynie iluzja. Nawet w tak kr贸tkim tek艣cie mog臋 poda膰 prosty i jaskrawy przyk艂ad politycznego uwik艂ania procedur kredytowych.

W Stanach Zjednoczonych a偶 do lat 70. praktycznie niemo偶liwe by艂o uzyskanie kredytu hipotecznego przez wszystkie kobiety, a tak偶e tych m臋偶czyzn, kt贸rych kolor sk贸ry odbiega艂 od ameryka艅skiego wyobra偶enia o cz艂owieku godnym zaufania. W tym samym czasie kredyty zaci膮gane przez bia艂ych m臋偶czyzn by艂y gwarantowane przez federalne agencje hipoteczne. Przedmie艣cia uciele艣niaj膮ce 鈥瀉meryka艅ski sen鈥, z kr臋gielni膮, kinem i dinerem w zasi臋gu kr贸tkiej przeja偶d偶ki samochodowej oraz samymi bia艂ymi lud藕mi wok贸艂 powsta艂y w wyniku polityki ameryka艅skiego rz膮du. Zarazem, jako 偶e polityka ta ubrana by艂a w kostium obiektywnej oceny zdolno艣ci kredytowej, 艂atwo by艂o ten fakt przeoczy膰.

Jest co艣 w wyrokach ferowanych przez bezosobowe systemy, takie jak rynek czy algorytm, co sk艂ania nas do my艣lenia o nich w kategoriach opatrzno艣ciowych. Jednak ostatecznie to ludzie, pisz膮c prawo handlowe czy kod 藕r贸d艂owy, okre艣laj膮 zasady dzia艂ania rynk贸w i algorytm贸w. W rezultacie cho膰 stwarzaj膮 one powab obiektywizmu, zwykle s膮 g艂臋boko polityczne i uprzywilejowuj膮 interesy jednych grup kosztem innych.

A najwy偶szym kap艂anem b臋dzie Zbigniew Ziobro

Ch臋tnie zgodz臋 si臋 z autorem tekstu otwarcia, 偶e w Polsce nie grozi nam zbudowanie 鈥瀢szechpot臋偶nych instytucji nadzoru totalnego鈥. Wielokrotnie mogli艣my si臋 przekona膰, 偶e w naszym kraju nie艂atwo zbudowa膰 instytucje nawet przeci臋tnie sprawne. Prawdopodobnie bardziej grozi nam pa艅stwo nadzoru dziadowskiego. Takie, kt贸re gdy kupi trzy nowe technologie, to jedn膮 zgubi, drug膮 zepsuje, a tylko z trzeciej skorzysta. Nie bardzo mnie to uspokaja. Zamiast pa艅stwa rodem z Orwella mam przed oczami ministra sprawiedliwo艣ci, kt贸ry w czasie obiadu scrolluje centralny rejestr dokumentacji medycznej, by co smaczniejsze anegdotki opowiedzie膰 na kolejnym posiedzeniu rz膮du lub wykorzysta膰 w walce politycznej.

Obserwujemy obecnie powoln膮 transformacj臋 relacji mi臋dzy obywatelami a prawem. W Stanach algorytmy ju偶 dzisiaj u偶ywane s膮 w sprawach karnych do szacowania ryzyka pope艂nienia recydywy 鈥 a聽co za tym idzie, do podejmowania decyzji o czasie trwania odsiadki. Konkretna formu艂a tego algorytmu od lat jest przedmiotem gor膮cego sporu, m.in. dlatego, 偶e ma tendencj臋 do zawy偶ania ryzyka recydywy w艣r贸d ludno艣ci niebia艂ej, zw艂aszcza pochodzenia azjatyckiego. Dzi艣 wiemy ju偶 nie tylko, 偶e rz膮dy zbieraj膮 dane na temat ka偶dego i ka偶dej z nas, ale tak偶e 偶e wiele decyzji, kt贸re wcze艣niej wymaga艂y zaanga偶owania wymiaru sprawiedliwo艣ci, zosta艂o zautomatyzowanych. W USA na przyk艂ad to ju偶 nie s臋dzia decyduje, czy odebra膰 pasa偶erowi prawo wej艣cia na pok艂ad samolotu i聽swobodnego poruszania si臋 po kraju. Robi to algorytm. Fundamentalne dla demokracji liberalnej rozr贸偶nienie ludzi na niewinnych i tych, kt贸rym win臋 udowodniono, zaciera si臋. Ka偶dy staje si臋 potencjalnym winnym, a zadanie oszacowania tego potencja艂u zostaje przekazane maszynie.

By膰 mo偶e przekonanie, 偶e wszyscy jeste艣my winni, zgodne jest z czyimi艣 metafizycznymi intuicjami. By膰 mo偶e te偶 艂atwo艣膰, z jak膮 przychodzi nam rezygnowanie z prywatno艣ci, 艂atwiej zrozumie膰, gdy zdamy sobie spraw臋, 偶e poczucie bycia pod nieustann膮 obserwacj膮 i podlegania ci膮g艂ej ocenie jest o聽wiele starsze ni偶 inwigiluj膮ce nas technologie. Zarazem wielkim osi膮gni臋ciem by艂o wywalczenie 艣wiata, w kt贸rym te religijne intuicje nie maj膮 wp艂ywu na kwestie ustrojowe. Dzi艣 grozi nam jednak ustr贸j oparty wprost na nich, pa艅stwo wyznaniowe pod wezwaniem AI oddane w r臋ce opatrzno艣ci made in Python.

***
Tekst powsta艂 dzi臋ki finansowaniu projektu Macieja Kuziemskiego w ramach 2022 Landecker Democracy Fellowship.

Potrzebujemy Twojego wsparcia
Od ponad 15 lat tworzymy jedyny w Polsce magazyn lewicy katolickiej i budujemy 艣rodowisko zaanga偶owane w walk臋 z podzia艂ami religijnymi, politycznymi i ideologicznymi. Robimy to tylko dzi臋ki Waszemu wsparciu!
Ko艣ci贸艂 i lewica si臋 wykluczaj膮?
Nie 鈥 w Kontakcie 艂膮czymy lewicow膮 wra偶liwo艣膰 z katolick膮 nauk膮 spo艂eczn膮.

I u偶ywamy plik贸w cookies. Dowiedz si臋 wi臋cej: Polityka prywatno艣ci. zamknij