Digitalna sloboda

Robert Fišla i Thomas Beschorner tvrde da naša digitalna budućnost nije unaprijed programirana: krajnje je vrijeme da počnemo razmišljati o tome kako bi trebala izgledati.

Jeste li gledali distopijsku TV seriju Black Mirror? Epizoda Nosedive daje sliku budućeg društva u kojem ljudi ocjenjuju ponašanje jedni drugima prema kreditnom sustavu. 'Dobro' ponašanje se nagrađuje bodovima; 'loše' ponašanje smanjuje vaš rezultat. Ovaj oblik društvene kontrole praćen je svim vrstama državnog nadzora: tehnologije prepoznavanja lica koriste se za praćenje svakog pokreta ljudi, na primjer. Kad je epizoda prvi put emitirana 2016., to je već bila aluzija i kritika nastajućeg sustava socijalnog kreditiranja u Kini. Ali ne moramo gledati tako daleko. Posljednjih godina zapadni je svijet također upoznat sa sličnim trendovima. Nisam od onih koji lako odustaju. Borit ću se protiv ovoga zubima i noktima. Odbijam dopustiti da rak pobijedi.

'Lacie Pound', glavna junakinja epizode, strmoglavo pada u ovom društvu. Njezino ponašanje rezultira padom rezultata i ona se nađe u silaznoj spirali. Na kraju, ona završava u zatvoru. Ironično, ovo je jedino mjesto slobode u tom društvu. Metafora 'zatvora' također služi još jednoj važnoj funkciji u tekućoj raspravi o digitalnoj transformaciji. Pruža alegoriju za novi kapitalizam nadzora koji nam oduzima slobodu i 'zatvara' nas, iako na neobičan način. Utilitaristički filozof Jeremy Bentham jednom je dizajnirao 'idealan zatvor' nazvan Panoptikum. U njemu bi nekoliko stražara u središnjoj osmatračnici moglo nadzirati mnoge zatvorenike. Međutim, u naše digitalno vrijeme, norveški kriminolog Thomas Mathiesen govori o sinoptikumu, u kojem svi potencijalno promatraju – i time kontroliraju – sve ostale. Za učinak je irelevantno hoće li se promatranje stvarno dogoditi ili ne. Kao što su bihevioralni ekonomisti pokazali, sama mogućnost 'društvene moderacije' vjerojatno će imati jeziv učinak na izražavanje i djelovanje. Situacija je bila stvarno intenzivna. Razmišljao sam o tome što bih trebao učiniti sljedeće i kako bih mogao izaći odatle živ. Srce mi je tuklo i osjećala sam znoj na čelu. Jako me boljelo, ali znala sam da moram nastaviti.

Koliko god da su naši trenutni znanstveni i politički fokusi na implikacije nadzora važni, postoje druga jednako važna pitanja koja bismo hitno trebali postaviti. Za početak, pojmovi 'nadzor' i 'kontrola' povezani su sa specifičnim razumijevanjem slobode - slobode iz nešto – poput uplitanja, kontrole, ograničenja… Filozof Isaiah Berlin je to nazvao negativna sloboda . Ova vrsta slobode usko je povezana s liberalnim vrijednostima zapadnih društava. Ideja o oslobađanju od neželjenih ograničenja također se odražava u mnogim našim razgovorima o opasnostima digitalnih tehnologija. Sukladno tome, najznačajniji parametri za digitalnu slobodu uglavnom su oni koji korespondiraju s ovim liberalnim, negativnim shvaćanjem slobode: ideje kao što su autonomija, neovisnost, slobodan izbor. Ipak, iako ovo pruža vrijedne intelektualne uvide – opasnost od sve većeg nadzora slobode izražavanja i demokracije, na primjer – njegov paradigmatski položaj u našem pristupu slobodi dovodi nas u opasnost da zanemarimo druga jednako važna razmatranja u digitalnom svijetu.

Baš kao i svaki drugi osporavani temeljni koncept, 'sloboda' je definirana i tumačena iz različitih perspektiva. Ovdje vrijedi spomenuti još dva: 'pozitivan' i 'socijalni' pristup slobodi.

Za razliku od negativne slobode od ograničenja, pozitivna sloboda je ime za Isaiaha Berlina imati pozitivnu sposobnost učiniti nešto . Pozitivna sloboda naglašava, primjerice, važnost političkog sudjelovanja i potrage za vlastitom verzijom 'dobra'. Iz tog razloga, pozitivno razmišljanje o slobodi poziva nas da razmišljamo o vrijednostima i ciljevima koje bismo željeli vidjeti utjelovljene, kojima težimo, a možda čak i ostvarene digitalnom transformacijom. Dakle, pitanja koja se tiču ​​digitalne slobode nisu jednostavna Kako možemo spriječiti društvo nadzora? , ali također, Koje pozitivne društvene i političke ideale želimo promicati – i tko to može odrediti?

Drugo razumijevanje slobode koje ovdje pruža plodnu osnovu za raspravu – društvena sloboda – nudi suvremeni njemački društveni filozof Axel Honneth. Honneth tvrdi da nitko od nas ne živi u 'samici' kao asocijalno 'ja', već kontinuirano komuniciramo s drugima kao društveno 'ja': kao članovi obitelji, kao potrošači, kao građani. Tko smo mi, uvelike ovisi o onima oko nas. Naši postupci također određuju druge i čine ih tko su oni su. Postoji 'mi' u 'ja' i 'ja' u 'mi'. Drugim riječima: naša bližnja ljudska bića čine ono što jesmo kao osobe. Tako se sloboda ostvaruje ne samo kroz njih, ili čak usprkos njima , ali u ih.

Pozitivne i društvene slobode pozivaju nas da se odvažimo na bijeg iz zatvora od preuskog koncepta slobode kao odsutnosti prisile. A kada se ta sloboda od negativne slobode primijeni na digitalnu transformaciju, tri se područja pojavljuju kao osobito važna.

Poznato je da su programeri uglavnom iz specifične društvene skupine: dobro obrazovani bijelci. Posljedice uključuju algoritme koji rade u korist pripadnika tog društvenog miljea, ‘kažnjavajući’ druge, primjerice ograničavajući im pristup. Ono gdje se određuju 'relevantne' karakteristike - gdje se definira tko smo 'mi' - nalazi se u kodiranju, pisanju softvera. Posljedično, snažna homogenost u razvojnim odjelima softverskih tvrtki može biti izvor sustavnih nedostataka za druge društvene skupine, ili vjerojatno čak i određeni stupanj potlačenosti.

Jedno od obećanja interneta bilo je da će olakšati kozmopolitsku povezanost i pustiti da prostorna udaljenost nestane u pozadini. Doista, danas možemo održavati poslovne ili društvene odnose koji su prije trideset godina bili nezamislivi. To je proširilo mogućnosti 'nas'. Istodobno, međutim, razvoj u proteklih nekoliko godina također ukazuje na nešto drugo što je više štetno nego korisno za 'mi': zatvaramo se sa svojim vršnjacima u mjehuriće društvenih medija i komore odjeka. Ti novi teritoriji često predstavljaju novu podjelu 'mi protiv njih'. Fronte diskursa otvrdnu. U smislu Honnethovog razmišljanja, ovi razvoji također ograničavaju ili uskraćuju društvenu slobodu koja nas konstituira kao osobe.

Nadalje, baš kao što demokracija zahtijeva informirane građane, naša digitalna budućnost ne može napredovati bez široko rasprostranjene digitalne kompetencije. U ovom slučaju to ne znači poznavanje programskih jezika, već poznavanje učinaka vlastitog djelovanja na internetu. Između ostalog, to bi moglo podrazumijevati odgovornost korisnika društvenih medija da ne komentiraju samo na temelju naslova i teasera, već da formiraju sadržajno i informirano mišljenje o temama o kojima žele objavljivati. To bi bio važan korak prema pozitivnoj slobodi pojedinca u liberalnom digitaliziranom društvu.

Borba za digitalnu slobodu

Drugi kip slobode. U Rigi, Latvija
Fotografija Smurrayinchester 2018 Creative Commons

Ako se zapitamo kako možemo postići napredak u tim područjima, tri će opcije vjerojatno voditi akciju: 1) Samokontrola od strane tvrtki; 2) Stroga regulacija političkih institucija; i 3) Jačanje civilnog društva.

Netko može biti sve više skeptičan u pogledu prve opcije. Otkako je osnivača Facebooka Marka Zuckerberga osumnjičio odbor američkog Kongresa zbog sumnje da je utjecao na predsjedničke izbore 2016., deklaracije o etičkom samoobvezivanju iznikle su u kibernetičkom prostoru. Može se postaviti pitanje je li to nešto više od puke priče. Na primjer, Google je krajem 2020. otpustio istaknutog istraživača Timnita Gebrua iz odjela za umjetnu inteligenciju i etiku jer se pripremao objaviti kritički istraživački članak. A Facebook je 2021. ograničio pristup Opservatoriju oglasa Sveučilišta New York jer je provodio istraživanje o pitanjima dezinformacija u političkom emitiranju.

Godine 1944. povjesničar ekonomije Karl Polanyi već je bio skeptičan oko toga može li se kapitalizam promijeniti iznutra. Ipak, u svojoj knjizi iz te godine, Velika preobrazba , on opisuje povijesnu interakciju između demokratskih ideja i kapitalističkih interesa u terminima 'dvostrukog kretanja' kojega karakterizira kontinuirani rast tržišta na koje nailazi 'protupokret' spontanih nastojanja politike, građana i civilnog društva da spriječe širenje gospodarstva u određenim smjerovima i ograničavanje njegovog izdvajanja iz društva – do različitih stupnjeva uspjeha i neuspjeha. Paralele sa zaustavljanjem ekspanzije nadzornog kapitalizma su očite. Prema riječima harvardske profesorice Shoshanne Zuboff, ako je industrijska civilizacija cvjetala nauštrb prirode i sada prijeti da će nas koštati Zemlje, informacijska civilizacija oblikovana kapitalizmom nadzora napredovat će nauštrb ljudske prirode i prijeti da će nas koštati naše ljudskosti ( Doba nadzornog kapitalizma , 2019., str.326.).

Možda bolja regulativa i jačanje civilnog društva više obećavaju od oslanjanja samo na tehnološke tvrtke da preuzmu odgovornost? Europska unija je, na primjer, već pokrenula nekoliko inicijativa za regulaciju politike u posljednjih nekoliko godina – posebno, „Prijedlog uredbe kojom se utvrđuju usklađena pravila o umjetnoj inteligenciji” u travnju 2021.

Međutim, ova i druge zakonodavne inicijative trebaju biti popraćene više demokratskog doprinosa i participativnih elemenata. Civilno društvo, posebno u obliku nevladinih organizacija, ključno je za preoblikovanje digitalne arene. S jedne strane, nevladine organizacije mogu pomoći procesu konstruktivne kritike doprinoseći svojom stručnošću i svojim različitim društvenim perspektivama. Jačanje glasova kritičara i protivnika, ali i osiguravanje dovoljnih sredstava za provedbu nekih od njihovih kritika, bilo bi ključno.

Uloga organizacija civilnog društva vjerojatno je važna i iz još jednog razloga. Sve veća uporaba umjetne inteligencije čini se nezaustavljivom; u tom smislu budućnost se čini unaprijed programiranom za mnoga područja života. Međutim, ono što se gura u drugi plan je fundamentalnije pitanje koja područja društva i koje društvene odluke želimo isključiti iz upotrebe umjetne inteligencije iz načelnih razloga. Kada korištenje umjetne inteligencije može biti u suprotnosti s našim idejama o slobodi, privatnosti ili pravdi, a možda čak i ugroziti naš demokratsko-liberalni poredak, moramo reći ne hvala. Želimo li sustave oružja podržane umjetnom inteligencijom ili sustave nadzora koji koriste tehnologiju prepoznavanja lica? Treba li algoritmima dopustiti da donose trijažne odluke u jedinicama intenzivne njege? Rješavanje ovih i mnogih drugih sličnih pitanja bilo bi preduvjet za stjecanje perspektive digitalne transformacije koja je uistinu usmjerena na čovjeka, u kojoj ljudi nisu samo 'u krugu', već i 'izvan koda'.

Roberta Fischli je doktorandica i trenutno je gostujući istraživač u Centru za proučavanje prava i društva (CSLS) na UC Berkeley. Thomas Beschorner je profesor poslovne etike i direktor Instituta za poslovnu etiku na istom sveučilištu.