Moralne slijepe točke

Gerald Jones raspravlja o tome kako sudimo o prošlosti, kako ćemo jednog dana biti suđeni i što možemo učiniti u vezi s tim.

Ne znamo kako će nam budućnost suditi – ali hoće. Baš kao što se mi osvrnemo na prošlost i smatramo da je nedostaje, tako će i naši potomci smatrati da smo mi oskudni. Postoje nedostaci u našim društvenim i moralnim praksama koje ne možemo baš uočiti; ali znajući to, možemo potražiti ove moralne slijepe točke i baciti svjetlo na njih. Jako sam se uzrujao kad mi je šef rekao da sam dobio otkaz. Radio sam u tvrtki 10 godina i mislio sam da radim dobar posao. Nisam znala što ću dalje.

Ipak, nešto je bitno drugačije u našem slučaju. U Frankensteinu, čovjek je stvorio verziju samog sebe, ali je tako napravio čudovište koje se nije moglo kontrolirati i koje je izvršilo strašnu osudu nad svojim tvorcem. Po prvi put u našoj povijesti posjedujemo tehnologiju i volju da učinimo ono što je Victor Frankenstein učinio. Blizu smo mogućnosti transformacije sebe i stvaranja umova na vlastitu sliku. Transhumanizam više nije znanstvena fantastika, a umjetna inteligencija je naizgled tek iza horizonta. Bilo da se radi o umjetnom umu ili biološkom poboljšanju, naša će nam kreacija jednog dana možda suditi s istim užasnim ishodom kao u Frankensteinu. U tom smislu, dalekovidni roman Mary Shelley baca svoju sjenu na nas više nego ikad prije, i bilo bi dobro da poslušamo njegovu poruku. Ne mogu vjerovati da se to upravo dogodilo. Bio sam u zoni i onda bum, gotovo je. Ne znam što se dogodilo.

Ali prvo pogledajmo zašto možda ne bismo mogli.

Laki povijesni slučajevi

Moralni filozofi često se ponose time što se bave 'teškim slučajevima' - teškim moralnim dilemama koje testiraju etičku teoriju, bacaju oštro svjetlo na njezine pogreške, a zatim pokreću raspravu o etici naprijed. Ali ovdje razmislimo o 'lakim slučajevima' za etiku, posebno, povijesno lakih slučajeva ; to jest one prakse prošlih civilizacija koje izravno sudimo i osuđujemo. Naše pomno ispitivanje povijesno lakih slučajeva potaknut će novi koncept – moralnih slijepih pjega – koji će baciti sumnju na našu vlastitu etičku sigurnost.

Uzmimo povijesno jednostavan slučaj Lindow Mana. U nekom trenutku u prvom stoljeću naše ere, na zabačenoj močvari u Cheshireu, u Engleskoj, mladić visokog roda ritualno je ubijen, ili bolje rečeno, prekomjerno ubijen: prerezan mu je grkljan, sjekiran mu je u glavu i izrezan garotom, a njegovo golo tijelo bačen u močvaru.

Palac gore
Jean-Leon Gerome 1872

Suvremene rimske osude ritualnog žrtvovanja bile su oštre: rimski komentatori ostavili su mnoge opise užasnih praznovjernih običaja keltskog žrtvovanja ljudi, uključujući glasine o golemim Pletenim ljudima u koje su ljude tjerali da ih žive spaljuju.

Dijelimo istu odbojnost prema ljudskim žrtvama kao i Cezar i prijatelji. Ipak, nešto drugo nas pogađa: kako su Rimljani mogli tako oštro osuđivati ​​Kelte, a sami prakticirati ritualno klanje ljudi u razmjerima neviđenim u keltskoj Europi? Mary Beard procjenjuje stopu smrtnosti od 8000 gladijatora godišnje – što znači da su tijekom stoljeća stotine tisuća mladića umrli u arenama diljem Rimskog Carstva.

Moralno osuđivanje gladijatorskih borbi sada je nekontroverzno, budući da kombinira povijesnu distancu (koja uvijek olakšava prosudbu; na kraju krajeva, u blizini nema starih Rimljana da se objasne ili uvrijede) s osudama ropstva (većina gladijatora bili su robovi), ubijanja za zabavu (50 000 gledatelja koji su udarali palčevima moglo se ugurati u Koloseum) i smrt u industrijskim razmjerima (gotovo 10 000 gladijatora borilo se u igrama kako bi proslavili Trajanovu pobjedu nad Dačanima). Zašto Rimljani nisu mogli vidjeti ono što mi sada možemo lako vidjeti - da je baš kao i ritualno žrtvovanje Kelta, njihovo ubijanje ljudi radi zabave moralno neobranjivo?

Prošlost sadrži mnogo takvih primjera lakih moralnih slučajeva, gdje su postupci naših predaka toliko odvratni da se pitamo zašto to oni sami nisu uvidjeli. Često citirani primjeri povijesno lakih slučajeva uključuju: državno sponzorirano ropstvo; crkva raširena mizoginija; odrubljivanje glava neprijateljima u ratu; mučenje zatvorenika u miru; rašireno klanje životinja – čekaj, to još uvijek traje…

Naši etički preteče živjeli su u takvim društvima. Bili su rijetki mislioci koji su imali jasan uvid u to kako bi moralno tkivo njihova svemira moglo biti drugačije satkano i koji su utabali put novom načinu razmišljanja i življenja. Pa ipak... pa ipak, čak i ovi naprednjaci, koji su zauzeli moralnu uzvisinu, i koji su trebali znati bolje, tolerirali su ili poticali ili sudjelovali u društvenim praksama koje sada smatramo odvratnima. Takvi mislioci uključuju Aristotela, koji je, zajedno s drugim antičkim filozofima, smatrao da su žene po prirodi niže od muškaraca; Tertulijan, koji je zajedno s drugim kršćanima Rimljanima bio zagovornik ropstva; Bentham, koji je, unatoč tome što je za životinje rekao da 'pitanje nije 'mogu li rasuđivati?'... nego 'mogu li patiti?', ipak svakodnevno jeo meso; Heidegger, koji je, zajedno s mnogim drugim weimarskim intelektualcima, bio antisemitski nacist... popis se nastavlja. Jesu li zanemarili riječi propovjednika iz prvog stoljeća koji nas je sve opominjao da izvadimo brvno iz vlastitog oka prije nego što pokušamo izvaditi trun iz bratova? Ili su to bile samo daske posvuda, da nitko ne vidi?

Moralne slijepe točke

Prevalencija povijesno lakih slučajeva sugerira da su naše civilizacije predaka i naši moralni preci postali žrtve figurativne slijepe pjege.

Svi mi imamo doslovnu slijepu pjegu – disk na stražnjoj strani svakog oka gdje optički živac doseže mrežnicu i nema štapića ili čunjića koji bi primili i obradili svjetlost koja tu pada. Dakle, nema dostupnih vizualnih informacija s ovog optičkog diska. Obično naš mozak ili naše drugo oko ispunjava prazninu.

Vlastitu mrtvu točku možete pronaći na sljedeći način:

• Nagnite stranicu na stranu i zatvorite desno oko.

• Držite stranicu ispružene ruke i usredotočite se na • . Trebali biste vidjeti X krajičkom oka.

• Pomičite spremnik vrlo polako prema sebi, držeći • fokus.

• U jednom trenutku X će nestati, jer svjetlost koja se odbija od njega pada na slijepu pjegu vašeg otvorenog oka.

Sa samo jednim otvorenim okom nismo mogli vidjeti X, koliko god se trudili. Baš tako, kao da su naši preci imali samo jedno oko otvoreno kada je u pitanju moral, i nisu mogli vidjeti nedosljednosti u njihovoj primjeni svojih vrijednosti. Dakle, 'moralna slijepa točka' odnosi se na psihološku pristranost i ograničenja koja imamo, kao pojedinci i kao zajednice, što nas sprječava da vidimo nedostatke ili nedosljednosti u našim moralnim prosudbama, postupcima i društvenim praksama. Ali kada se osvrnemo na kulturne običaje naših predaka, činimo to s oba otvorena oka: možemo vidjeti da ako rimski komentator Strabon osuđuje Kelte zbog njihove prakse žrtvovanja ljudi, onda bi trebao osuditi i gladijatorske borbe; možemo vidjeti da ako Bentham tvrdi da životinjama ne bismo trebali uzrokovati nepotrebnu patnju, onda on ne bi trebao jesti toliko mesa.

Svako društvo ima pogled na svoje prethodnike i prosuđuje ih, čak i društva koja su gledala unatrag na prethodne civilizacije kao na slavno zlatno doba. Renesansni mislioci poput Fra Acciaiuolija priznavali su i barbarstvo i ljepotu starog Rima, potičući svoje suvremenike da osude prvo čak i dok su oponašali potonje. Pet stotina godina kasnije vidimo ljepotu u Italiji fra Acciaiuolija i hvalimo je, ali smo u isto vrijeme zaprepašteni nad sustavnom mizoginijom i renesansne kulture i Crkve iz doba reformacije, koja je poticala ubojstvo vjerojatno čak desetaka tisuća žena kao vještica.

Ova osuda prošlosti je sveprožimajuća. Dakle, je li vjerojatno da dok vidimo moralne slijepe točke u svakom prethodnom društvu, mi sami nemamo moralne slijepe točke? Koliko god mislili da smo moralno prosvijećeni, nećemo biti imuni na osudu naših potomaka. Jednog dana će se neke od naših standardno prihvaćenih društvenih i kulturnih praksi smatrati samo povijesno lakšim slučajevima.

Slijepe točke neznanja i slijepe točke slabosti

Filozofi i psiholozi daju različita objašnjenja zašto Rimljani nisu mogli uvidjeti okrutnost gladijatorskih igara ili zašto su prosvjetiteljski filozofi mogli pronaći malo razloga za proširenje prava na robove. Dakle, koncept moralne slijepe pjege obuhvaća niz različitih objašnjenja:

Tip 1: Moralno sljepilo – ne vidimo što bi moglo biti pogrešno, možda nam nedostaju potrebne činjenice koje bi nam omogućile da donesemo sud. William Talbot cijelo vrijeme raspravlja o moralnom sljepilu Koja bi prava trebala biti univerzalna? (2005).

Tip 2: Moralna kratkovidnost – ne uspijevamo vidjeti problem kao moralni problem, možda kao rezultat iskrivljenja u našoj moralnoj viziji. Minette Drumwright i Patrick Murphy skovali su ovu frazu u svojoj analizi poslovne etike u 'Kako oglašivači gledaju na etiku' (2004.).

Tip 3: Moralno samozadovoljstvo – ne tražimo dovoljno pažljivo što bi moglo biti pogrešno, možda smo pretjerano sigurni u vlastitu dobrotu. Immanuel Kant se protivi takvoj sigurnosti u svojoj analizi dobre volje u Temelji metafizike morala (1785).

Tip 4: Moralna kognitivna disonanca – možemo vidjeti proturječnost ili sukob u našim vrijednostima i postupcima, ali smo razvili strategije za blokiranje tog znanja u našem donošenju odluka. U 'The Claim to Moral Adequacy of a Highest Stage of Moral Judgement' (1973.), Lawrence Kohlberg tvrdi da nam smanjenje kognitivne disonance može pomoći da razvijemo sofisticiranije moralno razumijevanje, ali napominje da takav moralni rast nije automatski i bit će mnogo teže nekim pojedincima i nekim društvima.

Tip 5: Moralno zatvaranje očiju – vidimo da svoje moralne principe primjenjujemo nedosljedno, ali okrećemo se od toga kao da se to ne događa. Psihoanalitičar John Steiner identificira proces Okretanje slijepih očiju (1985) kao uobičajeni mehanizam za suočavanje s (tj. ignoriranjem) činjenica koje znamo, ali nam nisu ugodne.

Tip 6: Moralna slabost – vidimo što bi moglo biti pogrešno, ali slabom voljom ništa ne poduzimamo. Ovo opažanje ima dugu povijest: u Etika , Aristotel tvrdi da je slabost volje ( akrazija na grčkom) objašnjava zašto ne uspijevamo postupiti ispravnim putem čak i kada to možemo vidjeti.

Tip 7: Moralna nijemost – možemo vidjeti što bi moglo biti pogrešno, ali ne govorimo o tome (možda kroz strah, ugnjetavanje, konvenciju ili tabu) i tako se ništa ne mijenja. Ovaj koncept, kao i moralna kratkovidnost, proizašao je iz suvremene poslovne etike - posebice Fredericka Birda i Jamesa Watersa u 'Moralnoj nijemoći menadžera' (1989).

Ovih sedam vrsta može se grupirati u dvije kategorije (nešto što bi Aristotel odobrio jer je volio kategorizirati stvari):

• Moralne slijepe točke neznanja ( Vrste 1-3 ): Ne znati i ne moći vidjeti da je društvena praksa pogrešna.

• Moralne slijepe točke slabosti ( Vrste 4-7 ): Vidjeti nešto kao pogrešno, ali biti nevoljan to promijeniti.

Razumijevanje ove rasprostranjenosti razloga trebalo bi učiniti naše prosudbe o moralnim slijepim točkama nijansiranijim: kada su naši preci nesvjesno bili neupućeni u problematične činjenice, prakse i nedosljednosti; i kada su se namjerno okrenuli ili se pretvarali da ti problemi ne postoje?

Važnost koncepta

Svijest o mogućnosti moralnih slijepih pjega promijenit će način na koji vidimo vlastitu kulturu. To će ubosti našu samopravednost; baciti sumnju na naše moralne uvjerenja; prisiliti nas da skeniramo vlastito ponašanje i pomno ispitamo vlastitu kognitivnu disonancu – koje činjenice sada zanemarujemo, a koje su relevantne za naše moralno djelovanje? I to će nas potaknuti da ponudimo podršku onima koji rano usvajaju moral – tko će od naših suvremenika jednog dana biti prepoznat kao Mary Wollstonecraft ili Martin Luther King s početka dvadeset prvog stoljeća? Traženje naših moralnih mrtvih točaka potaknut će nas da predvidimo kako će nam jednog dana suditi naši potomci, a možda i 'budući dokaz' naše moralne prakse.

Koncept bi nas također trebao prisiliti da siđemo s moralne uzvišenosti u odnosu na naše pretke i naše suvremenike. Svi mi, čak i moralni reformatori, imamo moralne mrlje, a to bi se trebalo odraziti na nijansiraniju prosudbu prošlosti. Uzmimo ovaj primjer:

• Xavier je filozof iz osamnaestog stoljeća koji se bori protiv ropstva, ali ne razmišlja o zlostavljanju i ugnjetavanju žena. On zna da takva nejednakost postoji, ali, kroz moralnu nijemost, ne čini ništa da podigne svijest ili spriječi takvu štetu.

• Yasmine je filozofkinja dvadesetog stoljeća koja osuđuje Xaviera. Yasmine se bori i vodi kampanju protiv podjarmljivanja žena, ali ne razmišlja o zlostavljanju i ugnjetavanju homoseksualaca, lezbijki ili transrodnih osoba. Ona zna da takva nejednakost postoji, ali, zatvarajući moralne oči, ne čini ništa da podigne svijest ili spriječi takvu štetu.

• Zac je filozof iz dvadeset prvog stoljeća koji osuđuje Yasmine. Zac je svjestan intersekcionalnosti i neumorno se bori za LGBTQ+ jednakost, ali nema dvojbe oko vožnje na kratkim udaljenostima u automobilu, toleriranja viška plastike u pakiranjima hrane, letenja oko svijeta i jedenja mesa. Zac je svjestan štete koju to uzrokuje okolišu i životinjama, ali zbog slabosti volje ne poduzima ništa da podigne svijest ili spriječi takvu štetu.

Čini se da trenutna konvencija tolerira javnu osudu Xaviera/Yasmine/Zaca zbog njihovih moralnih propusta u jednoj etičkoj sferi, unatoč njihovom radu kao moralnih reformatora u drugoj sferi. Ali razumijevanje moralnih slijepih pjega donijelo bi nijansiraniju procjenu ovih mislilaca. To bi moglo natjerati Zaca da kaže, priznajem da su Yasmine i Xavier imali moralne slijepe točke. To nije dobro i volio bih da nije tako, ali razumijem zašto i prihvatit ću njihov napredak i graditi na njemu. Baš kao što se nadam da će jednog dana u budućnosti moje vlastite moralne slijepe točke biti shvaćene i da će se moj progresivni rad ipak nadograđivati.

Moralne slijepe točke i moralni realizam

U ovom trenutku važno je obratiti pažnju na metaetičkog slona u sobi – naime na pitanje moralnog realizma. Sada izbjegavamo ono za što vjerujemo da su neke od moralnih pogrešaka naših predaka, jer možemo vidjeti ono što oni nisu mogli: barem u teoriji, ukinuli smo ropstvo, lovili smo zlostavljače djece, proširili prava na sve, zaustavili ljudske žrtve , itd. Ove pozitivne promjene impliciraju da je došlo do moralnog napretka. Čini se da zauzvrat ideja moralnog napretka implicira da mora postojati objektivno moralno mjerilo kojim se mogu mjeriti naše moralne prosudbe – što je pozicija moralnog realista. Dakle, koncept moralnih slijepih pjega sasvim je kompatibilan s moralnim realizmom.

Ali što ako je moralni realizam netočan? Što ako moral nije objektivan, već je relativan prema svakom društvu, koje stvara vlastita moralna načela i pravila? Čini li moralni relativizam koncept moralnog napretka i moralne slijepe točke nekoherentnim ili irelevantnim?

Na prvi pogled moglo bi se tako činiti. Uostalom, ako je moral relativan, onda ne postoji vanjski standard koji možemo upotrijebiti da kažemo da 'naše društvo više ne čini moralne pogreške' ili 'naši preci nisu bili u pravu' (budući da je njihov moral bio ispravan za njihovu kulturu).

Međutim, sedam uzroka moralnih slijepih pjega koje sam gore naveo ostaju relevantni čak i ako ne postoji objektivna moralnost. To je zato što svaka vrsta postavlja praktična pitanja koja će, ako ih se riješi, poboljšati naše prosudbe, čineći ih razumnijima i dosljednijima. S druge strane, moralni relativistički odgovor na svaki tip mogao bi biti:

(1) Moralno sljepilo . Možemo se potruditi utvrditi činjenice;

(2) Moralna kratkovidnost . Možemo postati jasni kada je pitanje moralno pitanje;

(3) Moralno samozadovoljstvo . Kao društvo možemo poticati samokritiku i izazov;

(4) Moralna kognitivna disonanca . Možemo pokušati identificirati i ukloniti sve proturječnosti u našem sustavu vrijednosti;

(5) Moralno zatvaranje očiju . Možemo priznati licemjerje ili nedosljednost i nastojati biti dosljedni u načinu na koji primjenjujemo svoje vrijednosti;

(6) Moralna slabost . Možemo identificirati strategije za prevladavanje individualne slabosti volje;

(7) Moralna nijemost . Možemo razgovarati o moralnim pitanjima i stvarati strukture i zakone koji potiču otvoreni dijalog.

Nijedna od ovih radnji ne ovisi o moralnom realizmu, ali sve su radnje koje će, ako budu uspješne, dovesti do napretka čak i iz moralne relativističke perspektive, i učiniti nas boljim položajem da prevladamo naše moralne slijepe točke. Dakle, bez obzira na to je li moral objektivan ili relativan, koncept moralnih slijepih pjega još uvijek nam je koristan u provjeravanju budućnosti našeg moralnog okvira.

Dakle, koje su naše moralne slijepe točke?

Sada dolazimo do srži stvari. Kako će nam suditi naši potomci? Kojim smo moralnim slijepim točkama osjetljivi na koje trenutno ne možemo vidjeti?

U Homo Deus (2015.) Yuval Harari s užasom govori o tome kako će nam se u budućnosti suditi zbog našeg odnosa prema životinjama. U međuvremenu, Barack Obama govori da je Putin 'na krivoj strani povijesti'. Molly Ringwald osvrće se na filmove koje je snimila s Johnom Hughesom 1980-ih i zapanjena je redateljevom moralnom slijepom točkom u korištenju rasističkih stereotipa. A u prethodnom izdanju ovog cijenjenog časopisa, Peter Adamson pita što možete učiniti kad je tvoj omiljeni filozof bigot ( Filozofija sada Izdanje 123).

Steven Pinker razgovarao je s Mattom Ridleyjem o tome koje će se naše rutinske navike promatrati s najvećim užasom za nekoliko generacija ( Predstoje li najbolji dani čovječanstva? ). Pinker je rekao da je to jednostavno: to je jedenje mesa podržano industrijskim uzgojem životinja za klanje. Svake godine globalno ubijemo šezdeset milijardi kokoši, jednu milijardu ovaca i tri stotine milijuna krava, u okolnostima koje su često barbarske. Pa ipak, poput Benthama, naša moralna slijepa točka znači da ne možemo smanjiti potrošnju mesa.

U Krug koji se širi (1981.), Peter Singer tvrdi da se naše kulturne i moralne prakse razvijaju kako se društva susreću s drugim zajednicama. Iz tih sukoba proizlazi šire razumijevanje o tome tko je 'u plemenu', pa tako i tko se smatra vrijednim moralne vrijednosti. Ovaj krug koji se širi doveo je do ukidanja ropstva, emancipacije žena, općeg prava glasa, zaštite djece i proširenja prava na životinje. Uz razumijevanje ove moralne putanje, možemo zamisliti naše potomke kako nastavljaju širiti ovaj krug kako bi jednog dana uključili okoliš (i tako osudili našu moralnu slijepu mrlju prema njemu), a također i umjetnu inteligenciju.

Filozof Kwame Anthony Appiah postavlja pitanje ‘Za što će nas buduće generacije osuditi?’ u Washington Post (26. rujna 2010.). Ističe četiri naše moralne slijepe točke: naš zatvorski sustav; naša institucionalizacija i izolacija starijih osoba; (opet) naše uništavanje okoliša; i (opet) naša industrijska proizvodnja mesa. Mogli bismo dodati Appiahovom popisu: nastavak raširene tolerancije seksizma i mizoginije, na primjer na radnom mjestu, u pornografiji iu svakodnevnom životu; ljudska stvorena masovna izumiranja (tijekom takozvane 'antropocenske' ere); nesputani konzumerizam s opskrbnim linijama koje vode do dječjeg ili izrabljivačkog rada; kontinuirano toleriranje ekonomskog sustava koji dopušta malenu manjinu superbogatih uz milijarde siromašnih; i neuspjeh u rješavanju ablizma, odnosno kontinuiranog isključivanja osoba s invaliditetom iz sudjelovanja u radu i društvu (ovo uključuje svakodnevnu upotrebu izraza kao što su 'slijepa pjega' ili 'kratkovidnost' kao negativnih deskriptora).

Ovo su moralne slijepe točke koje počinjemo primjećivati. Još uvijek nas mogu osuđivati ​​što nismo dovoljno brzo djelovali na njih – oni su slijepe točke slabosti. Ali postojat će druge moralne slijepe točke koje sada ne možemo ni vidjeti – slijepe točke neznanja.

Moralne slijepe točke, transhumanizam i umjetna inteligencija

Ne možemo pretpostaviti da će naši potomci biti poput nas – čineći naše 'slijepe pjege neznanja' koje će oni vidjeti gotovo nemogućima za nas identificirati, budući da će naši potomci imati drugačije kulturno obdarene mentalne aparate koji će im omogućiti da vide ono što mi ne možemo. Ali postoji sve veća zabrinutost, koju su izrazili Nick Bostrom, etičar sa Sveučilišta u Oxfordu, i drugi, da će naši potomci također doslovno imaju drugačiji mentalni aparat – neće biti ljudi, već transljudi.

'Transhumanizam' opisuje labavo kretanje kroz niz disciplina čiji je cilj poboljšanje ljudskih bića pomoću tehnologije i/ili genetike. Poboljšanja mogu uključivati ​​bolje zdravlje, duži život, veću inteligenciju, dublju percepciju. Transhumanizam obuhvaća niz načina na koje se ljudska modifikacija može postići primjenom tehnologije na našim tijelima, uključujući genetsko poboljšanje (probir gena/profiliranje/terapija), nanotehnologiju i kiborgizaciju (ljudi s organskim i mehaničkim dijelovima tijela – poput onih koji su danas razvijen kako bi pomogao osobama sa sindromom zatvorenosti u komunikaciji i kretanju).

Postoji i obećanje razvoja superinteligencije. Bostrom to definira kao bilo koji intelekt koji uvelike nadilazi kognitivnu izvedbu ljudi u gotovo svim domenama interesa. Prvenstveno se odnosi na eksponencijalne mogućnosti umjetne inteligencije nakon što se inteligencija ljudskog tipa replicira u strojeve, ali se također može odnositi na visoko poboljšane ljudske kognitivne sposobnosti.

Ipak, postoje i mogući problemi s ovim razvojem događaja koji pokazuju moralnu slijepu točku u našem društvu od potencijalno ogromnog značaja.

Frankenstein dobro ilustrira značajne moralne slijepe točke koje ljudska bića često imaju kada slijede znanstvena i tehnološka dostignuća, kao što je naša sposobnost da ignoriramo svoju nesposobnost da predvidimo moguće katastrofalne rezultate naše kreativnosti i eksperimentiranja, i naše samozadovoljstvo oko poduzimanja odgovarajućeg (ili bilo kojeg stvarno učinkovitog) mjere opreza kako bi se ozbiljni rizici sveli na minimum. Dakle, zabrinutost je da smo, kao i s liječnikom Mary Shelley, u ranim fazama stvaranja nečega, bilo transljudskog ili AI u prirodi, što nećemo moći kontrolirati, i što će nam jednog dana suditi. Bostrom ovo opisuje kao egzistencijalnu prijetnju čovječanstvu i poziva filozofe, znanstvenike i kreatore politike da uspostave kontrolne mehanizme prije nego što nastavimo s daljnjim istraživanjem u bilo kojem području, kako bismo spriječili da nas jedna od naših kreacija osudi i eliminira zbog morala razloge koje samo ono može vidjeti.

Gerald Jones je koautor najprodavanije serije 'Filozofija u fokusu' i udžbenika filozofije A Level za Hoddera.