Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
4
1.Dlaczegoprzyszłośćnasniepotrzebuje
ztechnologiąrobotyczną.Pojejprzeczytaniumojepoczucieniepokojutylkosięnasiliło.
Byłempewien,żeRaymusiałrozumiećniebezpieczeństwaorazprawdopodobieństwozłych
następstwpodążaniatąścieżką.
Najbardziejniepokojącybyłfragmentopisującydystopijnyscenariusz:
NOWEWYZWANIELUDDYSTY
Popierwsze,załóżmy,żeinformatykomudałosięopracowaćinteligentnemaszyny,które
potrafiąrobićwszystkolepiejniżludzie.Wtakimprzypadkuprzypuszczalniewszystkiepra-
cezostanąwykonaneprzezrozległe,wysocezorganizowanesystemymaszynbezpotrzeby
jakiegokolwiekwysiłkuczłowieka.Możezaistniećjedenzdwóchprzypadków.Można
zezwolićmaszynomnapodejmowaniewłasnychdecyzjibeznadzoruczłowiekaalbomożna
zachowaćkontrolęludzinadmaszynami.
Jeślimaszynymogąpodejmowaćwszystkiewłasnedecyzje,niemożnaodgadnąćwyni-
ków,ponieważniemożnaprzewidzieć,jaktakiemaszynymogłybysięzachowywać.Los
ludzkościpozostawałbynałascemaszyn.Możnaargumentować,żerasaludzkanigdynie
byłabynatyległupia,abyprzekazaćcałądecyzjęmaszynom.Nieoznaczato,żerasaludzka
dobrowolnieprzekazałabywładzęmaszynomaniżemaszynyświadomieprzejęłybywładzę.
Rasaludzkamogłabyzłatwościąpozwolićsobienatakieuzależnienieodmaszyn,żenie
miałabypraktyczniewyboru,musiałabyzaakceptowaćwszystkiedecyzjemaszyn.Wmiarę
jakspołeczeństwoistojąceprzednimproblemystałybysięcorazbardziejzłożone,ama-
szynystałybysięcorazbardziejinteligentne,ludziemoglibypozwolićnato,abymaszyny
podejmowałyzanichcorazwięcejdecyzji,poprostudlatego,żedecyzjepodejmowaneprzez
maszynyprzynosząlepszerezultatyniżtepodejmowaneprzezczłowieka.Wkońcumógłby
zostaćosiągniętyetap,naktórymdecyzjeniezbędnedoutrzymaniasystemubyłybytakzło-
żone,żeludzieniebylibywstanieichpodjąć.Natymetapiemaszynypraktycznieprzejęłyby
kontrolę,aludzieniebylibywstaniepoprostuwyłączyćmaszyn,ponieważbylibyodnich
takzależni,żewyłączenieichoznaczałobysamobójstwo.
Zdrugiejstronymożliwejestzachowaniekontrolinadmaszynamiprzezludzi.Wta-
kimprzypadkuprzeciętnyczłowiekmiałbykontrolęnadniektórymiwłasnymiprywatnymi
maszynami,takimijaksamochódlubkomputerosobisty,aczkolwiekkontrolanaddużymi
systemamimaszynpozostałabywrękachniewielkiejelity,takjaktojestobecnie,chociaż
zdwiemaróżnicami.Dziękiulepszonymtechnikomelitymiałybywiększąkontrolęnadma-
sami,aponieważpracaludzkaniebyłabyjużkonieczna,masystałybysięzbędne,stanowiąc
bezużyteczneobciążeniedlasystemu.Jeślielitystałybysiębezwzględne,mogłybypoprostu
zdecydowaćsięnaeksterminacjęmasyludzkości.Wprzypadkugdypozostałybyjednak
humanitarne,mogłybystosowaćpropagandęlubinnetechnikipsychologiczneibiologiczne
wceluzmniejszenialiczbyurodzeń,dopókimasaludzkościniewyginie,pozostawiającświat
elicie.Winnymprzypadku,gdyelitaskładałabysięzliberałówomiękkichsercach,elity
mogłybypostanowićodegraćrolędobrychpasterzydlaresztyrodzajuludzkiego.Mogłyby
zadbaćozaspokojeniewszystkichfizycznychpotrzeb,takabywszystkiedziecibyłybywy-
chowywanewhigienicznychwarunkachpsychologicznych,abykażdymiałzdrowehobby,
abyzająćsięnimiabykażdy,ktomożebyćniezadowolony,byłpoddawanynleczeniu”
wceluwyleczeniajegonproblemu”.Oczywiścieżyciestałobysiętakbezcelowe,żeludzie
musielibyzostaćbiologicznielubpsychologiczniezmodyfikowani,takabywyeliminować
unichpotrzebęwładzylubsprawić,byprzełożylidążeniedowładzynajakieśnieszkodliwe
