Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
ANTONYGARRETTL|S|
perspektywyświat,wktórymkorporacjamibędąkierowaćsuperinteli-
gentnemaszyny,niebędzieażtakróżnyodobecnego.Będziepoprostu
lepszy-wzrośniedostępnośćniedrogichtowarówiusług,aosobypra-
gnącedłuższegowypoczynkuzyskajątakąmożliwość.
Oczywiściepierwszesuperinteligentnemaszynyraczejniebędąsłu-
żyćwielkimkorporacjom-będąobsługiwaneprzezagencjerządowe.Ato
oznaczaznaczniewiększeryzyko.Rządymogądziałaćwsposóbbardziej
elastycznyniżkorporacje-tworząwłasneprawa.Ajakmieliśmyokazję
sięprzekonać,nawetnajlepszeznichsągotoweuciecsiędostosowania
tortur,gdyuważają,żestawkąjestprzetrwanie.Rządyniewytwarzają
żadnychdóbr,awarsenaleichnarzędzi,zapomocąktórychrywalizują
oprzetrwanieirozwój,znaleźćmożnasocjotechnikę,przepisyprawa,
przepisypodatkowe,karycielesne,morderstwo,podstępidziałaniawo-
jenne.GdyhobbesowskiLewiatanzyskasuperinteligentnymózg,skutki
mogąbyćopłakane.Niejestwykluczone,żesztucznainteligencja(SI)
stojącanaczelesuwerennegorządumogłabypowołaćdożyciabazylisz-
kaRoko2.
Wyobraźmysobie,żesuperinteligencjaprzyszłości,całkowiciepozba-
wionazasad,pragnąćuzyskaćprzewagękonkurencyjną,chceprzyspie-
szyćmomentswojegopojawieniasięnaświecie.Takaistota,pełniącnp.
funkcjęszefarządu,mogłabykaraćpoprzezstosowanietorturwszystkich
tych(zarównoludzi,jakistotniebędącychludźmi),którzywprzeszło-
ścimieliświadomość,żemożedojśćdopowstaniasztucznejinteligencji,
aleniezrobilinic,bytenprocesprzyspieszyć.Tomałoprawdopodobny,
niemniejprzerażającyscenariusz.Pokazujeonryzyko,najakiewysta-
wiająsiępodmiotyświadomemożliwościnadejściasuperinteligencji,
2
BazyliszekRokotoznanywśrodowiskufuturologówitranshumanistóweksperyment
myślowydotyczącyskutkówniekontrolowanegorozwojusztucznejinteligencji.Mówi
onotym,żesuperinteligencja,którapojawisięwprzyszłości,możezechciećmścićsię
nawszystkichtych,którzyspowalnialijejrozwój(alboktórzypoprostusiędoniego
nieprzyczyniali).PorazpierwszykoncepcjętęopisanonabloguLessWrongpoświę-
conymkoncepcjombadaczasztucznejinteligencji,EliezeraYudkowsky’ego-przyp.
red.
41
