Treść książki

Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji
xvii
Oprogramowaniedoopisuwideomożeźlezrozumiećfabułęfilmu.
Światwirtualnygenerowanyprzezoprogramowaniemożeniebyćatrakcyjny.
Robotlekarzmożebłędniezdiagnozowaćniektórychpacjentówwsposób,jakiego
niezrobiłbyprawdziwylekarz.
Oprogramowaniedoprzesiewaniapracownikówmożebyćsystematyczniestronnicze,
atymsamymmożezatrudniaćpracownikówoniskiejwydajności.
RobotdoeksploracjiMarsaźleoceniotoczenieiwpadniedokrateru.
Itakdalej.
Inneprzykładymożliwychwypadkówzsztucznąinteligencjąlubsuperinteligencją:
Robotgosposiamożeugotowaćrodzinnezwierzątkonaobiad.*
Robotmatematykmożeprzekształcićcałąmaterięwelementyobliczeniowewcelu
rozwiązaniaproblemów.
Sztucznainteligencjaprzeprowadzającasymulacjeludzkościmożestworzyćświado-
me,cierpiąceistoty[29].
Sztucznainteligencjaprodukującaspinaczemożeniezatrzymaćsięiprzekształcić
wszechświatwsurowce[30].
Robotnaukowiecmożeprzeprowadzićeksperymentyoznaczącym,negatywnym
wpływienabiosferę[31].
Projektowanielekówopartenasztucznejinteligencjimożeopracowaćtruciznędziała-
jącązopóźnieniem,abyzabićwszystkichipokonaćraka.1
Przyszłasuperinteligencjamożezoptymalizowaćcałąświadomość.§
Sztucznainteligencjamożezabićludzkośćiprzekształcićwszechświatwmateriały
dolepszegopisania.
Sztucznainteligencjazaprojektowanawcelumaksymalizacjiludzkiegoszczęścia
możewypełnićwszechświatkafelkamizmałymiuśmiechniętymitwarzami[32].
Sztucznainteligencjapoinstruowanawcelumaksymalizacjiprzyjemnościmoże
skierowaćludzkośćnakroplówkęzdopaminy[33].
Superinteligencjamożeprzerobićludzkiemózgitak,abyzwiększyćichpostrzeganą
satysfakcję[32].
DenningiDenningdokonalipodobnychekstrapolacjibłędówwhumorystycznymarty-
kulenatematnsztucznejgłupoty”[34]:nWkrótcezautomatyzowanaDEAzaczęłazamykać
firmyfarmaceutyczne,twierdząc,żehandlująnarkotykami.ZautomatyzowanyFTCzamknął
HormelMeatCompany,mówiąc,żezajmowałsięspamem.ZautomatyzowaneDOJdostar-
czyło500000spodniikurtekMicrosoftwprążki,informując,żezłożyłopozew(nfiling
suits”).Zautomatyzowanaarmiazastąpiławszystkieswojewojskajednymrobotem,-
wiąc,żestałasięjednoosobowąarmią(nArmyofOne”).Zautomatyzowanamarynarkawo-
jenna,wramachoszczędnościkosztów,złożyłanajwiększewhistoriizamówienienaokręty
podwodnezkanapkamiSubway.FCCwydałorozkaz,abycałakomunikacjaodbywałasię
bezprzewodowo,cospowodowało,żetysiącerobotówinstalacyjnychAT&Twyciągałokab-
*
https://www.theguardian.com/sustainable-business/2015/jun/23/the-ethics-of-ai-how-to-stop-your-robot-
cooking-your-cat
https://intelligence.org/2014/11/18/misconceptions-edge-orgs-conversation-myth-ai
1
https://80000hours.org/problem-profiles/positively-shaping-artificial-intelligence
§
http://slatestarcodex.com/2014/07/13/growing-children-for-bostroms-disneyland
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html