Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji
xvii
•Oprogramowaniedoopisuwideomożeźlezrozumiećfabułęfilmu.
•Światwirtualnygenerowanyprzezoprogramowaniemożeniebyćatrakcyjny.
•Robotlekarzmożebłędniezdiagnozowaćniektórychpacjentówwsposób,jakiego
niezrobiłbyprawdziwylekarz.
•Oprogramowaniedoprzesiewaniapracownikówmożebyćsystematyczniestronnicze,
atymsamymmożezatrudniaćpracownikówoniskiejwydajności.
•RobotdoeksploracjiMarsaźleoceniotoczenieiwpadniedokrateru.
•Itakdalej.
Inneprzykładymożliwychwypadkówzsztucznąinteligencjąlubsuperinteligencją:
•Robotgosposiamożeugotowaćrodzinnezwierzątkonaobiad.*
•Robotmatematykmożeprzekształcićcałąmaterięwelementyobliczeniowewcelu
rozwiązaniaproblemów.†
•Sztucznainteligencjaprzeprowadzającasymulacjeludzkościmożestworzyćświado-
me,cierpiąceistoty[29].
•Sztucznainteligencjaprodukującaspinaczemożeniezatrzymaćsięiprzekształcić
wszechświatwsurowce[30].
•Robotnaukowiecmożeprzeprowadzićeksperymentyoznaczącym,negatywnym
wpływienabiosferę[31].
•Projektowanielekówopartenasztucznejinteligencjimożeopracowaćtruciznędziała-
jącązopóźnieniem,abyzabićwszystkichipokonaćraka.1
•Przyszłasuperinteligencjamożezoptymalizowaćcałąświadomość.§
•Sztucznainteligencjamożezabićludzkośćiprzekształcićwszechświatwmateriały
dolepszegopisania.¶
•Sztucznainteligencjazaprojektowanawcelumaksymalizacjiludzkiegoszczęścia
możewypełnićwszechświatkafelkamizmałymiuśmiechniętymitwarzami[32].
•Sztucznainteligencjapoinstruowanawcelumaksymalizacjiprzyjemnościmoże
skierowaćludzkośćnakroplówkęzdopaminy[33].
•Superinteligencjamożeprzerobićludzkiemózgitak,abyzwiększyćichpostrzeganą
satysfakcję[32].
DenningiDenningdokonalipodobnychekstrapolacjibłędówwhumorystycznymarty-
kulenatematnsztucznejgłupoty”[34]:nWkrótcezautomatyzowanaDEAzaczęłazamykać
firmyfarmaceutyczne,twierdząc,żehandlująnarkotykami.ZautomatyzowanyFTCzamknął
HormelMeatCompany,mówiąc,żezajmowałsięspamem.ZautomatyzowaneDOJdostar-
czyło500000spodniikurtekMicrosoftwprążki,informując,żezłożyłopozew(nfiling
suits”).Zautomatyzowanaarmiazastąpiławszystkieswojewojskajednymrobotem,mó-
wiąc,żestałasięjednoosobowąarmią(nArmyofOne”).Zautomatyzowanamarynarkawo-
jenna,wramachoszczędnościkosztów,złożyłanajwiększewhistoriizamówienienaokręty
podwodnezkanapkamiSubway.FCCwydałorozkaz,abycałakomunikacjaodbywałasię
bezprzewodowo,cospowodowało,żetysiącerobotówinstalacyjnychAT&Twyciągałokab-
*
https://www.theguardian.com/sustainable-business/2015/jun/23/the-ethics-of-ai-how-to-stop-your-robot-
cooking-your-cat
†
https://intelligence.org/2014/11/18/misconceptions-edge-orgs-conversation-myth-ai
1
https://80000hours.org/problem-profiles/positively-shaping-artificial-intelligence
§
http://slatestarcodex.com/2014/07/13/growing-children-for-bostroms-disneyland
¶
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html