Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzenie
dobezpieczeństwaiochrony
sztucznejinteligencji
RomanV.Yampolskiy
Około10000naukowców*nacałymświeciepracujenadróżnymiaspektamitworzeniain-
teligentnychmaszyn,agłównymichcelemjestuczynienietychmaszynmożliwienajzdol-
niejszymi.Dziękiniesamowitemupostępowiwdziedziniesztucznejinteligencji,jakizostał
dokonanywciąguostatniejdekady,ważniejszeniżkiedykolwiekjestupewnieniesię,że
opracowywanatechnologiamakorzystnywpływnaludzkość.Pojawieniesięrobotycznych
doradcówfinansowych,samokierującychsięsamochodóworazosobistych,cyfrowychasy-
stentówzwiązanejestzwielomanierozwiązanymiproblemami.Doświadczonojużkrachuna
rynkuspowodowanegoprzezinteligentneoprogramowaniedohandlu†,wypadkówspowodo-
wanychprzezsamokierującesięsamochody1orazkłopotliwychsytuacji,kiedytochatboty§
zmieniłysięwrasistówizaangażowałysięwmowęnienawiści.Przewidujesię,żezarówno
częstotliwość,jakipowagatakichzdarzeńbędąstalerosływrazzezwiększaniemzdolności
sztucznejinteligencji.Niepowodzeniadzisiejszejwąskozakresowejsztucznejinteligencjisą
tylkoostrzeżeniem.Wmomencie,gdyzostanieopracowanaogólnasztucznainteligencja
OSI,którabędziezdolnadodziałaniawwieludziedzinach,zranioneuczuciabędąnajmniej-
szymzproblemów.
Wniedawnejpublikacjizostałazaproponowanataksonomiaścieżekprowadzącychdo
powstanianiebezpiecznejsztucznejinteligencji[1],którazostałamotywowananastępująco:
nwceluwłaściwegoradzeniasobiezpotencjalnieniebezpiecznymsztucznieinteligentnym
systememważnejestzrozumienie,wjakisposóbsystemdoszedłdotakiegostanu.Wkulturze
popularnej(filmy/książkisciencefiction)sztucznainteligencjairobotystałysięświadome
iwrezultaciezbuntowaneprzeciwkoludzkościzdecydowałysięjązniszczyć.Pomimożejest
tojedenzmożliwychscenariuszy,jesttonajmniejprawdopodobnadrogadopojawieniasię
niebezpiecznejsztucznejinteligencji”.Zasugerowano,żeznaczniebardziejprawdopodobne
powodyobejmującelowedziałanianiedokońcaetycznychludzi(ndziałaniecelowe”),skutki
ubocznesłabegoprojektowania(nbłędyinżynieryjne”)iwreszcieróżneprzypadkizwiązane
zwpływemotoczenianasystem(nśrodowisko”).Ponieważwprzypadkucelowoprojektowa-
nejniebezpiecznejsztucznejinteligencjiprawdopodobnejestzaistnieniewszystkichinnych
rodzajówproblemówbezpieczeństwa,najniebezpieczniejszymtypemsztucznejinteligencji
oraznajbardziejwymagającymrodzajemsztucznejinteligencji,przedktórąludzkośćmusia-
łabysiębronić,byłabysztucznainteligencjacelowoskonstruowanajakozła.
*
https://intelligence.org/2014/01/28/how-big-is-ai/
†
https://en.wikipedia.org/wiki/2010_Flash_Crash
1
https://electrek.co/2016/05/26/tesla-model-s-crash-autopilot-video/
§
https://en.wikipedia.org/wiki/Tay_(bot)
xi
