Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji
xix
•Obciążeniaistniejącedotyczątychzwiązanychzespołeczeństwem,instytucjamispo-
łecznymi,praktykamiipostawami.Systempoprostuzachowujeistniejącystanna
świecieiautomatyzujestosowanieobciążeniatakiego,jakieistniejeobecnie.
•Obciążenietechnicznewynikazograniczeńsprzętowychlubprogramowychsamego
systemu.
•Obciążeniawyłaniającesiępojawiająsiępowdrożeniusystemuispowodowanesą
zmieniającymisięstandardamispołecznymi.
WielezaobserwowanychdysfunkcjiSIbyłopodobnychdonieszczęśliwychwypadków
doświadczanychprzezmałedzieci.Jesttoszczególnieprawdziwewprzypadkusztucznych
siecineuronowych,któresąwczołówceuczeniamaszynowego(UM).Możnapowiedzieć,że
dziecisąnieprzeszkolonymisieciamineuronowymirozmieszczonyminaprawdziwychda-
nych,aichobserwowaniemożenauczyćwieleoprzewidywaniuizapobieganiuawariomSI.
Wielegrupbadawczych[31,38]analizowałotypyniepowodzeńwUM,aponiżejzamiesz-
czonostreszczenietychpracodniesionedopodobnychsytuacjizdziećmi:
•Negatywneskutkiuboczne-dzieckorobibałagan.
•Hakowanienagród-dzieckoznajdujesłoikcukierków.
•Skalowalnynadzór-opiekanaddziećminiepowinnawymagaćzespołu10osób.
•Bezpiecznaeksploracja-bezpalcówwodpływie.
•Wytrzymałośćnazmianydystrybucyjne-używajngłosuwewnętrznego”wklasie.
•Indukcyjnaidentyfikacjaniejednoznaczności-czymrówkajestkotemczypsem?
•Solidnaludzkaimitacja-córkagolisięjaktata.
•Świadomynadzór-pozwólmizobaczyćTwojąpracędomową.
•Uogólnioneceleśrodowiskowe-zignorujtenmiraż.
•Konserwatywnekoncepcje-tenpiesniemaogona.
•Miarywpływu-unikajuwagi.
•Łagodnaoptymalizacja-niebądźperfekcjonistą.
•Unikaniezachętinstrumentalnych-bądźaltruistą.
Większośćbadańprzeprowadzanychobecniewceluzapobieganiatakimawariomodbywa
siępodnazwąnBezpieczeństwoSI”.
BEZPIECZEŃSTWOSI
W2010rokuAutorstworzyłokreślenie:nInżynieriabezpieczeństwasztucznejinteligencji”
orazjegoskrótowąnazwęnBezpieczeństwoSI”,abynadaćnazwęnowemu,zalecanemu
kierunkowibadań.SwojepomysłydotyczącebezpieczeństwaSIformalnieprzedstawiono
narecenzowanejkonferencjiw2011roku[39],akolejnepublikacjenatentematpojawi-
łysięw2012r.[40],2013[41,42],2014[43],2015[44],2016[1,13],2017[45]i2018
[46,47].Możliwe,żeokreślenietobyłojużnieformalniewcześniejużywane,ale-oile
wiadomo-porazpierwszyzostałoużyteprzezAutora*wrecenzowanejpublikacji,coprzy-
czyniłosiędopopularnościtegookreślenia.Wcześniejnajczęstszyminazwamiwdziedzinie
sterowaniamaszynamibyłynEtykamaszyny”[48]lubnPrzyjaznaSI”[49].Dzisiajtermin
*
PojęcienSafeAI”zostałoużytejużw1995roku.PatrzRodd,M.1995.nSafeAI—isthispossible?”Engineering
ApplicationsofArtificialIntelligence8(3):243-250.