Treść książki

Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji
xiii
cytowanymprzykłademjestkomputerowysystemwizyjny,którymiałklasyfikowaćzdjęcia
czołgów,alezamiasttegonauczyłsięodróżniaćtłotakichobrazów[9].Inneprzykłady*obej-
mująproblemyspowodowaneprzezźlezaprojektowanefunkcjeużytecznościodnoszącesię
tylkoczęściowodopożądanychfunkcjonalnościagentów,takiejakjazdanarowerzewkółko
wokółcelu[10],wstrzymywaniegry,abyuniknąćprzegranej[11]lubwielokrotnedotykanie
piłkinożnej,abyuzyskaćpunktyzajejposiadanie[12].Działającysystemmożebyćpodatny
nawieleczynników[1,13,14],któredoprowadządoawariisztucznejinteligencji.
Istniejewieledoniesieńmedialnychnatematawariisztucznejinteligencji,alepobliższym
zbadaniuwiększośćztychprzykładówmożnaprzypisaćinnymprzyczynom,takimjakbłędy
wkodzielubbłędywprojekcie.Naponiższejliścieprzedstawionowybraneniepowodzenia
celowejinteligencji.Ponadtoponiższeprzykładyobejmujątylkopierwszewystąpienieokre-
ślonejawarii,jednaktesameproblemybyłyczęstoobserwowaneponowniewpóźniejszych
latach.Wreszcie,listanieobejmujeawariisztucznejinteligencjiwynikającychzhakowa-
nialubinnychcelowychprzyczyn.Mimotoośczasuawariisztucznejinteligencjimaten-
dencjęwykładniczą,jednocześniedomyślniewskazującwydarzeniahistoryczne,takiejak
nAIWinter”:
1958Oprogramowaniedoradczewydedukowałoniespójnezdaniaprzyużyciuprogramo-
wanialogicznego[15].
1959Sztucznainteligencjazaprojektowanajakoogólnenarzędziedorozwiązywania
problemównierozwiązałarzeczywistychproblemów.†
1977Oprogramowanieoograniczonymrozsądku,przeznaczonedopisaniaopowieści
produkowałonzłe”historie[16].
1982Oprogramowaniezaprojektowanedodokonywaniaodkryćzamiasttegoodkryło,
jakoszukiwać.1
1983Systemwczesnegoostrzeganiaprzedatakiemjądrowymfałszywiestwierdził,żema
miejsceatak.§
1984ProgramNationalResidentMatchbyłtendencyjnyprzyumieszczaniumałżeństw
[17].
1988Oprogramowanierekrutacyjnedyskryminowałokobietyimniejszości[18].
1994Agencinauczylisięnchodzić”szybko,stającsięwyższymiiprzewracającsię[19].
2005Osobistyasystentopartynasztucznejinteligencjiprzełożyłterminspotkania
50razy,zakażdymrazemo5minut[20].
2006Systemwykrywaniazagrożeńwewnętrznychsklasyfikowałnormalnedziałaniajako
wartościodstające[21].
2006Oprogramowaniedodoradztwainwestycyjnegotraciłopieniądzewprawdziwym
obrocie[22].
2007WyszukiwarkaGooglezwróciłaniepowiązanewynikidlaniektórychsłów
kluczowych.
2010Złożoneoprogramowanie,opartenasztucznejinteligencji,dohandluakcjamispo-
wodowałobłyskawicznąawarięowartościbilionadolarów.**
*
http://lesswrong.com/lw/lvh/examples_of_ais_behaving_badly/
†
https://en.wikipedia.org/wiki/General_Problem_Solver
1
http://aliciapatterson.org/stories/eurisko-computer-mind-its-own
§
https://en.wikipedia.org/wiki/1983_Soviet_nuclear_false_alarm_incident
https://en.wikipedia.org/wiki/Google_bomb
**
https://en.wikipedia.org/wiki/2010_Flash_Crash