Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji
CYBERBEZPIECZEŃSTWOVSBEZPIECZEŃSTWOSI
xxi
BruceSchneierpowiedział:nJeśliuważasz,żetechnologiamożerozwiązaćTwojeproblemy
zbezpieczeństwem,tonierozumieszproblemówinierozumiesztechnologii”.SalmanRus-
hdiewypowiedziałsiębardziejogólnie:nNiemaczegośtakiegojakdoskonałebezpieczeń-
stwo,tylkoróżnepoziomyniepewności”.Autorniniejszejksiążkizaproponowałokreślenie
PodstawoweTwierdzenieBezpieczeństwa:każdysystembezpieczeństwaostateczniezawie-
dzie,niemaczegośtakiegojakw100%bezpiecznysystem.Jeślisystembezpieczeństwa
niezawiódł,należypoprostupoczekaćdłużej.
Winformatyceteoretycznejpowszechnymsposobemizolowaniaistotytrudnegoprob-
lemujestmetodaredukcjidoinnego,czasemłatwiejszegodoprzeanalizowaniaproblemu
[54-56].Jeżelijestonamożliwaiwydajnaobliczeniowo[57],totakaredukcjaoznacza,
żejeślilepiejprzeanalizowanyproblemzostaniewjakiśsposóbrozwiązany,umożliwito
równieżskutecznerozwiązanieproblemu,zktórymmamyobecniedoczynienia.Problem
bezpieczeństwaOSImożnasprowadzićdoproblemuzapewnieniabezpieczeństwakonkret-
nemuczłowiekowiiokreślićterminem:ProblemBezpiecznegoCzłowieka(PBC).*Formal-
nietakiejredukcjimożnadokonać,wykorzystującograniczonytestTuringawdziedzinie
bezpieczeństwawsposóbidentycznyztym,wjakimożnaustalićkompletnośćproblemu
przezSI[55,58].Takiformalizmwykraczapozazakrestegowstępu,dlategopoprostuna-
leżyzwrócićuwagę,żewobuprzypadkachistniejeagent,ointeligencjiprzynajmniejna
poziomieludzkim,którymożewpływaćnaswojeotoczenie,azamierzonymdziałaniemjest
upewnieniesię,żejestbezpiecznyikontrolowany.Podczasgdywpraktycezmianaprojektu
człowiekazapomocąmanipulacjiDNAniejesttakprostajakzmianakoduźródłowegoSI,
teoretyczniejestmożliwa.
Zauważono,żeludzieniesąbezpiecznidlasiebieiinnych.Pomimotysiąclecipróbwy-
chowaniabezpiecznychludziprzezkulturę,edukację,prawa,etykę,karę,nagrodę,religię,
związki,rodzinę,przysięgi,miłość,anaweteugenikę,sukcesniejestnawetwzasięguręki.
Ludziezabijająipopełniająsamobójstwa,kłamiąizdradzają,kradnąioszukują,zwykle
proporcjonalniedotego,nailemogąuniknąćkary.Prawdziwiepotężnidyktatorzyznie-
walają,popełniąludobójstwa,łamiąprawoinaruszająprawaczłowieka.Mówisię,żenie
możnaznaleźćczłowiekabezgrzechu.Najlepsze,nacomożemyliczyć,toograniczyćtakie
niebezpiecznetendencjedopoziomów,którenaszespołeczeństwomożeprzetrwać.Nawet
wykorzystujączaawansowanąinżynieriągenetyczną[59],jedyne,comożnaosiągnąć,to
dodatkowezmniejszenietego,jakniebezpiecznisąludzie.Takdługo,jakpozwolimyosobie
nadokonywaniewyborów,wykorzystującwolnąwolę,możeonazostaćprzekupiona,będzie
oszukiwać,będziepriorytetowotraktowaćswojeinteresyponadte,którympoleconojejsłu-
żyć,takwięcpozostanieonazasadniczoniebezpieczna.Pomimożeludziesątrywialnymi
przykładamirozwiązaniaproblemuuczeniasięwartości(PUW)[60-62],ludziesąbezpiecz-
ni,costawiapodznakiemzapytaniaobecnąnadzieję,żerozwiązaniePUWdoprowadzido
bezpiecznejsztucznejinteligencji.Jesttoistotne.CytującBruce’aSchneiera:nTylkoamato-
rzyatakująmaszyny,profesjonaliścisąukierunkowaninaludzi”.Wzwiązkuztymbadania
nadbezpieczeństwemSInależypostrzegaćjako,przynajmniejczęściowo,dziedzinękontra-
dyktoryjniepodobnądokryptografiilubbezpieczeństwa.†
*
PodobnieinteresującymożebyćProblemBezpiecznegoZwierzęcia(czyPitbullmożebyćbezpieczny?).
†
Ostatniąpożądanąrzecząjestsytuacjakontradyktoryjnazsuperinteligencją,aleniestetymożnaniemiećwyboru
wtejsprawie.Wydajesię,żeniemożnazapewnićdługoterminowegobezpieczeństwaSI,alerównieżniema
luksusuczęściowejawarii.
