Sztuczna inteligencja

Roman V. Yampolskiy

Uzyskaj dostęp

Zakup książkę

ISBN/ISSN:

978-83-01-21398-5

DOI:

Wydawnictwo:

Wydawnictwo Naukowe PWN

Rok wydania:

2020

Liczba stron:

582

XML:ISBN/ISSN:

ONIX MARC21

Bibliografia:

. Sztuczna inteligencja. Red. Yampolskiy, Roman V. . : Wydawnictwo Naukowe PWN, 2020, 582 s. ISBN 978-83-01-21398-5

Bibliografia refWorks:

RT Book, Whole

SR Electronic(1)

A2 Yampolskiy, R.V.

T1 Sztuczna inteligencja

PB Wydawnictwo Naukowe PWN

YR 2020

SN 978-83-01-21398-5

Bibliografia BibTex:

@Book{ 235391, author = "", editor = "Yampolskiy, Roman V.", title = "Sztuczna inteligencja", publisher = "Wydawnictwo Naukowe PWN", year = "2020", address = "", isbn = "978-83-01-21398-5" }

Bibliografia endNote:

TY - BOOK

AU -

ED - Yampolskiy, Roman V.

TI - Sztuczna inteligencja

PB - Wydawnictwo Naukowe PWN

CY -

PY - 2020

SN - 978-83-01-21398-5

ER -

Netografia (standard APA):

. Red. Yampolskiy, Roman V.. Sztuczna inteligencja [baza danych online] : Wydawnictwo Naukowe PWN, 2020 [dostęp: 25 08 2024]. Dostęp w Ibuk Libra: https://libra.ibuk.pl/reader/sztuczna-inteligencja-roman-v-yampolskiy-235391.

sztuczna inteligencja, ai, SI, etyka sztucznej inteligencji, bezpieczeństwo sztucznej inteligencji

Historia robotyki i sztucznej inteligencji jest pod wieloma względami także historią prób opanowania takich technologii przez ludzkość. Od czasu powstania praskiego Golema toczą się dyskusje na temat tego, jaki stopień niezależności powinny mieć t...

Więcej

ISBN/ISSN:

978-83-01-21398-5

DOI:

Wydawnictwo:

Wydawnictwo Naukowe PWN

Rok wydania:

2020

Liczba stron:

582

XML:ISBN/ISSN:

ONIX MARC21

Wstęp: wprowadzenie do bezpieczeństwa i ochrony sztucznej inteligencji12
Podziękowania28
Redaktor naukowy30
Współpracownicy32
Część I Obawy luminarzy36
Rozdział 1 Dlaczego przyszłość nas nie potrzebuje Bill Joy38
Rozdział 2 Głęboko przeplatana obietnica i niebezpieczeństwo GNR Ray Kurzweil60
Rozdział 3 Podstawowe pobudki SI Stephen M. Omohundro94
Rozdział 4 Etyka sztucznej inteligencji Nick Bostrom i Eliezer Yudkowsky106
Rozdział 5 Przyjazna sztuczna inteligencja: Wyzwanie fizyki Max Tegmark122
Rozdział 6 MDL destylacja inteligencji: Poznawanie strategii bezpiecznego dostępu do superinteligentnych możliwości rozwiązywania problemów K. Eric Drexler128
Rozdział 7 Problem uczenia się wartości Nate Soares146
Rozdział 8 Przykłady kontradyktoryjne w świecie fizycznym Alexey Kurakin, Ian J. Goodfellow i Samy Bengio158
Rozdział 9 W jaki sposób może zaistnieć SI? Różne podejścia i ich implikacje dla życia we wszechświecie David Brin176
Rozdział 10 Przyszłość MADCOM: Jak sztuczna inteligencja może wzmocnić propagandę obliczeniową, przeprogramować ludzką kulturę oraz zagrozić demokracji i co można z tym zrobić Matt Chessen194
Rozdział 11 Strategiczne implikacje otwartości w rozwoju sztucznej inteligencji Nick Bostrom218
Część II Odpowiedzi naukowców 244
Rozdział 12 Korzystanie z ludzkiej historii, psychologii i biologii w celu uczynienia SI bezpieczną dla ludzi Gus Bekdash246
Rozdział 13 Bezpieczeństwo SI z perspektywy pierwszej osoby Edward Frenkel286
Rozdział 14 Strategie dla nieprzyjaznej wyroczni SI z przyciskiem resetowania Olle Häggström296
Rozdział 15 Zmiany celu w inteligentnych agentach Seth Herd, Stephen J. Read, Randall O’Reilly i David J. Jilk308
Rozdział 16 Ograniczenia weryfikacji i walidacji zachowań agencyjnych David J. Jilk318
Rozdział 17 Kontradyktoryjne uczenie maszynowe Phillip Kuznetsov, Riley Edmunds, Ted Xiao, Humza Iqbal, Raul Puri, Noah Golmant i Shannon Shih330
Rozdział 18 Uzgadnianie wartości wykorzystując obliczalną odległość preferencji Andrea Loreggia, Nicholas Mattei, Francesca Rossi i K. Brent Venable348
Rozdział 19 Racjonalnie uzależniona sztuczna superinteligencja James D. Miller364
Rozdział 20 Bezpieczeństwo aplikacji robotów z wykorzystaniem ROS David Portugal, Miguel A. Santos, Samuel Pereira i Micael S. Couceiro376
Rozdział 21 Wybór preferencji społecznej i problem wyrównania wartości Mahendra Prasad398
Rozdział 22 Rozłączne scenariusze katastrofalnego ryzyka SI Kaj Sotala430
Rozdział 23 Realizm ofensywny i niezabezpieczona struktura systemu międzynarodowego: Sztuczna inteligencja i globalna hegemonia Maurizio Tinnirello458
Rozdział 24 Superinteligencja i przyszłość rządów: Priorytetyzacja problemu kontroli na końcu historii Phil Torres480
Rozdział 25 Wojskowa SI jako zbieżny cel samodoskonalącej się SI Alexey Turchin i David Denkenberger502
Rozdział 26 Wrażliwe na wartości podejście do projektowania inteligentnych agentów Steven Umbrello i Angelo F. De Bellis526
Rozdział 27 Konsekwencjalizm, deontologia i bezpieczeństwo sztucznej inteligencji Mark Walker544
Rozdział 28 Inteligentne maszyny są zagrożeniem dla ludzkości Kevin Warwick558
Indeks568

Wstęp:wprowadzeniedobezpieczeństwaiochronysztucznejinteligencji

nBezpieczeństwoSI”wydajesięugruntowany*iużywanyprzezwiększośćnajlepszychba-

daczy[38].Samadziedzinastajesięgłównymnurtem,pomimożenapoczątkubyłauważana

zascienceﬁctionlubpseudonaukę.

Systemprawnystoizamożliwościamitechnologicznymi,adziedzinabezpieczeństwa

SIjestwpowijakach.Problemsterowaniainteligentnymimaszynamijestobecnieuznawa-

ny†zapoważny,jednakwielubadaczywciążjestsceptycznienastawionychdosamejjego

przesłanki.Cogorsza,tylkookoło100osóbnacałymświeciezajmujesięwpełnipracą

nadrozwiązaniemobecnychograniczeńwrozumieniuiumiejętnościachwtejdziedzinie.

Tylkokilkanaścieztychosób1maformalnewykształceniezzakresuinformatyki,cyber-

bezpieczeństwa,kryptograﬁi,teoriidecyzji,uczeniamaszynowego,weryﬁkacjiformalnej,

kryminalistykikomputerowej,steganograﬁi,etyki,matematyki,bezpieczeństwasieci,psy-

chologiiiinnychistotnychdziedzin.Nietrudnodostrzec,żeproblemstworzeniabezpiecznej

isprawnejmaszynyjestznaczniewiększyniżproblemstworzeniatylkosprawnejmaszyny.

Jednaktylkookoło1%badaczyjestobecniezaangażowanychwtenproblem,aichﬁnanso-

waniejestnaniewystarczającympoziomie.Jakostosunkowomłodyiniedoﬁnansowanykie-

runekbadań,bezpieczeństwoSImożeczerpaćkorzyścizprzyjmowaniametodipomysłów

zbardziejuznanychdziedzinnauki.Podjętopróbywprowadzeniatechnik,którezostałypo

razpierwszyopracowaneprzezekspertówds.cyberbezpieczeństwawceluzabezpieczenia

systemówoprogramowaniadotejnowejdziedziny,zabezpieczaniainteligentnychmaszyn

[50-53].Innedziedziny,któremogłybysłużyćjakoźródłoważnychtechnik,obejmująinży-

nierięoprogramowaniaiweryﬁkacjęoprogramowania.

Podczasopracowywaniaoprogramowaniaiteracyjnetestowanieidebugowaniemająfun-

damentalneznaczeniedlauzyskanianiezawodnegoibezpiecznegokodu.Pomimożezakłada

się,żekażdeskomplikowaneoprogramowaniebędziezawierałopewnebłędy,licznezaawan-

sowanetechnikidostępnewzestawienarzędzidlainżynierówoprogramowaniaumożliwiają

wykrycieinaprawienienajpoważniejszychbłędówiwefekcieuzyskanieproduktuodpowied-

niegodozamierzonychcelów.Oilezpewnościąwielemodularnychtechnikprogramowania

itestowaniastosowanychwbranżyoprogramowaniamożebyćwykorzystywanychpodczas

opracowywaniainteligentnychagentów,otylemetodytestowaniakompletnegopakietuopro-

gramowaniaprawdopodobnieniebędąmogłybyćprzenoszonewtensamsposób.Testyalfa

ibeta,któredziałająprzezwypuszczenieprawieukończonegooprogramowaniadlazaawan-

sowanychużytkownikówwceluzgłaszaniaproblemównapotkanychwrealistycznychsytu-

acjach,niebyłybydobrympomysłemwdziedzinietestowaniaidebugowaniasuperinteligen-

tnegooprogramowania.Podobniesamouruchomienieoprogramowaniawcelusprawdzenia

jegodziałanianiejestwykonalnympodejściemwprzypadkusuperinteligentnegoagenta.

https://www.cmu.edu/safartint/,https://selfawaresystems.com/2015/07/11/formal-methods-for-ai-safety/,

https://intelligence.org/2014/08/04/groundwork-ai-safety-engineering/,http://spectrum.ieee.org/tech-talk/

robotics/artificial-intelligence/new-ai-safety-projects-get-funding-from-elon-musk,http://globalprioritie-

sproject.org/2015/08/quantifyingaisafety/,http://futureoﬂife.org/2015/10/12/ai-safety-conference-in-puerto-

-rico/,http://rationality.org/waiss/,http://gizmodo.com/satya-nadella-has-come-up-with-his-own-ai-safety-ru-

les-1782802269,https://80000hours.org/career-reviews/artiﬁcial-intelligence-risk-research/,https://openai.com/

blog/concrete-ai-safety-problems/,http://lesswrong.com/lw/n4l/safety_engineering_target_selection_and_align-

ment/,https://www.waise2018.com/

†

https://www.whitehouse.gov/blog/2016/05/03/preparing-future-artiﬁcial-intelligence

http://acritch.com/fhi-positions/

Brak wyników

Sztuczna inteligencja

Treść książki

Znajdź bibliotekę blisko siebie, i uzyskaj dostęp do ebooka w systemie IBUK Libra