Hakowanie sztucznej inteligencji

Jerzy Surma

Uzyskaj dostęp

Zakup książkę

ISBN/ISSN:

978-83-01-21536-1

DOI:

Wydawnictwo:

Wydawnictwo Naukowe PWN

Rok wydania:

2020

Liczba stron:

161

XML:ISBN/ISSN:

ONIX MARC21

Bibliografia:

. Hakowanie sztucznej inteligencji. Red. Surma, Jerzy . : Wydawnictwo Naukowe PWN, 2020, 161 s. ISBN 978-83-01-21536-1

Bibliografia refWorks:

RT Book, Whole

SR Electronic(1)

A2 Surma, J.

T1 Hakowanie sztucznej inteligencji

PB Wydawnictwo Naukowe PWN

YR 2020

SN 978-83-01-21536-1

Bibliografia BibTex:

@Book{ 235118, author = "", editor = "Surma, Jerzy", title = "Hakowanie sztucznej inteligencji", publisher = "Wydawnictwo Naukowe PWN", year = "2020", address = "", isbn = "978-83-01-21536-1" }

Bibliografia endNote:

TY - BOOK

AU -

ED - Surma, Jerzy

TI - Hakowanie sztucznej inteligencji

PB - Wydawnictwo Naukowe PWN

CY -

PY - 2020

SN - 978-83-01-21536-1

ER -

Netografia (standard APA):

. Red. Surma, Jerzy. Hakowanie sztucznej inteligencji [baza danych online] : Wydawnictwo Naukowe PWN, 2020 [dostęp: 25 08 2024]. Dostęp w Ibuk Libra: https://libra.ibuk.pl/reader/hakowanie-sztucznej-inteligencji-jerzy-surma-235118.

sztuczna inteligencja, cyfryzacja, Internet rzeczy

Wraz z rozwojem cyfryzacji, w tym m.in. intensywnego rozwoju Internetu Rzeczy, rośnie znaczenie automatyzacji procesów biznesowych oraz użycia inteligentnych systemów wspomagania decyzji z wykorzystaniem metod sztucznej inteligencji i technik zaaw...

Więcej

ISBN/ISSN:

978-83-01-21536-1

DOI:

Wydawnictwo:

Wydawnictwo Naukowe PWN

Rok wydania:

2020

Liczba stron:

161

XML:ISBN/ISSN:

ONIX MARC21

Wstęp10
Bibliografia13
1. Wstęp do hakowania systemów uczących się16
1.1. Wprowadzenie17
1.2. Systemy uczące się18
1.2.1. Definicja i rodzaje systemów uczących się18
1.2.2. Zadanie klasyfikacji i uczenie nadzorowane19
1.2.3. Ocena jakości klasyfikatora20
1.2.4. Problemy budowania systemów uczących się22
1.2.5. Potencjalne cele atakującego23
1.3. Taksonomia ataków na systemy uczące się24
1.3.1. K ryteria jakości ochrony informacji24
1.3.2. Atak na integralność systemów nadzorowanych26
1.3.2.1. Formalizacja ataku na integralność26
1.3.2.2. Atak na proces budowania systemu27
1.3.2.3. Atak na funkcjonujący system28
1.3.3. Atak na integralność innych rodzajów systemów uczących się30
Bibliografia31
2. Przegląd reprezentatywnych ataków34
2.1. Wprowadzenie35
2.2. Zagrożenia dla systemów uwierzytelniania36
2.3. Zagrożenia w systemach autonomicznych41
2.4. Zagrożenia w systemach medycznych46
2.5. Wnioski końcowe50
Bibliografia51
3. Wymiar biznesowy ataków na systemy uczące się54
3.1. Wprowadzenie55
3.2. Robotyzacja i automatyzacja procesów biznesowych56
3.2.1. Robotyzacja procesów56
3.2.2 Sztuczna inteligencja w robotyzacji procesów58
3.3. Ryzyko operacyjne w procesach biznesowych60
3.3.1. Problematyka ryzyka61
3.3.2. Z arządzanie ryzykiem61
3.3.3. Ryzyko w RPA działających z wykorzystaniem systemów uczących się63
3.4. Zagrożenia związane z wykorzystaniem systemów uczących się w RPA64
3.4.1. Wprowadzenie64
3.4.2. Geneza ataków na systemy uczące się66
3.4.3. Przykłady realnych zagrożeń68
3.4.3.1. U wagi wstępne68
3.4.3.2. Przykład ataku infekcyjnego69
3.4.3.3. Atak na automatyczny systemy w transakcji finansowych70
3.4.3.4. Ataki na systemy rekomendacyjne72
3.4.3.5. In ne zagrożenia73
3.5. Zakończenie75
Bibliografia75
4. Studia przypadków80
4.1. Atakowanie filt ru antyspamowego wykorzystującego system uczący się81
4.1.1. Charakterystyka problemu81
4.1.1.1. Wprowadzenie81
4.1.1.2. D efinicja filtra antyspamowego82
4.1.1.3. Problem filtrowania poczty elektronicznej w działalności biznesowej85
4.1.1.4. Przegląd badań naukowych86
4.1.2. Opis eksperymentu89
4.1.2.1. Cel badania89
4.1.2.2. D ostępne dane empiryczne90
4.1.2.3. Problem hakowania systemów uczących się92
4.1.3. Wnioski i rekomendacje106
Bibliografia108
4.2. Atak na system detekcji nadużyć w bankowości elektronicznej111
4.2.1. P roblem nadużyć w bankowości elektronicznej111
4.2.1.1. Wprowadzenie111
4.2.1.2. D efinicja nadużycia w transakcjach bankowych112
4.2.1.3. Wykrywanie nadużyć i przeciwdziałanie im113
4.2.1.4. Standardowy system wykrywania i przeciwdziałania nadużyciom114
4.2.2. Opis eksperymentu116
4.2.2.1. Cel badania116
4.2.2.2. Dostępne dane empiryczne118
4.2.2.3. Generatywne sieci współzawodniczące (GANs)119
4.2.2.4. Scenariusze przebiegu ataku123
4.2.3. Modele generatora i dyskryminatora126
4.2.3.1. Budowa modeli126
4.2.3.2. Ewaluacja modeli130
4.2.4. Wnioski ko ńcowe i rekomendacje133
Bibliografia134
5. Bezpieczeństwo aplikacji systemów uczących się138
5.1. Wprowadzenie139
5.2. Wybrane problemy niezawodności oprogramowania140
5.2.1. Problem złożoności kodu140
5.2.2. Przepełnienie bufora oraz odczyt poza nim142
5.2.3. D ostęp po zwolnieniu pamięci143
5.2.4. Niewłaściwa deserializacja i wstrzykiwanie danych143
5.3. At aki na środowiska programistyczne i sprzęt dla systemów uczących się144
5.3.1. Atak na platformę programistyczną144
5.3.2. Atak na sprzęt na przykładzie Deep Hammer146
5.4. Ataki na biblioteki z wykorzystaniem automatycznych metod testowania oprogramowania147
5.4.1. Wprowadzenie147
5.4.2. Atak na bibliotekę OpenCV148
5.4.3. Atak na bibliotekę dlib151
5.4.4. Podsumowanie podatności znalezionych za pomocą automatycznych metod testowania oprogramowania153
5.5. Wnioski i kierunki dalszego działania154
Bibliografia155
Zakończenie158
Bibliografia160

uczącesię.Badanipracownicy(szefowiezespołówprogramistycznychimenedżero-

wieodpowiedzialnizacyberbezpieczeństwo)wyrażaliwzdecydowanejwiększości

opinieofuturystycznymcharakterzeatakównasystemyuczącesięideklarowalibrak

zasobówdoanalizytegotypuzagrożeń.Znamiennajestopiniajednegozbadanych,

którystwierdził:„tradycyjnehakowanieoprogramowaniajestsytuacjątypu:wiemy,

żeniewiemy,natomiastatakinamodelesystemówuczącychsiętosytuacja,wktórej:

niewiemy,żeniewiemy”

.Wtymkontekścietaksiążkamaszczególneznaczenienie

tylkodlaśrodowiskanaukowego,lecztakżedlamenedżerówzajmującychsięrozwojem

takichsystemóworazodpowiedzialnychzaryzykooperacyjneiciągłośćdziałania.

Dlamniejesttoszczególnieważnatematyka,gdyżdotykaonamoichpasjinauko-

wychipoznawczych.Temojepasjeznalazłyodzwierciedleniewprogramachstudiów

podyplomowych,którezorganizowałemiprowadzędochwiliobecnejwSzkoleGłów-

nejHandlowejwWarszawie(SGH).Wroku2005opracowałemabsolutniepionierski

wtamtychlatachprogramstudiówBusinessIntelligence,któredotyczązastosowań

metodanalizydanychisztucznejinteligencjiwbiznesie.Natomiastwroku2015opra-

cowałemoryginalnyprogramstudiówwzakresiezarządzaniacyberbezpieczeństwem.

Niejestzatemprzypadkiem,żeniniejszamonograﬁależynapograniczuzastosowań

sztucznejinteligencjiicyberbezpieczeństwa.Jesttozupełnienowyobszarbadawczy

izarządczy,którydotyczybezpieczeństwasystemówsztucznejinteligencji.

Niebyłbymwstanieopisaćtejfascynującejtematykiwsposóbdogłębnyiholistyczny,

gdybyniewsparcieiwspółpracamoichkolegówzInstytutuInformatykiiGospodarki

CyfrowejSGH,NASKorazmoichstudentówzseminariumdyplomowego.Takpo-

wstałyzespółzmierzyłsięztrudnymzadaniemopisaniazjawiskaintencjonalnych

atakównasystemysztucznejinteligencjiiﬁnalniepowstałaniniejszamonograﬁa

składającasię5rozdziałów.Rozdziałpierwszy,mojegoautorstwa,jestwprowadze-

niemwtętematykę.Starałemsięprzedstawićizdeﬁniowaćwszystkiepojęcia,poka-

zaćstanpracnaukowychwtymobszarzeiconajważniejszeprzedstawićautorską

taksonomięatakównasystemyuczącesię.Mojąambicjąbyłoprzedstawićwsposób

spójnywszystkiemożliwewektoryataków,starającsięodnieśćdowszystkichnajważ-

niejszychireprezentatywnychbadańnaukowychwtymobszarze.Autoremrozdziału

drugiegojestdrPiotrFilipkowskizSGH,którydokonałprzeglądureprezentatyw-

nychatakównasystemyuczące.Wramachtegoprzegląduomówiłatakinasystemy

uwierzytelnianiatożsamości,pojazdyautonomiczneorazsystemydiagnostykimedycz-

nej.Rozdziałtrzecidotyczyatakównasystemyuczącesięwzastosowaniachbizneso-

wych.TegozadaniapodjąłsiędrMariuszRafałozSGH,któryprzedstawiłtoważne

zagadnieniewkontekściezarządzaniaryzykiemoperacyjnymdlarobotyzacjiprocesów

biznesowych.Dodatkoworozdziałzawieraspektakularneprzykładyatakównasyste-

myrekomendacyjneorazsystemyautomatycznegozawieraniatransakcjiﬁnanso-

wych.Rozdziałczwartyskładasięzdwóchstudiówprzypadkówopracowanychprzez

moichdyplomantówwramachichpracmagisterskich.Pierwszestudium,opracowane

przezPiotraKuca,dotyczyatakunaﬁltrantyspamowywykorzystującyklasyﬁkator

Wstęp

Brak wyników

Hakowanie sztucznej inteligencji

Treść książki

Znajdź bibliotekę blisko siebie, i uzyskaj dostęp do ebooka w systemie IBUK Libra