Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
KlasyfikatorBayesa
KlasyfikatorBayesa,zwanynaiwnym(ang.NaiveBayesClassifier,
NBC),tokoncepcjateoretyczna,zakładającaniezależnośćcechwzadaniu
[Dud2000].Gdybycechybyłyniezależne,wówczasprawdopodobieństwo
warunkoweprzynależnościpróbkixdodanejklasymibyłobyiloczynem
prawdopodobieństwprzynależnościxprzyrozkładachrzutowanychna
poszczególnecechy:
p
(
x
m
i
)
±
p
(
x
1
m
i
)
|
ł
|
p
(
x
d
m
i
)
,
(1)
gdziex1,
...,xdsąwartościamiposzczególnychcechpróbkix.Jeślizałożenie
niezależnościcechjestspełnione,wówczasnaiwnyklasyfikatorBayesajest
klasyfikatoremasymptotycznieoptymalnym.Ponieważestymacja
p
(
x
jm
i
)
,
j
±
1,...,d,jestprostaiszybka,dlategomożnaskonstruowaćklasyfikator.W
praktyceNBCjestklasyfikatoremmałoprzewidywalnymiczęstodajesłabe
wynikirozpoznania[Grab2003].
Stosowane
są
różne
strategie
projektowania
klasyfikatora
statystycznegodorozpoznawaniaobrazówwzależnościodtypudostępnych
informacjiogęstościwarunkowejklasy.Jeśliwszystkiegęstościwarunkowe
klassącałkowicieokreślone,wtedyoptymalnareguładecyzyjnaBayesamoże
byćwykorzystanadoprojektowaniaklasyfikatora[Kas2009].Warunkowe
gęstościklasyzazwyczajniesąznanewpraktyceitrzebajewyznaczyćw
procesieuczenianapodstawiedostępnychwzorcówuczących.Jeśliforma
warunkowejgęstościklasyjestznana,aleniektórezparametrówgęstości(np.
średniawektorówimacierzykowariancji)sąnieznane,tomamy
parametrycznyproblemdecyzyjny.Znanąstrategiądlategorodzajuproblemu
jestzastąpienienieznanychparametrówwfunkcjigęstościwartościami
szacunkowymi.OptymalnastrategiaBayesawymagawtymprzypadku
dodatkowychinformacjiwpostacirozkładudlawcześniejnieznanych
parametrów.Jeślitypgęstościwarunkowejklasyjestznany,tomamydo
czynieniaztrybemnieparametrycznym.Wtymprzypadkumusimyalbo
oszacowaćfunkcjęgęstościalbobezpośredniozbudowaćgranicędecyzjina
podstawiedanychtreningowych(np.regułak-najbliższychsąsiadów).W
praktycemożnazastosowaćperceptronwielowarstwowyjakonadzorowaną
nieparametrycznąmetodędokonstrukcjigranicdecyzyjnych[Jain2000].
17
