Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
42
Rozdział1.Probabilistycznemetodyklasyfikacyjne
niezależnejestzazwyczajnieprawdziwe,aleuzyskanyprzytymzałożeniu
klasyfikatormożedawaćdobrerezultaty.Poszczególnekrokibudowynaiw-
negoklasyfikatorabayesowskiegosąpodanewpostacialgorytmu.
Naiwnyestymatorbayesowski
1.Dlakażdejgrupykkonstruujemyestymatorˆ
fkjgęstościfkjzmiennej
losowejXj,wykorzystującdotegoceluteelementypróbyuczącej,dla
którychYi=k.
2.Niech
...,xp)=
j=1
Π
p
fkj(xj).
ˆ
fk(x)=ˆ
ˆ
fk(x1,x2,
3.Niech
πk=
ˆ
n
1
Σ
i=1
n
I(Yi=k),
gdzieI(Yi=k)=1,jeżeliYi=korazI(Yi=k)=0,jeżeliYi/=k.
4.Niech
dNB(x)=argmax
ˆ
k
πkˆ
ˆ
fk(x).
Naiwnyklasyfikatorbayesowskijestszczególniepopularnywówczas,gdy
Xjestwektoremdyskretnymodużejliczbieskładowych.Wtymprzypadku
estymatoryˆ
fkj(xj)mająszczególnieprostąpostać.
1.6.LiniowafunkcjadyskryminacyjnaFishera
Pierwszawersjaliniowejanalizydyskryminacyjnejwprzypadkudwóchgrup
pochodziodFishera(1936).IdeaFisherapolegałanazredukowaniuwektora
cechdojednegowymiaruprzezzrzutowaniedanychnaprostą.Algebraicznie
oznaczatozastąpieniewektoraX=(X1,X2,
...,Xp)′kombinacjąliniową
p
U=w′X=
Σ
wjXj.Naszymcelemjesttakidobórwektoraw,byjak
j=1
najlepiejbyłyodsiebieoddzielonegrupy.
ZatemchcemyzbudowaćklasyfikatornabaziejednejzmiennejUza-
miastwektoraX.Zdefiniujmyterazpojęcieoddzielaniagrup.Niechµj
oznaczawektorwartościoczekiwanychwektoraXdlaY=jiniechΣbę-
dziemacierząkowariancjiwektoraXdlaY=j.WówczasE(U|Y=j)=
