Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
ALGEBRALINIOWA
Terazmożnaponowniezmienićminimalizowanąfunkcję,abyominąć
pierwszyskładnik,gdyżniejestonzależnyodc:
c
∗=argmin
−2xTg(c)+g(c)Tg(c).
c
Dalejmusimyzrobićpodstawieniewdefinicjig(c):
c
∗=argmin
−2xTDc+cTDTDc
c
=argmin
c
−2xTDc+cTIlc
(przezortogonalnośćiograniczenianormyjednostkowejD)
=argmin
c
−2xTDc+cTc.
(2.59)
(2.60)
(2.61)
(2.62)
Możemyrozwiązaćtenproblemoptymalizacyjnyzapomocąrachunku
wektorowego(patrzpunkt4.3,jeśliniewiesz,jaktosięrobi):
∇c(−2x
TDc+cTc)=0
−2DTx+2c=0
c=DTx.
(2.63)
(2.64)
(2.65)
Tosprawia,żealgorytmjestwydajny:możemyoptymalniezakodować
x
zapomocądziałaniawektorowomacierzowego.Abyzakodowaćwektor,
stosujesięfunkcjękodera:
f(x)=DTx.
(2.66)
Korzystającdalejzmnożeniamacierzy,możnatakżezdefiniowaćdziałanie
rekonstrukcjiPCA:
r(x)=g(f(x))=DDTx.
(2.67)
Dalejnależywybraćmacierzkodowania
D
.Abytozrobić,wracamy
dominimalizacjiodległości
L2
międzywejściamiarekonstrukcjami.Ponie-
ważużywamytejsamejmacierzy
D
doodkodowaniawszystkichpunktów,
niemożemydalejrozpatrywaćtychpunktówoddzielnie.Przeciwnie,musimy
zminimalizowaćnormęFrobeniusamacierzybłędówwzględemwszystkich
wymiarówipunktów:
D
∗=argmin
D
r
|
|
¶
Σ
ź,j
(x
(ź)
j
−r(x(ź))j)
2
dlaDTD=Il.
47
(2.68)