Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
ALGEBRALINIOWA
(ponieważskładnikiniedotyczącedniewpływająnaargmin)
=argmin
−2Tr(XTXddT)+Tr(ddTXTXddT)
d
(2.78)
(ponieważmożnazmieniaćcykliczniekolejnośćmacierzywśladzie,zgodnie
zrównaniem2.52)
=argmin
−2Tr(XTXddT)+Tr(XTXddTddT)
d
(używającponownietejsamejwłasności).
Wtymmiejscuponowniewprowadzamyograniczenie:argmin:
argmin
−2Tr(XTXddT)+Tr(XTXddTddT)dladTd=1
d
=argmin
−2Tr(XTXddT)+Tr(XTXddT)dladTd=1
d
(wzwiązkuzograniczeniem)
=argmin
−Tr(XTXddT)dladTd=1
d
=argmax
Tr(XTXddT)dladTd=1
d
=argmax
Tr(dTXTXd)dladTd=1.
d
(2.79)
(2.80)
(2.81)
(2.82)
(2.83)
(2.84)
Tenproblemoptymalizacyjnymożezostaćrozwiązanyzapomocądekom-
pozycjiwłasnej.Wszczególnościoptymalnawartość
d
jestpodanaprzez
wektorwłasnyXTXodpowiadającynajwiększejwartościwłasnej.
Towyprowadzeniejestwłaściwadlaprzypadku
l
=1ipodajetylkopierw-
szągłównąskładową.Bardziejogólnie,jeślichcemyuzyskaćbazęgłównych
składowych,macierz
D
jestokreślonaprzez
l
wektorówwłasnychodpowia-
dającychnajwiększejwartościwłasnej.Tomożnaudowodnićprzezindukcję.
Zalecamyjakoćwiczenieprzeprowadzenietakiegodowodu.
Algebraliniowajestjednązpodstawowychdziedzinmatematykipotrzeb-
nychdozrozumieniadeeplearningu.Innymkluczowymobszaremmatematyki
niezbędnymwsystemachuczącychsięjestteoriaprawdopodobieństwa,pre-
zentowanawkolejnymrozdziale.
49
