Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
1.2.Miarypodobieństwa/odmienności
29
funkcją.Wpewnychsytuacjach,np.wzagadnieniachdotyczącychkompresji
sygnałów,potrzebnesąmiaryuwzględniającebardziejzłożonerelacjemię-
dzyporównywanymiwektorami.Wyczerpującyichprzeglądzawierapra-
ca[43],ichuogólnieniemjesttzw.dywergencja(rozbieżność)Bregmana.
Definiujemyjąnastępująco[38]:
Definicja1.1.
Niechφ:S→Rbędzieściślewypukłąfunkcjązdefiniowanąnawypukłym
zbiorzeS⊂Rn.Ponadtozakładamy,żerelatywnewnętrze,rźnt(S),zbioru
Sjestniepuste,aφjestfunkcjąróżniczkowalnąnarźnt(S).Przezrozbież-
nośćBregmanarozumiesięfunkcjędφ:S×rźnt(S)→[0,∞)taką,żedla
dladowolnychX,y∈Rd
dφ(X,y)=φ(X)−φ(y)−(X−y)
T∇φ(y)
Symbol∇φ(y)oznaczagradientfunkcjiφ(y).
(1.11)
.
PrzykładydywergencjiBregmanaprzedstawionowtabl.1.1.Zwróćmy
szczególnąuwagęnakońcowetrzyprzykłady.Jeżelizaφ(X)przyjmiesię
Tablica1.1.DywergencjeBregmanagenerowaneprzezróżnewypukłefun-
kcje[38]
n-simpleks
Dziedzina
[0,1]
R++
Rn
R+
Rn
R
XlogX+(1−X)log(1−X)Xlog(x
Σ
n
j=1Xjlog2Xj
−logX
XlogX
XTWx
φ(X)
"X"2
X2
Xlog(x
(X−y)TW(X−y)
Σ
y−log(x
x
y)+(1−X)log(11x
n
j=1Xjlog2(
"X−y"2
dφ(X,y)
(X−y)2
y)−(X−y)
y)−1
xj
yj)
11y)
Itakura–Saito
Mahalanobisa
Rozbieżność
kwadratowa
odl.euklid.
logistyczna
KL-dywer-
f.straty
f.straty
kwadrat
gencja
odl.
odl.