Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
PRAWDOPODOBIEŃSTWOITEORIAINFORMACJI
Gdytożsamośćrozkładuwynikajasnozkontekstu,możnapoprostu
napisaćnazwęzmiennejlosowej,względemktórejliczymywartośćoczekiwa-
ną,jako
Ex
[
f
(
x
)].Jeślijestjasne,którejzmiennejlosowejdotyczywartość
oczekiwana,możnacałkowiciepominąćindeksdolnyjakwwyrażeniu
E
[
f
(
x
)].
Domyślnieprzyjmujesię,że
E
[
·
]jestśredniąwzględemwartościwszystkich
zmiennychlosowychwewnątrznawiasu.Podobniegdyniemaniejednoznacz-
ności,możnapominąćnawiasykwadratowe.
Wartościoczekiwanesąliniowe,jaknaprzykład:
Ex[Of(x)+βg(x)]=OEx[f(x)]+βEx[g(x)]j
(3.11)
gdyOiβniesązależneodx.
Wariancja
określamiarętego,jakwartościzmiennejlosowej
x
będąsię
różnićprzypróbkowaniuróżnychwartości
x
zjejrozkładuprawdopodobień-
stwa:
Var(f(x))=E[(f(x)−E[f(x)])2].
(3.12)
Gdywariancjajestniska,wartości
f
(
x
)skupiająsięwpobliżuwartościocze-
kiwanej.Pierwiastekkwadratowyzwariancjiokreślanyjestjako
odchylenie
standardowe.
Kowariancja
dajenammiarętego,nailedwiewartościsąliniowozesobą
powiązane,atakżeskalętychzmiennych:
Cov(f(x)jg(y))=E[(f(x)−E[f(x)])(g(y)−E[g(y)])].
(3.13)
Dużewartościbezwzględnekowariancjioznaczają,żewartościulegajądużym
zmianomisąjednocześniedalekoodswoichodpowiednichśrednich.Jeśli
znakkowariancjijestdodatni,toobiezmiennebędąmiałyjednocześnie
względniedużewartości.Jeśliznakkowariancjijestujemny,tojednazmienna
marelatywniedużewartości,ajednocześniedrugazmiennarelatywniemałe.
Innemiary,jak
korelacja,
normalizująwkładkażdejzmiennej,pozwalając
tylkostwierdzić,wjakimstopniuzmiennesązesobąpowiązane,niema
natomiastnaniewpływuwielkośćpojedynczychzmiennych.
Pojęciakowariancjiizależnościsązesobązwiązane,alenależyjetrakto-
waćodrębnie.Sąpowiązane,gdyżdwiezmienneniezależnemająkowariancję
równą0,azmienneoniezerowejkowariancjisązależneodsiebie.Jednak
niezależnośćtocoinnegoniżkowariancja.Abydwiezmiennemiałyzerową
kowariancję,niemożebyćmiędzynimizależnościliniowej.Niezależnośćjest
mocniejszymwymaganiemniżzerowawartośćkowariancji,gdyżniezależność
wykluczatakżezwiązkinieliniowe.Możliwejest,abydwiezmiennebyłyza-
leżne,alemiałyzerowąkowariancję.Przypuśćmynaprzykład,żepobieramy
pierwsząpróbkęliczbyrzeczywistej
x
zrozkłademjednostajnymwprzedziale
59
