Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
26
Elementyteoriiinformacji
Rys.1.5.PrzykładdiagramustanówźródłaciągówMarkowadrugiegorzędu
rażającymimożliweprzejściaodstanuwchwiliż-tejdostanuwchwili(ż+1)-szejwraz
zodpowiadającymiimprawdopodobieństwami.
Przykład1.4.Narys.1.5przedstawionodiagramstanówźródłaciągówMarkowa
drugiegorzęduodwuelementowymalfabecieX={0,1}izbiorzeprawdopodobieństw
warunkowych{P(xi|xi11,xi12)}określonymponiżej
P(0|00)=P(1|11)=0,6
P(1|00)=P(0|11)=0,4
P(0|01)=P(0|10)=P(1|01)=P(1|10)=0,5
WtypowejsytuacjirozważasięźródłaciągówMarkowa,któresąergodyczne.
Przypomnijmy,żeproceslosowyjestergodyczny,gdyśredniepoczasiezewzględuna
przebiegczasowydowolnejrealizacjitegoprocesusązprawdopodobieństwemrównym
jednscizgodnezodpowiadającymiimśrednimipozbiorzewdowolnejchwiliczaso-
wej.Takwięcmożnaopisowookreślić[1],żeźródłociągówMarkowajestergodyczne,
gdyzprawdopodobieństwemrównymjednscigeneruje„typowy”ciągwiadomsci.
Poniżejpokażemyprzykładźródła,któreniespełniategowarunku,niejestwięcergo-
dyczne.
Przykład1.5.[1]RozważmyźródłociągówMarkowadrugiegorzęduzalfabetembi-
narnymX={0,1}.Niechrozkładprawdopodobieństwokreślającyźródłomapostać
P(0|00)=P(1|11)=1
P(1|00)=P(0|11)=0
P(0|01)=P(0|10)=P(1|01)=P(1|10)=0,5
Diagramstanutegoźródłazobrazowanonarys.1.6.Jeśliwwynikuwysłaniaokreślonej
sekwencjiwiadomościźródłoznajdziesięwstanie00lub11,pozostaniewnimnaza-
wsze.Załóżmy,żezrównymprawdopodobieństwemlosujemystanpoczątkowyźródła,
odktóregozaczynaswojedziałanie.Gdyźródłowygenerujedużąliczbęwiadomości,
zprawdopodobieństwem0,5znajdziesięwstanie00lubztymsamymprawdopodo-
bieństwemdotrzedostanu11.Osiągającstan00dalszyciągwiadomościgenerowany
przezźródłobędziemiałpostać000...
.Podobnie,odmomentuprzejściadostanu11
źródłobędziegenerowaćnieskończonyciąg111...
.Widzimy,żeżadenzotrzymanych
ciągówniejesttypowy,aśrednieobliczonepoczasiedlaoburealizacjiprocesu,jakim
