Treść książki
Przejdź do opcji czytnikaPrzejdź do nawigacjiPrzejdź do informacjiPrzejdź do stopki
2.3.KODOWANIEKOMUNIKATÓW
niwelowananiskączęstotliwościąwystępowania.Kodowanieczwartestarasięwmożliwie
największymstopniusprostaćpowyższejregule,ponieważdługościkodówsąodwrotne
doprawdopodobieństwkomunikatów.
WarunekFano12
Mimożekodowaniadrugieitrzecieniesąoptymalne,spróbujmyporównaćjejakościowo.
Wartośćśredniejdługościsłowakodowegowskazuje,żedrugiekodowaniejestlepszeod
trzeciego,jednaknietylkotakniejest,anawetdrugiekodowanienależyzdyskwalifikować.
Dlauzasadnieniatejtezyrozważmyciągznakówpostaci001001irozstrzygnijmy,które
komunikatyzostałyzakodowane.Łatwozauważyćmożliwąsekwencjędwóchkolejnych
kodówpiątegokomunikatu,jednakżerówniedopuszczalnajestsekwencjazłożonazko-
lejnychkodówkomunikatówpierwszego,trzeciegoidrugiego.Tymsamymdochodzimy
doistotnegowarunkukodowania(niespełnianegoprzezdrugiekodowanie),zabraniające-
goistnieniapodobnychsytuacji.Okazujesięprzytym,żesformułowanierównoważnego
prostszegowarunkuniejesttrudne.
WarunekFanon
żadenpojedynczykodniemożebyćpoczątkieminnegopojedynczegokodu.
Łatwozauważyć,żepozostałetrzykodowaniaspełniająwarunekFano,samzaśwaru-
nekbędziemyodtąduważaćzaobowiązkowyitylkokodowaniaspełniającegobędąroz-
patrywane.Wkonkretnymprzykładziedrugiegokodowaniakodpierwszegokomunikatu
jestpoczątkiemkodupiątegokomunikatu,skądbierzesięopisananiejednoznaczność.
Redundancja
Warunekśredniejdługościkodowaniawystarczałdlarozróżnieniakodowańjednego
zestawukomunikatówzustalonymiprawdopodobieństwami,alejestwątpliwydlaporów-
nańkomunikatówoinnychprawdopodobieństwach,nawetprzyrównejśredniejdługości
kodowania.Dlaprzykładurozpatrzmyźródłodysponującetymrazemczteremakomunika-
tami,oprawdopodobieństwachodpowiednio1/2,1/4,1/8oraz1/8,zkodamiodpowiednio
0,110,111oraz10.Wyznaczającśredniądługośćkodowania,otrzymujemy:
L
±|+|+|+|±
1
1
1
3
1
3
1
2
81264
+
++
±
30
.
2
4
8
8
16
16
Otrzymanawartośćjestrównaśredniejdługościczwartegokodowaniazpoprzedniego
przykładu.
Którekodowaniejestzatemogólnielepsze?Odpowiedźniemożeopieraćsięwyłącz-
nienakodowaniuitrzebawziąćpoduwagęilośćinformacjiprzekazywanąprzezźródło,
ponieważwięcejinformacjiznaturyrzeczywymagadłuższychkodowań.Pomocnabędzie
12RobertFano(1917-2016)-Amerykaninwłoskiegopochodzenia,synsłynnegomatematykaGinoFanoibrat
znanegofizykaUgoFano,pracownikMIT.Opróczwkładu(wrazzClaudemShannonem)wteorięinformacjimający
sporezasługiwdziedziniewspółbieżności.
27
