İnformasiya vy kodlaşdirma nzriyysi 2 semestrlik kurs 50 saat

• İsa Musayev

M鰒zularm黨semlab1Kursun predmeti vY mYzmunu12İnformasiya anlayışı23İnformasiya vY kodlaşdırma nYzYriyyYsinin vYzifYlYri24İnformasiya 鰐黵Yn sistemin modeli. RabitY kanalları15İnformasiyanın kYmiyyYtcY qiymYtlYndirilmYsi.226Entropiya vY onun xassYlYri27ŞYrti entropiya28Bolluq. İnformasiyanın 鰐黵黮mYsi s黵Yti229Kodlar vY onların tYsviri2210Uğultusuz rabitY kanalları 黱 kodlaşdırmanın Ysas teoremi211Optimal kodlaşdırma241-ci semestrin yekunu204612İnformasiya 鰐黵Yn sistemin maneYyYdavamlılığı, sYmYrYliliyi vY etibarlılığı113Uğultulu diskret rabitY kanalında 鰐黵黮Yn informasiyanın miqdarının hesablanması1114Uğultu şYraitindY kodlaşdırma haqqında Şennon teoremi1115İnformasiyanın 鰐黵黮mYsinin etibarlılığının y黭sYldilmYsi metodları1116İnformasiya nYzYriyyYsinin iqtisadi tYdqiqatlarda tYtbiqi perspektivlYri1117İqtisadi informasiya vY onun qiymYtliliyi1118İqtisadi sistemlYrin m黿tYlifliyinin 鰈琰lmYsi1119İqtisadi informasiyanın kodlaşdırılması problemlYri1220İnformasiya nYzYriyyYsi vY iqtisadi proqnozlaşdırma222-ci semestrin yekunu1064Kursun yekunu301010

TYqdim edilYn kursun predmeti tYşkilati idarYetmY vahidlYrindY idarYetmY problemlYri ilY mYşğul olan iqtisadçı m黷YxYssislYrY informasiya nYzYriyyYsinin tYdqiqat metodlarının vY informasiyanın kodlaşdırılması prinsiplYrinin Ysaslarını 鰕rYtmYkdYn ibarYtdir.

Kursun mYzmunu informasiyanın kYmiyyYtcY qiymYtlYndirilmYsi, optimal kodlaşdırma, 鰐黵mY problemlYri vY iqtisadi tYdqiqatlarda bu nYzYriyyYnin tYtbiqi perspektivlYrini açıqlamaqdan ibarYtdir.

1948-ci ildY K.Şennonun 揜iyazi rabitY nYzYriyyYsivY N.Vinerin 揔ibernetikaadlı YsYrlYrinin 鏰pdan çıxması “İnformasiya nYzYriyyYsi攏in yaranmasını rYsmilYşdirdi. Bu nYzYriyyY idarYetmY haqqında elm olan kibernetikaya daxil olmaqla, rabitY kanallarının buraxıcılıq qabi-liyyYtinin, siqnalla uğultunun m黱asibYtinin, optimal kodlaşdırma vY mYlumatların tYhrifsiz 鰐黵黮mYsinin 鰕rYnilmYsi tYlYbi ilY meydana gYlmişdir.

İnformasiya nYzYriyyYsinin yaranmasının rYsmi tarixi bYlli olsa da, bu nYzYriyyY birdYn-birY meydana çıxmamış vY hYlY 鏾x-鏾x YvvYllYrdYn m黿tYlif elm sahYlYrindY bunun Ysasını tYşkil edYn ideyalar kompleksi formalaşmışdı.

İnformasiyanın ehtimalla YlaqYsi ideyasını riyazi statistika ilY mYşğul olan R.A.Fişer s鰕lYmişdir.

İnformasiya nYzYriyyYsinin yaradılmasında A.N.Kolmoqorov, Naykvist, R.Xartli, K.Şennon, N.Viner, fon Neyman, N.S.Bernşteyn, A.Y.Xin鏸n, V.A.Kotelnikov, A.A.XarkevivY b. b鰕黭 xidmYtlYr g鰏tYrmişlYr.

İnformasiya nYzYriyyYsi ehtimal nYzYriyyYsi vY riyazi statistika ilY o qYdYr sıx bağlıdır ki, bir sıra m黷YxYssisYlYr onu kibernetikaya aid etmYyY etiraz edirlYr. Lakin aydın olmuşdur ki, informasiya nYzYriyyYsinin tYklif etdiyi miqdar-ehtimallı tYdqiqat metodları fiziki sistem vY proseslYri vY canlı orqanizmlYri 鰕rYnmYyY, hYm鏸nin komp黷er yaratmağa imkan verir.

İnformasiya nYzYriyyYsinin yaradılmasında YhYmiyyYtli rol oynamış bYzi ideyalar termodinamika vY statistik mexanika problemlYri ilY mYşğul olan fiziklYrdY meydana çıxmışdır. BelY ki, istilik enerjisinin mexaniki enerjiyY vY YksinY 鏴vrilmYsi proseslYrinin tYdqiqi g鰏tYrdi ki, qapalı fiziki sistemdY enerjinin 黰umi miqdarı dYyişmYz qaldığı halda, molekulların xaotik hYrYkYtlYrinin nYticYsi olan 搃ntizamsızistilik enerjisindYn 搉izamlımexaniki enerjiyY ke鏸d prosesi baş verir. Bu d鰊mYz, biristiqamYtli proseslYri 鰈鏼Yk 黱 1865-ci ildY Klauzius elmY 揺ntropiya(entrope- yunanca, 鰖-鰖黱Y qapılmaq, 鰖 daxilinY n黤uz etmYk vY s.) anlayışını daxil etdi. O, daha soyuq cisimdYn nisbYtYn isti cismY istilik enerjisinin ke鏼Ysinin qeyri-m黰k黱l鼀黱izah edYrkYn entropiya anlayışından istifadY etmişdir.

Statistik mexanika hYmin proseslYri tYdqiq edYrkYn b黷鰒l黭dY termodinamik sistemin (qazın) tYzyiqi, temperaturu vY hYcmi kimi parametrlYrlY müYyyYn olunan makrovYziyyYtini molekulların s黵Yti vY vYziyyYtlYri ilY xarakterizY edilYn mikrovYziyyYti ilY YlaqYlYndirmYyY cYhd edirdi. Lakin molekulların sayı olduqca 鏾x olduğundan, onların vYziyyYtlYri statistik olaraq yalnız ehtimalların paylanması şYklindY xarakterizY edilY bilYrdi. Bu ideya 1872-ci ildY L.Bolsman tYrYfindYn verilmişdir. L.Bolsman entropiyaya x黶usi fiziki mYna verYrYk onu riyazi olaraq ehtimalla ifadY etmişdir:

Burada: - termodinamik entropiya;

BelYliklY, L.Bolsmana g鰎Y termodinamik sistemdY hYr bir vaxt momentindY m黰k黱 olan vYziyyYtlYr 鏾xluğundan biri se鏸lir. O, s黚ut edir ki, belY sistemlYr vaxt ke鏳ikcY intizamsızlığa, entropiyaya can atır. Entropiya isY qeyri-müYyyYnlik 鰈琰s黡黵.

Bununla yanaşı, hamılıqla qYbul olunmuşdur ki, sistemlYr tarazlığa meyllidir, yYni 鰖lYrinin Yn y黭sYk ehtimallı vYziyyYtini axtarır.

DemYli, sistemdY entropiyanın 鏾xalması onun tarazlığa can atmasından başqa bir şey deyildir. Qaz tarazlıqda olarkYn onun hYcmi müYyyYn 鰈琰dY, molekullarının s黵Yti isY orta s黵YtY yaxın olur. Bu zaman entropiya son dYrYcY b鰕黭 olur.

Fizika s黚ut edir ki, tYcrid olunmuş sistemdY entropiya azala bilmYz. Bu, termodinamikanın 2-ci qanunudur. Lakin sistemdY qarışdırıcı amil varsa, intizamsızlıq tYsad黤i xarakter daşıyır vY mYhz elY vYziyyYtdY olur ki, sistem 鰖bu vYziyyYtY gYlmYyY can atır. Bu hal mYşhur 揗aksvell 搃blisiparadoksu攏un yaranmasına gYtirib çıxarmışdır.

Fiziki sistemlYrin intizamlılıq vY demYli, tYşkilolunma dYrYcYsinin energetika aspektindY y黭sYldilmYsi problemi D.K.Maksvellin 1871-ci ildY 鏰pdan çıxan “İstilik nYzYriyyYsiadlı kitabında, termodinamikanın 2-ci qanunu ilY bir araya sığmayan paradoks şYklindY Yyani bir formada tYsvir edilmişdir. O, yazır: 揊Yrz edYk ki, qazla dolu qapalı bir qab vardır. Qab, ki鏸k klapanı olan nazik pYrdY ilY 2 hissYyY ayrılmışdır. Klapanı 搃blisidarY edir. İblis cYld molekul-ları qabın bir tYrYfinY, lYng molekulları isY digYr tYrYfinY yığa bilir. NYticYdY qabın bir tYrYfindY temperatur vY tYzyiq y黭sYlir, digYr tYrYfindY isY aşağı düş黵. Bunun nYticYsindY istilik enerjisinin bir hissYsi faydalı mexaniki enerjiyY 鏴vrilir BelY bir imkan yalnız o halda yarana bilYr ki, sistem maksimal entropiya ilY xarakterizY edilYn 鰖 tarazlıq vYziyyYtindYn çıxarılıb, aşağı entropiyalı, daha nizamlı vY az ehtimallı vYziyyYtY ke鏸rilsin. Paradoks ondan ibarYtdir ki, YgYr belY bir iblis m鰒cud olsaydı termodinamikanın 2-ci qanunu pozular vY 揹aimi m黨Yrrikyaratmaq m黰k黱 olardı. Praktiki olaraq belY bir iblisin m鰒cudluğu ağlasığmazdır, lakin bunun olmadığını da s黚ut etmYk m黰k黱 deyildir. 屈nki, termodinamik sistem daim tarazlıqdan çıxa-çıxa tarazlığa gYlmYkdY vY tarazlığa gYlY-gYlY tarazlıqdan çıxmada m鰒cuddur.

1929-cu ildY L.Ssilard 鰖黱黱 揟ermodinamik sistemdY düş黱Yn varlığın m黡axilYsi ilY entropiyanın azalmasına dairkitabında Maksvell iblisi paradoksunu belY a鏳ı: 揗黿tYlif s黵Ytli molekulları fYrqlYndirmYk 黱 iblis onların s黵YtlYri haqqında informasiya almalıdır. Bunun 黱 isY iblisin fYnYri olmalıdır. Bu isY xarici enerji tYlYb edir. DemYli, daimi m黨Yrrik yaratmaq m黰k黱 deyildir

BelYliklY, paradoksun izahı informasiya anlayışı ilY bağlandı vY hYm dY informasiya entropiyanın artmasına qarşı duran amil kimi tYqdim edildi.

Maksvell iblisi paradoksunu sadYlYşdirmYk 黱 N.Viner belY bir analogiya tYklif etmişdir: 揊Yrz edYk ki, metropoliten stansiyasının girYcYyi 2 hissYyY ayrılmışdır. HYr bir girişY bir turniket (fırlanan qapı) qoyulmuşdur. TurniketlYr bir-birinY Yks istiqamYtdY fırlanırlar vY bir-biri ilY 搕op鏰kdeyilYn x黶usi bir mexanizmlY birlYşdirilmişlYr ki, bu da s黵YtlYr fYrqini 鰈çY bilir. Camaatın tYsad黤i hYrYkYti onları 2 hissYyY b鰈黵: bir hissYsi birinci turniketdYn, digYr hissYsi ikinci turniketdYn ke鏸r. Bu isY müYyyYn s黵YtlYr fYrqinin yaranmasına sYbYb olur Bu onunla YlaqYdardır ki, adamların bir 鏾xu harayasa tYlYsir, qalan hissYsi isY tYlYsmir. TurniketlYrY yaxınlaşan hYr bir adam 鰖黱黱 mYqsYdindYn asılı olaraq bu iki turniketdYn birini se鏸r. BelY ki, YgYr turniketY yaxınlaşan adam tYlYsirsY, daha qısa n鰒bY olan turniketdYn ke鏼Yyi 黶t黱 tutur. DemYli, o, 鰖 mYqsYdinY 鏰tmaq 黱 n鰒bYnin uzunluğu barYdY informasiya alır vY hansı turniketdYn ke鏼Yk barYdY meydana çıxan tYrYdd黡ü yox olur.

BelYliklY, alınan informasiya camaatın metropolitenY doğru tYsad黤i axını içYrisindY müYyyYn faydalı enerji mYnbYyi yaranmasına sYbYb olur.

Maksvell iblisi vY Viner turniketi aydın g鰏tYrir ki, mYqsYd, se鏼Y, tYrYdd黡, entropiya, ehtimal vY informasiya arasında olduqca sıx YlaqY vardır.


M鰒zu 2. İnformasiya anlayışı

İnformasiya anlayışı vY onun s黱i vY tYbii sistemlYrdY oynadığı rol birdYn-birY dYrk edilmYmişdir. Bu, fizika, biologiya, fYlsYfY, rabitY nYzYriyyYsi vY s. kimi elm sahYlYrindY YldY edilmiş biliklYrin nYticYsi olaraq formalaşmışdır.

1877-ci ildY L. Bolsman termodinamik entropiyanı 撶atışmayan informasiyakimi xarakterizY edYrkYn, onu hekim başa düşmYdi.

1948-ci ildY K. Şennon informasiya nYzYriyyYsini yaradarkYn, entropiya 黱 onun verdiyi d黶turu ilY Bolsmanın d黶turunun oxşarlığı qızğın m黚ahisYlYrY sYbYb oldu. L. Brilly黣n 搉eqentropiya prinsipiilY b黷黱 m黚ahisYlYrY son qoydu.

HYmin problemY fYlsYfi idrak nYzYriyyYsi tamamilY başqa tYrYfdYn gYlib çıxdı. FYlsYfY informasiyanı materiyanın tYmYl xassYsi elan etdi.

Fizika 黱 enerji anlayışı nYdirsY, kibernetika vY b黷鰒l黭dY sistemologiya 黱 dY informasiya anlayışı hYmin şeydir. TYsad黤i deyildir ki, A.N. Kolmoqorov: 搆ibernetika—informasiyanı qYbul edY, saxlaya, işlYyY vY idarYetmY vY tYnzimlYmY 黱 istifadY edY bilYn ixtiyari tYbiYtli sistemlYri 鰕rYnYn elmdirdeyir.

Kibernetika informasiyanın kYmiyyYtcY 鰈琰lmYsinin m黰k黱l鼀黱Y s鰕kYnir.

BYs informasiya nYdir? MYlum mYnbYlYrY g鰎Y, informasiya (informacio) latın s鰖黡黵, izah etmYk mYnasına gYlir. Lakin bizim fikrimizcY, informasiya—in (m鰒cud olan) + for/fYr (kişi) + ma (qadın) + si/su (mYkan) + ya (i鏸n açılması), yYni 搈鰒cud olan kişi vY qadının mYkanda 鰖 i鏸ni a鏼ası, izah etmYsi, xYbYlYşmYsi, s鰄bYt etmYsimYnasına gYlYn 鏾x qYdim bir c黰lYdir.

İzah etmYk, ilk n鰒bYdY, İnsana mYxsus keyfiyyYt kimi qavranıldığından, informasiya proseslYri uzun illYr boyu yalnız insan psixikası ilY YlaqYdar proses kimi dYrk edilmişdir. Bu, bir dY onunla bağlıdır ki, 搃nformasiyas鰖“İnformasiya nYzYriyyYsimeydana gYlmYzdYn 鏾x-鏾x YvvYllYrdYn işlYdilmiş vY mYnası mYlum sayılan s鰖 olmuşdur. HYm dY hekim fikir vermYmişdir ki, bu s鰖harada işlYtmYk olar, harada olmaz. ElY ki, kibernetika meydana çıxdı, insanla-insan, insanla-heyvan, insanla-maşın, heyvanla-heyvan, maşınla-maşın... arasında qeyri-maddi YlaqYni müYyyYnlYşdirmYk lazım gYldi, o zaman 搃nformasiyaanlayışı olduqca m黵YkkYblYşdi vY onu 黰umi şYkildY müYyyYn etmYk m黰k黱 olmadı. NYticYdY bu işlY mYşğul olanların hYrYsi informasiyaya bir tYrif vermYyY başladı. BelYliklY, informasiyanın 鏾xsaylı tYriflYri yarandı. Lakin vahid tYrifin olmaması 搃nformasiyanın miqdarı攏ı 鰈鏼YyY, onu yadda saxlamağa, 鰐黵mYyY, emal etmYyY qYtiyyYn mane olmur.

Aşağıda g鰎YcYyimiz kimi, informasiyanın kYmiyyYt nYzYriyyYsinin Ysasında K.Şennonun d黶turu durur. Bu d黶tura g鰎Y yalnız o zaman sıfra bYrabYr olur ki, ehtimallarından biri vahidY bYrabYr olsun. Bu isY müYyyYnlik, yYqinlik vYziyyYtidir. BelYliklY, hYr biri müYyyYn ehtimalla baş verY bilYcYk hadisYlYr 鏾xluğundan hYr hansı birinin artıq baş verdiyi tYsdiq olunaraq, qeyri-müYyyYnliyi sıfra endirirsY, onda K.Şennona g鰎Y, kYmiyyYti 搒e鏼Y imkanının mYntiqY uyğun kYmiyyYt 鰈琰svY ya informasiyanın miqdarının 鰈琰s黡黵

G鰎黱d鼀kimi, informasiyanın miqdarı elY bir 黶ulla müYyyYn edilir ki, 搃nformasiya nYdir?vY 搃nformasiyanın miqdarı nYdir?kimi suallara heyer dY qoymur.

Elmi baxımdan bu c黵 yanaşma şYksizdir. Lakin 搃nformasiyanın miqdarıtermini o qYdYr dY aydın deyildir. 屈nki, m點YrrYd dY olsa, YgYr informasiyanın miqdarı mYlumdursa, onda informasiya da mYlum olmalıdır. Halbuki informasiya nYzYriyyYsi 搃nformasiya nYdir?sualına cavab vermir vY onu heqarşısına mYqsYd kimi dY qoymur. Odur ki, K.Şennon yaratdığı nYzYriyyYni ilk variantda 搑iyazi rabitY nYzYriyyYsiadlandırmışdır. Yalnız sonradan bu nYzYriyyY “İnformasiya nYzYriyyYsikimi tanınmışdır. Bu isY onunla bağlı olmuşdur ki, K.Şennondan YvvYl R.Xartli tYklif etdiyi riyazi anlayışı informasiya adlandırmışdı.

N.Viner 揔ibernetikaYsYrindY yazır ki, ..鰀黱 zYhYr hazırladığı kimi, YzYlYnin enerji hasil etdiyi kimi, beyin mexaniki yolla fikir hasil etmir. İnformasiya elY informasiyadır, o nY materiyadır, nY dY enerji Lakin sonra N.Viner 揔ibernetika vY cYmiyyYtadlı kitabında g鰏tYrir ki, 搃nformasiya xarici alYmY 鰕rYşmY vY 鰖 tYsYvv黵黰鼁ona uyğunlaşdırma prosesindY hYmin m黨itdYn Yxz etdiyimiz mYzmunun ifadY-sidir Kufinyala g鰎Y, 損sixik iz buraxan istYnilYn fiziki tYsir kibernetikada informasiya adlanır K.Şennon yazır:攔abitYnin Ysas vYzifYsi ondan ibarYtdir ki, bir yerdY hasil edilYn vY g鰊dYrilYn xYbYri başqa yerdY dYqiq vY ya tYxmini yenidYn tYkrar etmYk m黰k黱 olsun. 莖x hallarda xYbYrlYr müYyyYn fiziki vY ya düş黱黮müş mYna kYsb edir. Lakin rabitYnin bu c黵 semantik cYhYtlYrinin mYsYlYnin texniki tYrYfi ilY hebir YlaqYsi yoxdur G鰎黱d鼀kimi, K.Şennonun meyli informasiyanı mYzmundan sYrfnYzYr etmYkdir. Bu nYzYriyyY informasiyanın miqdarını 搈黰k黱 hallar ansamblı攏a g鰎Y tYyin edir:

(1)

Burada: -bir-birini qarşılıqlı inkar edYn hallar,

“M黰k黱 hallar ansamblı攏ın Ysas xassYsi ehtimalların cYminin 1-Y bYrabYr olmasıdır. YY攏i:

Bu, o demYkdir ki, m黰k黱 hallardan biri h鰇mYn baş vermYlidir. 屈nki, Yks halda xYbYr 鰐黵黮mYsi prosesi baş vermYz vY informasiyanın miqdarını tYyin etmYk mYsYlYsi mYnasızlaşar.

BelYliklY, informasiya –xYbYrin mYna y黭黡黵. XYbYr-鰐黵黮Yn mYlumatdır. XYbYr mYnbYdY hasil edilir, 黱vanda istehlak olunur. XYbYr mYnbYyi dedikdY, 鰖黱dYn informasiya ş黙landıra bilYn obyekt nYzYrdY tutulur. XYbYr 黱vanı isY informasiya qYbul edY bilYn obyektdir.

XYbYr simvol, mYtn vY şYkil formasında 鰐黵黮Y bilir. Simvol forması—hYrf, rYqYm, işarY vY s.-dYn ibarYt Yn sadY formadır. Buna g鰎Y dY simvol forması yalnız sadY siqaalların 鰐黵黮mYsindY istifadY edilY bilir. Siqnal—elementar xYbYrdir. MYtn forması informasiyanın nisbYtYn m黵YkkYb tYqdimat formasıdır. MYtn formasında da simvollardan istifadY edilir. Lakin burada simvolların kombinasiyaları geniş tYtbiq olunur. Bu isY mYtn formasının keniş tYtbiqinY imkan yaratmışdır. n m黵YkkYb forma şYkil鰐黵mY formasıdır. 莡nki bu forma hYddYn 鏾x informasiya tutumludur. İnformasiyatutumluluq anlayışı g鰏tYrir ki, informasiyanın hYcmi vY miqdarı vardır. İnformasiyanın hYcmi dedikdY, onun y黭lYndiyi işarYlYrin (daşıyıcıların) sayı nYzYrdY tutulur. İnformasiyanın miqdarı isY lYğv edilYn qeyri-müYyyYnliklY 鰈琰l黵. İnformasiya daşıyan xYbYrlYr hava, su, elektrik, efir, ş黙 vY s. ilY 鰐黵黮黵. İnformasiya 鰐黵Yn m黨itY dil deyilir. İnformasiya kağızda, par鏰da, ağacda, dYmirdY vY s. saxlanır. İnformasiya saxlayan m黨it yaddaş adlanır.

BelYliklY, informasiya-yaddaşlar arasında m鰒cud olan dillYrin mYna yük黡黵. Dilin yaddaşı, yaddaşın da dili vardır.

İnformasiyanın saxlanması vY 鰐黵黮mYsi 黱 istifadY edilYn daşıyıcıların minimal sayı 2-dYn az ola bilmYz. 屈nki m黴ayisY yn azı 2 element lazımdır. BelYliklY, informasiyanın Yn sadY vY universal tYqdimat forması 2-lik formadır. Bu, "hY" vY "yox" kimi elementar m黱asibYt bildiricilYrinin y黭lYndiyi 1 vY 0 rYqYmlYridir. 1-elektrik çYrYyanı var, 0-cYrYyan yoxdur—demYkdir.

BelYliklY, 0 vY 1 simvollarından 2-lik mYtn yaradılır. YYni informasiya—0 vY 1 istehsal edY bilYn yaddaşla hYmin simvolları istehlak edY bilYn yaddaş arasında bu rYqYmlYri 鰐黵Y bilYn dilin daşıdığı 0 vY 1-lYrin elementar mYna y黭lYrindYn YmYlY gYlYn b黷鰒, bitkin mYnadır.


M鰒zu 3. İnformasiya vY kodlaşdırma nYzYriyyYsinin vYzifYlYri
ObyektlYr arasında informasiyanın 鰐黵黮mYsindYn danışarkYn adYtYn ya b黷鰒l黭dY obyekt haqqında, ya da onun ayrı-ayrı elementlYrinin vYziyyYtinY dair mYlumatlar kompleksi nYzYrdY tutulur. Obyekt (informasiya mYnbYyi) haqqında alınan konkret mYlumatlar xYbYr adlanır. XYbYrlYr siqnalların k鰉Yyi ilY 鰐黵黮黵. Siqnal—zamanda vY mYkanda informasiya daşıyıcısıdır. Siqnallar bir neçY n鰒d黵:

• 
  g鰎黱Yn siqnal (televiziya tYsvirlYri)
  
• 
  sYs siqnalı (zYng)
  
• 
  elektrik siqnalı (m黶bYt vY mYnfi impulslar)
  
• 
  radio siqnalı vY i.a.
  

İnformasiya 鰐黵mY prosesindY obyektin vYziyyYtinin dYyişilmYsi qanunları kod adlanır.

XYbYrlYrin siqnallara y黭lYnmYsi aşağıdakı mYrhYlYlYrdYn ke鏸r:

a) dYyişdirmY (xYbYrin kodlaşdırmaya uyğun şYkilY gYtirilmYsi);

b) kodlaşdırma (xYbYr elementlYrinin müYyyYn qanun 鼁rY qurulması);

v) modulyasiya (kodlaşdırılmış xYbYri siqnala 鏴virmYk 黱 鰐黵點m黨itY tYsir edilmYsi).

Siqnallar zamandakı vYziyyYtinY g鰎Y: statik vY dinamik olurlar. Statik siqnal obyektin vYziyyYtinin dayanıqlı dYyişikliyini g鰏tYrir. Dinamik siqnal obyektin vYziyyYtinin kYsilmYz dYyişilmYsini Yks etdirir.

RabitY kanalının girişindYki hYrflYr, işarYlYr vY keyfiyyYt YlamYtlYri ardıcıllığı giriş kod s鰖ü, çıxışdakılar isY çıxış kod s鰖ü adlanır. Giriş kod s鰖lYrindYn tYrtib edilYn xYbYrlYr ilkin, çıxış kod s鰖lYrindYn tYrtib edilYn xYbYrlYr isY ikinci xYbYr adlanır. Bu halda kodlaşdırmaya ilkin xYbYrlYrdYn ikinci xYbYrlYrY ke鏸d kimi baxılır ki, burada da kod hYmin ke鏸din hYyata ke鏸rilmYsi alqoritmi kimi tYsYvv黵 edilir.

XYbYrlYr vY siqnallar quruluşuna g鰎Y 2 n鰒Y b鰈黱黵: kYsilmYz vY diskret. gYr siqnal (xYbYr) amplitudaların sonlu intervalında ixtiyari qiymYt alırsa, bu, kYsilmYz, mYhdud sayda qiymYtlYr alırsa, bu, diskretdir. KYsilmYz siqnallara nisbYtYn diskret siqnallar informasiyanın 鰐r黮mYsindY daha geniş istifadY edilir. 屈nki diskret siqnallar rabitY kanalındakı maneYlYrY daha davamlıdır, sYhvlYr asan aşkar olunur vY Yn başlıcası, komp黷erdY asan işlYnir. KYsilmYz siqnallar kvantlaşdırma metodu ilY diskret siqnallara gYtirilY bildiyindYn, biz yalnız diskret siqnallara diqqYt yetirYcYyik.

Diskret xYbYrin vahidlYri diskret verilişlYr adlanır. Bu verilişlYr m黿tYlif fiziki xassYlYrY malikdir ki, buna da keyfiyyYt YlamYtlYri deyilir. KeyfiyyYt YlamYtlYrindYn: q黷b, amplituda, zaman, tezlik vY tezlik-zaman YlamYtlYrini misal g鰏tYrmYk olar.

Q黷b YlamYti mYnfi vY m黶bYt impulslara Ysaslandığından, keyfiyyYtlYrin sayı -dir.

Amplituda YlamYti nYzYri olaraq sonsuz olsa da, tYcr黚YdY yalnız iki YlamYtdYn istifadY edilir: siqnal var, siqnal yoxdur.

Zaman YlamYtinin sayı -dir. Elementar verilişin uzadılması maneYlYrdYn qorunmağın geniş yayılmış vasitYsidir.

Tezlik YlamYti dedikdY, verilişin tamamlanma tezliyi nYzYrdY tutulur.

莖x zaman bir-neçY keyfiyyYt YlamYtindYn birgY istifadY edilir. Bu, 鰐黵mYnin etibarlılığını y黭sYltmYyY imkan verir. n geniş yayılmış qarışıq YlamYtli kod tezlik-zaman YlamYtli koddur. Bu c黵 kod müYyyYn uzunluqlu, 鏾xtezlikli verilişlYrdYn tYşkil edilir. Elementar verilişlYr zamana g鰎Y sıralanır. Bu c黵 keyfiyyYtlYrin sayı olur. Burada: vY - uyğun olaraq tezlik vY zaman YlamYtlYrinin sayıdır.

Se鏸lmiş kodlaşdırma metodundan asılı olaraq, xYbYrlYr ansamblında verilişlYr qruplaşdırılır.

謙黵黮Yn hYr bir xYbYr ilkin xYbYrlYr ansamblından tYsad黤i se鏼Ynin nYticYsi olduğundan, hYr bir xYbYrin alınması müYyyYn ehtimallı tYsad黤i hadisYdir.

“İnformasiya vY kodlaşdırma nYzYriyyYsi攏in Ysas vYzifYsi elY rabitY sistemi işlYyib hazırlamaqdan ibarYtdir ki, bu sistem 鰖黱黱 g點 tezlik zolağı, 鰐黵mY vaxtı vY s. kimi parametrlYrinin minimal qiymYtindY lazımi 鰐黵mY dYqiqliyini tYmin etsin.

İnformasiya neçY 黶ulla tYsvir edilY bilirsY, onu bir o qYdYr sayda 黶ulla 鰐黵mYk olar.

XYbYrlYri mYnbYdYn (obyektdYn) 黱vana 鰐黵Yn texniki vasitYlYr kompleksinY 鰐黵mY sistemi deyilir.

謙黵mY sisteminin modeli dedikdY, aşağıdakı sxem başa düş黮黵:

Obyekt ilk dYyişdirici şifrator modulyator 鰐黵點ü rabitY kanalı qYbuledici demodulyator deşifrator 黱van

SadY rabitY kanallarında qYbuledici, 鰐黵點vY dYyişdirici birlYşdirilY bilYr. MYsYlYn, telefonda siqnallar mikrofondan birbaşa 鰐黵點rabitY xYttinY verilir.

莖xkanallı rabitY sistemindY siqnalları birlYşdirYn vY ayıran qurğular m鰒cuddur. 莖xkanallı sistemdY bir neçY obyektin informasiyası bir rabitY xYtti ilY 鰐黵黮黵 vY bu xYttY bir neçY 黱van qoşula bilir. 莖xkanallı sistemdY kodlaşdırıcı qurğular birlYşdirici qurğulardan YvvYl, dekodlaşdırıcı qurğular isY ayırıcı qurğulardan sonra yerlYşdirilir.

莖xkanallı sistem 鏾xnaqilli vY ya 鏾xxYtli sistem demYk deyildir. RabitY kanalı dedikdY, 鰐黵mY texnikası, rabitY xYtti dedikdY isY yalnız informasiya daşıyan siqnalların yayıldığı m黨it başa düş黮黵. RabitY xYttinin buraxıcılıq qabiliyyYtini artırmaq mYqsYdi ilY bir xYtlY eyni zamanda bir neçY obyektin xYbYrlYrini 鰐黵黵lYr. Buna sıxlaşdırma deyilir. Bu zaman xYtt 黰umi olsa da, hYr bir obyekt 鰖 xYbYrini 鰖 kanalı ilY 鰐黵黵.

BYzYn bir obyektin bir neçY 黱vanı olur. ObyektlY 黱vanlar arasındakı rabitY ardıcıl, radial, şYrikli vY ağacşYkilli quruluşa malik ola bilir.

Ardıcıl quruluşda 黱vanlar zYnciri yaradılır.

Radial quruluşda b黷黱 黱vanlar obyektlY bilavasitY YlaqYlYndirilir.

ŞYrikli quruluş ardıcıl vY radial quruluşun kombinasiyasıdır.

AğacşYkilli quruluş isY ardıcıl vY radial quruluşlardan yaradılmış şaxYli quruluşdur.

RabitY xYttinin n鰒黱dYn asılı olaraq rabitY kanalları: metal xYtli naqil kanalı, efir xYtli radio kanalı, işıq xYtli optik kanal vY su xYtli hidroakustik kanal kimi n鰒lYrY b鰈黱黵.

RabitY kanalının tezlik zolağı geniş olduqca eyni vaxtda daha 鏾x informasiya 鰐黵mYk m黰k黱 olur. Optik kanalın buraxıcılıq qabiliyyYti daha 鏾xdur.

M鰒zu 5 İnformasiyanın kYmiyyYtcY qiymYtlYndirilmYsi.
İnformasiyanın miqdarı hadisYlYrin sayından asılı olsa da, 鰐黵黮Yn faktdakı namYlumluğun lYğv edilmYsi ilY 鰈琰l黵.

Bir halda ki, xYbYr 鰐黵黮YrkYn simvollar qruplarından biri se鏸lir, onda Yn sadY halda bir-birini inkar edYn vY 黱van 黱 eyni aprior ehtimala malik olan 2 xYbYrdYn biri se鏸lY bilYr. YYni xYbYr 鰐黵mYk 黱 Yn sadY hal 揾Y-yoxse鏼YsindYn ibarYtdir ki, burada da 揾Y1, 搚ox0-la işarY edilir. Bu se鏼Ynin nYticYsindY alınan informasiyanın miqdarı vahid qYbul edilmişdir. Buna 2-lik vahid vY ya bit (ingiliscY, binary digit) deyilir. MYsYlYn, aşağıdakı sualların hYr birinin cavabı 1 bit informasiya daşıyır:

• 
  g鰐黵黮Yn rYqYm c黷d黵m
  
• 
  metrodan çıxan qadın xeylağıdırmı?
  
• 
  metal pul gerb 鼁黱Ymi düşd vY s.
  

BYs informasiyanın miqdarını necY 鰈鏼Yli?

HYr şeydYn YvvYl, informasiyanın miqdarı additivlik xassYsinY malik olmalıdır. YYni, metoddan, aparatdan, kanaldan asılı olmayaraq 鰐黵黮Yn simvolların sayı 鏾x olduqca, alınan informasiyanın miqdarı da 鏾x olmalıdır. Teleqramda nY qYdYr 鏾x s鰖 varsa, bir o qYdYr 鏾x informasiya 鰐黵黮mYsi imkanı vardır. Burada informasiyanın miqdarını qiymYtliliyi ilY qarışdırmaq olmaz. YYni, az miqdarda informasiya son dYrYcY qiymYtli ola bilYr vY YksinY. Lakin praqmatik aspektin rabitY kanalına dYxli yoxdur. Odur ki, kanal nY qYdYr 鏾x mYşğuldursa, bir o qYdYr 鏾x informasiya 鰐黵müş hesab olunur. YYni 鰐黵黮Yn informasiyanın miqdarı yalnız 鰐黵mY sisteminin m鰒qeyindYn 鰈琰l黵. Lakin informasiyanın kYmiyyYtcY qiymYtlYndirilmYsi R.Xartli m鰒qeyindYn aşağıdakı kimi tYyin edilmişdir.

R.Xartli fYrz edir ki, simvollu Ylifbadan hYr birindY element olan kombinasiyalar nYticYsindY sayda xYbYr d鼁YltmYk olar. YYni:

MYsYlYn, 2 simvollu ( ) Ylifba ilY 2 dYnY 1 simvollu (0; 1), 4 dYnY 2 simvollu (00; 01; 10; 11), 8 dYnY 3 simvollu (000; 001; 010; 011; 100; 101; 110; 111) xYbYr yaratmaq vY 鰐黵mYk m黰k黱d黵:

G鰎黱d鼀kimi, xYbYrlYrinin sayı xYbYr elementlYrinin sayından eksponensial asılıdır. Lakin kombinasiyaların quruluşu aydınca g鰏tY-rir ki, kYmiyyYti informasiyanın miqdarı kimi g鰐黵黮Y bilmYz. 屈nki, bu kombinasiyalar yalnız sırasında tam y黭lYnmiş olur. Qalan hallarda yaradılan kod kombinasiyalarında isY xeyli y黭s鼁 elementlYr m鰒cud olur. BelY ki, mYsYlYn, 4 xYbYri kodlaşdırmaq 黱 iki 2-lik mYrtYbY kifayYt etdiyi halda, 5 xYbYri kodlaşdırmağa  2-lik mYrtYbY tYlYb olunur vY 鰖黱dYn YvvYlki 4 xYbYrin hYr birindY 1 boş element yaranır. YYni:

Bununla belY, bir şey aydındır ki, informasiyanın miqdarı additivlik xassYsi ilY yanaşı, eksponensiallıq xassYsinY dY malik olan kYmiyyYtdir. Odur ki, 1929-cu ildY R.Xartli informasiyanın miqdarını 鰈鏼Yk 黱 aşağıdakı d黶turu tYklif etdi:

G鰎黱d鼀kimi, (2) d黶turu hYm additivliyY, hYm dY eksponensiallığa cavab verir. Bu d黶tur Bolsmanın termodinamik entropiya d黶turuna 鏾x bYnzYyir. Bu bYnzYyiş hYmin hadisYlYrin tYbiYtcY oxşarlığından irYli gYlir ki, bunu da K.Şennon s黚ut etmişdir.

BelYliklY, Yn sadY hal 黱:

bit yazmaq olar.

Buna analoji olaraq:

Sonralar mYlum oldu ki, (1) d黶turu asılı olmayan eyni ehtimallı hallarda informasiyanın hYcmini ifadY edir.

Xartli d黶turuna YsasYn, 8 xYbYrin hYr biri 3 bit informasiya daşıyır:

bit/simvol

Bu o demYkdir ki, 8 xYbYrin hYr birini YvYz edYn kodun hYr 1 simvolunun informasiya y黭1 bitdir. Bunu izah etmYk 黱 fYrz edYk ki, A, B, C, D, E, F, G, H hYrflYrini 2-lik kodla YvYz etmYk lazımdır. Bu halda A 000,B 001,C 010, D 011, E 100,F 101,G 110 vY H 111 kimi kodlara malik olar. G鰎黱d鼀kimi, hYr bir latın hYrfi 3 ikilik simvolla kodlaşdırılmışdır ki, bunların da hYr biri 1 bit informasiya daşıyıcısıdır.

DigYr tYrYfdYn, bu onu g鰏tYrir ki, baxdığımız istYnilYn hYrfi se鏼Yk 黱 3 dYfY 揾Y-yoxproseduru icra etmYk lazımdır. Se鏼Y aşağıdakı kimi tYsvir edilY bilYr:



01

000001010011100101110111ABCDEFGHG鰎黱d鼀kimi, şYcYrYnin sol qolu 0, sağ qolu 1-lY işarY edilmişdir. Odur ki, ilk rYqYmi 0 olan kodlar şYcYrYnin sol qanadını, 1 olanlar isY sağ qanadını YmYlY gYtirirlYr.

Analoji olaraq, 16 hYrfin kodlaşdırılması 黱 4 se鏼Y, 32 hYrfin kodlaşdırılması 黱 isY 5 se鏼Y tYlYb olunur. gYr Ylifbanın işarY-lYri sayı sırası deyildirsY, onda hYr bir hYrfdYki informasiyanın miqdarı 2-nin dYrYcYsinY bYrabYr olmayacaqdır. Buradan aydın olur ki, yuxarıda dediklYrimiz yalnız bir-birindYn asılı olmayan eyni ehtimallı hadisYlYr 黱 doğrudur. Doğrudan da, tutaq ki, Ylifba işarYdYn ibarYt-dir. HYr işarY bir k黵Yciyin 鼁YrinY yazılmışdır. İşarYli k黵YciklYrin hamısı hYr hansı bir qutudadır. Onda istYnilYn bir hYrfin qutudan çıxarılması ehtimalı olacaqdır. Bu halda isY:

(3) alınır. YYni, hYr bir eyni ehtimallı siqnalda daşınan informasiyanın miqdarı hYmin siqnalın ehtimalının mYnfi loqarifminY bYrabYrdir.

MYsYlYnin bu qoyuluşu K.Şennona mYxsusdur. YYni, informasiyanın miqdarı 黱 K.Şennonun tYklif etdiyi vY Bolsmanın termodinamik entropiya 黱 verdiyi d黶tura bYnzYyYn (3) d黶turu YslindY, mYsYlYnin Xartli qoyuluşundan ehtimallı qoyuluşa ke鏸rilmYsinin birbaşa nYticYsidir.

İndi fYrz edYk ki, xYbYri tYrtib etmYk 黱 keyfiyyYt YlamYtinY malik olan işarY vardır. Bu zaman YlamYtli işarYnin xYbYrdY iştirakının aprior ehtimalı olacaqdır.

gYr işarY arasında YlamYtli işarYlYrin sayı qYdYr olarsa, onda YlamYtli işarYlYrin xYbYrdY iştirakı tezliyi olacaqdır.

gYr 1-ci keyfiyyYt YlamYtini , 2-ci YlamYti vY s. -ci YlamYti ilY işarY etsYk, onda xYbYrdYki elementlYrin 黰umi sayı aşağıdakı qYdYr olacaqdır:



YlamYtli 1 işarYnin xYbYrdY iştirakı ehtimalı , 2 işarYnin ehtimalı olduğundan, işarYnin xYbYrdY iştirakı ehtimalı olar. Bu halda ehtimallı işarYlYrin müYyyYn miqdarının xYbYrdY birgY iştirakı ehtimalı:

(4) olar. olduqda, olur. BelYliklY, kifayYt qYdYr b鰕黭 olduqda: , buradan da yazmaq olar. Bunu (4) d黶turunda yerinY yazsaq, alarıq. R-nin bu qiymYtini (3) d黶turunda yerinY yazsaq:

(5)

alarıq ki, bu da mYşhur Şennon d黶turudur. olduqda, Şennon d黶turu Xartli d黶turuna 鏴vrilir:

Bu isY o demYkdir ki, Xartli d黶turu Şennon d黶turunun x黶usi halıdır. YYni, asılı olmayan eyni ehtimallı xYbYrlYrin 鰐黵黮mYsi zamanı Şennon d黶turu Xartli d黶turuna 鏴vrilir. (5) d黶turu isY asılı olmayan m黿tYlif ehtimallı xYbYrlYrin 鰐黵黮mYsi zamanı informasiyanın miqdarı 黱 Şennon d黶turu adlanır.