.RU

Есептеу техникасы және программалық қамсыздандыру мамандығы үшiн

бет1/5Дата08.09.2017өлшемі0.82 Mb. 1 2 3 4 5



ҚАЗАҚСТАН РЕСПУБЛИКАСЫНЫҢ БІЛІМ ЖӘНЕ ҒЫЛЫМ МИНИСТРЛІГІ

ШӘКӘРІМ АТЫНДАҒЫ СЕМЕЙ МЕМЛЕКЕТТІК УНИВЕРСИТЕТІ


3 деңгейлі СМЖ құжаты

ОӘК

ПОӘК 042-14-02-03.1.20.280/02-2012

«Қолданбалы ақпараттар теориясы» пәннің оқу-әдістемелік кешені

Баспа №1


«Қолданбалы ақпараттар теориясы» пәнінен

ОҚУ -ӘДІСТЕМЕЛІК КЕШЕНІ


050704 Есептеу техникасы және программалық қамсыздандыру мамандығы үшiн
ОҚУ- ӘДІСТЕМЕЛІК МАТЕРИАЛДАРЫ

Семей 2012



Мазмұны


1

Глоссарий

3

2

Дәрістер

4

3

Практикалық және зертханалық жұмыс

30

5

Студенттердің өзіндік жұмысы

65



  1. ГЛОССАРИЛЕР


Ақпаратты беру жүйесі- дегеніміз ақпаратты уақыт және кеңістік бойынша тасымалдауға арналған техникалық жабдықтардың жиынтығы.

Егер параметрлерінің көптеген мәндері жұп болып келсе, онда кездейсоқ функция берілген параметр бойынша дискретті деп аталады. Басқаша жағдайда, егер параметр үзіліссіз облыстан кез-келген мән қабылдай алса онда функция берілген параметр бойынша үзіліссіз деп аталады.

Үзіліссіз сигналдан дискреттігі өту квантталу (дискреттеу) деп аталады, ал керісінше ауысу интерполяция деп аталады.

Уақыт бойынша дискретті кездейсоқ функция кездейсоқ тізбек деп аталады.



Ақпарат көзі дегеніміз - тасымалдауға жататын хабарламаны тудыратын құрылғы немесе адам, ал қолданушы дегеніміз ақпаратты қабылдайтын құрылғы немесе адам.

Канал- дегеніміз сигналды беруге қолданылатын физикалық нысандардың жиынтығы.

Кодер –дегеніміз берілген канал бойынша тасымалдауға жарамды шығыстағы сигналды хабарламаға түрлендіретін құрылғы.

Декодер- дегеніміз шығыстағы сигналды қолданушының қолдануына жарамды түрге түрлендіретін құрылғыны айтады.

Егер құрылғының шығысындағы хабарлама стационар кездейсоқ функция болса, онда ақпарат көзі стационарлы деп аталады.




  1. ДӘРІСТЕР

№2.1 Қолданбалы ақпарат теориясы

Кіріспе. Ақпараттың қолданбалы теориясы пәнінің негізгі зерттеу нысандары

Дәрістер- белгілі-бір пәннің теориялық сұрақтарын логикалық түрде қарастыратын оқу сабағының формасы. Ақпарат теориясы пәнінің дәрістерінің негізгі мақсаты тасымалданатын ақпараттың өте жоғары жылдамдықпен сенімді түрде берілуін қамтамасыз ету. Мұндағы негізгі атқарылатын жұмыстар: ақпараттың мөлшерін өлшеу тәсілдері, ақпараттың қасиеттері, бөгеуге төзімді кодтау, қолданбалы сипаттағы есептерді шешу. Дәрістерде ақпарат теориясының негізгі ұғымдарын, Хартли және Феннон бойынша ақпарат модельдерін, дискреттік байланыс каналдарының модельдерін, ақпаратты тиімді түрде кодтау тәсілдерін, бөгеулі және бөгеусіз байланыс каналдарының өткізу каналдарыны туралы Феннон теоремасын қарастырады.

Ақпараттың қолданбалы теориясы кибернетиканың ажырамас бөлігі. Кибернетика бұл ақпаратты сақтап, тасымалдап, қадағалап өңдеуге арналған ғылым.

Оның негізгі зерттеу нысандары:



  • Кибернетика жүйесі

  • Кибернетиканың жүйелерге техникадағы автоматты реттегіштер ЭЕМ

  • Адам мен жануарлардың ми жүйелері және биологиялық өсімдіктер жатады.

Қазіргі жаңашыл кибернетиканың негізгі бөлімдеріне ақпарат теориясы алгоримдер және автоматтар теориясы оптималды басқару теориясы мысал бола алады.

Кибернетиканың негізін қалаушы ретінде америка ғалымдары Винер және Шэннон есептеулерінше ақпараттық теория: мтематиканың ықтималдық теориясы мен математикалық статикамен тығыз байланысты деп есептеген. Ақпараттық теория тарихи және практикалық тұрғыдан байланысты теорялар негізі қаланды. Сонымен ақпарат теория байланыс каналдар өлшемін ондағы ақпарат ағымын өлшеуге арналған математикалық теория құрайды.

Ақпарат екі түрге бөлінеді:


  1. Дискретті (сандық)

  2. Үзіліссіз (аналогты)

Дискретті ақпарат бірқатар шаманың тізбекті нақты мәндерін сипаттайды. Ал үзіліссіз ақпарат бірқатар шамалардың өзгеру процнсін сипаттайды, оған атмосфералық қысым датчигі, машинаның жылдамдық датчигі мысал болады.

Дискретті ақпарат кез келген сандық индикатордан алуға болады. Дискретті ақпарат адамның өңдеуіне қолайлы, бірақ үзіліссіз ақпарат практикада жиі қолданылады сондықтан дискретті ақпаратты үзіліссізге немесе керісінше ауыстыра білу қажет. Мұндай процесте модем жиі қолданылады.

Модем сөзі модуляция мен демодуляция сөзінен алынған. Модем компьютердегі сандық ақпаратты дыбысқ немесе электро магнитті тербелістерге ауыстыратын арнайы құрылға. Үзіліссіз ақпаратты, дискретті ақпаратқа аудару кезінде дискреттеу жиілігі қолданылады. дискреттеу жиілігі неғұрлым жоғары болса, үзіліссіз ақпаратты дискреттіге ауыстыру соғұрлым дәл жүреді, бірақ осы жиіліктің шамасы жоғарлаған сайын ақпаратты сақтау, тасымалдау, өңдеу соғұрлым күрделене түседі, сондықтан осы жиіліктің шамасын Найквист теориясына байланысты қабылдаған мәнге дейін көтеру қажет.

Дискретті ақпаратты сақтау қолайлы, өйткені ол сандық тізбек түрінде беріледі. Ал үзіліссіз ақпарат сақтау өте күрделі, практика жүзінде ол үшін конденсатор негізінде электронды сұлба қолданылады. Үзіліссіз ақпарат байтпен өлшенеді, бит бірлік өте кіші өлшем бірлігі болғандықтан көбінесе 8 есе үлкен байт өлшем бірлігін қолданады.

Ақпарат өңдеу үшін келесі есептеу машиналары қолданылады:


  • Сандық есептеуіш машина- дискретті ақпаратты өңдеу үшін

  • Аналогты есептеу машинасы- үзіліссіз ақпаратты өлшеу үшін

Ақпарт теориясының базалық терминдеріне:



  • Ақпарат- бір ортадан екінші ортаға сигнал түрінде беріліп, тасымалданатын құбылыс(ақпарат анықтамасының ауқымы өте кең)

  • Байланыс каналы- ақпарат тасымалдау неғұрлым жоғары жылдамдықпен сипатталатын ақпарат беру ортасы

  • Байланыс каналындағы шу-қпарат тасымалдау кезінде болатын, байланыс каналдарындағы бөгеулер

  • Кодтау- дискретті ақпарат келесі тәсілдердің бірімен түрленуі:

а) шифрлау

б) тығыздау

в) шудан қорғау
Ақпаратты тасымалдаудың жалпы сұлбасы:


Символдық форма- әріптік, сандық, таңбалық және т.б. белгілерді пайдалану негізі, ол ең қарапайым болып табылады бірақта ол әр-түрлі жағдайлардағы күрделі емес сиганалдарды беруде пайдаланылады.

Текстік формадағы ақпаратты беру неғұрлым күрделі. Мұнда алдыдағы формадағы сияқты символдар пайдаланылады: әріптер, сандар, математикалық таңбалар. Бірақта ақпарат осы символмен ғана беріліп қоймай олардың қатарына, оқылуына да байланысыты. Бірақта ең күрделі және көн көлемдісі графиктік формадағы ақпаратты беру болып табылады. Бұл түрдегі формаға табиғат түрі, фотосуреттер, сызулар, сұлбалар, суреттер, өмірімізде ең маңызды роль атқаратын және көп мөлшерде сиятын ақпараттар жатады.

Қазіргі уақытта ақпарат есептеуіш машинамен өңделеді. Ақпаратты қабылдау кезінде қандай да бір нысандағы немесе процесті анализдеу жүргізу нәтижесінде нысанды белгілі бір образда қалыптастыру. Ақпараттың қарапайым түрі екі қарама-қарсы жағдайдың бар болуы (ИӘ,ДА) және жоқ болуы (ЖОҚ,НЕТ). Ақпарат дайындау кезінде аналогты сандық түрлендіру ақпаратты шифрациялау және қалыпқа келтіру операцияларды жүргізуді қабылдау нәтижесінде беруге және өңдеуге ыңғайлы формуладағы сигнал қалыптастыру. Ақпарат беру және сақтау кезеңінде ақпарат бір орыннан екінші немесе бір уақыт моментінен екіншісіне жіберіледі.

Табиғи ақпарат сигналды тану сенімділігін қажет ету үшін олардың санын ең кіші мәнге дейін қысқарту керек.

№2 тақырып



Сигнал ұғымы және оның модельдері

Сигнал ұғымына көптеген түсініктер бар кең мағынада сигнал ақпарат материалды танығыш болып табылады.

Сигнал детерминерленген және кездейсоқ болады.

Детерминерленген сигнал уақыттың кез келген моментінде анықтала алатын сигнал түрі.Ал кездейсоқ сигнал е басты айырмашылығы оның кейбір параметрлерін алдын ала болжау немесе анықтау мүмкін емес.

Детерминерленген сигналдың математикалық көрсетілуі:


  1. үзіліссіз аргументтің үзіліссіз функциясы. Мысалы: уақыттық үзіліссіз функциясы

  2. дискретті аргументтің үзіліссіз фнукциясы. Мысалы: уақыттың мәні белгілі бір анықталған моментінде ғана есептелген функция

  3. үзіліссіз аргументтің дискретті функциясы. Мысалы: деңгей бойынша кванттаудың уақыттық функциясы

  4. дискретті аргументтің дискретті функциясы. Мысалы: белгілі бір моментінде мүмкін болатын көп мән қабылдайтын функция.

Сызықтық жүйелердің кең таралғаны уақыт бойынша сызықты жүйелер


Осындай жүелер арқылы күрделі сигналдың өтуін анализдеу кезінде оларды базистік функция ретінде қарастырады.

(1)


Мұндағы - базистік функция

  • сигнал беру интервалы

  • өлшемсіз коэффициент жиынтығы

  • уақыттың функциясы

Уақыт бойынша шектелген сигнал үшін

(2)


Мұндағы - спектрлік тығздық

  • зіліссіз өзгеріп отыратын α параметрі бар базистік функция

(1),(2) теңдеуден сигналдың жалпыланған спектрлік теориясы шығады
Сигналдардың уақыттық формасы

Сигналдың уақыттық крсетілуі деп, базистік функция ретінде бірлік импільстік функция немесе Δ функция қоланылатын, уақыттық сигналға таратылуын айтады. Мұндай функцияның математикалық сипаттамасы:

(3)

Мұндағы δ(t)-Δ функция



Δ функция көмегімен тұрақты немесе өзгермелі деңгейлі периодты тізбекті импульс көрсеткіштері болады. t=kΔt нүктелерінде уақыт функциясы U(kΔt) тең және қалға барлық жағдайда нөлге тең. Осыған байланысты периодты уақыттың функциясы

(4)


Мұндағы Δt- импульс жүру қадамы

№3 тақырып



Сигналдардың жиіліктік формалары

Осындай жүелерді зерттегенде уақыт бойынша комплексті функциялар қолданылады. Детерминерленген сигнал көрсеткіші үшін Фурье түрлендіруі қолданылады: p=±jω (Фурье түрлендіруі)

p=S+jω(Фурьенің жалпыланған түрлендіруі)

Фурье түрлендіруі базистік функциялардықолдану Эйлер формуласымен жазылады.

(5)

j-комплексті шама



ω-айналмалы жиілік
(4) формула нәтижесінде сигналдың жиіліктік формуласын аламыз ол (5) теңдік

t0≤ t1≤ t2

T=2π/ω=t2-t1 , периоды қайталанады
U(t)=1/2 ∑ A(jkω1) e jkω1(t) (6)
A(jkω1)=2/T ∫U(t) e -jkω1(t) dt (7)
(6) комплекстік түрдегі Фурье қатары
Дирихле шарты:

Кез келген соңғы интервал функция үзіліссіз болуы қажет және экстремалды нүктелердің соңғы нүктелерінен тұруы шарт.


(6) теңдеу ω- параметрі екі жақты жиілікті көрсетілу деп аталады. (7) теңдік A(jkω1)- функциясы периодты сигнал комплексті спектр бұл спектр дискретті өйткені сандық өсте к нақты мәні үшін анықталады. A(jkω1) функция мәні комплекстік амплитуда.
A(jω)- комплексті спектр

A(jω)=2/t ∫ U(t) e jωt dt (8)

A(jkω1)= A(kω1) e jφ(kω1) (9)
Мұндағы A(kω1)-амплитуда спектрі

φ (kω1)-фаза спектрі


Амплитуда спектрі мына формуламен анықталады:
A(kω1)=√Ak 2+ Bk 2

A(kω1)=A (-k ω1)-жұп функция

φ (kω1)-тақ функция
№4 тақырып

Периодты емес сигналдардың спектрлары

Кез келген физикалық түрде таратылатын сигнал уақытпен шектелген және соңғы функциясы болады. Нақты сигнал көрсететін функциялар Дирихле шартын қанағаттандырады және интегралданады.

∫|U(t)| dt ≥ M (1)

Мұндағы М-соңғы шама


Осындай сигнал модельдері гармоникалық құраушылардың жиынтығымен көрсетіліп, периодты емес сигналының спектрлік түрленуінің нақты түрін қайталау периоды жоғарлаған кездегі импульстардың периодтық тізбегінің спектрінде өтетін өзгерістерден алады.
U(t)=1/2π ∫[∫U(t) e –jωt dt] e jωt dω (1.1)
S(jω) Фурьенің тура және кері түрленуінен аламыз
S(jω)=∫U(t) e –jωt dt (2)
U(t)=1/2π ∫ S(jω) e jωt dω (3)
S(jω) - комплекстік спектрлік тығыздық немесе спектрлік сипаттама
Әрбір нақты жиілікте сәйкес құрауыштарының амплитудасы нөлге тең
A(jω)=2/T * S(jω) (4)
Спектрлік сипаттама комплекстік шама ретінде келесідей жазылады:
S(jω)=S(ω) e -jφ dω (5)

S(ω)- спектрлік тығыздық немесе периодты емес сигнал спектрі S(ω)=| S(jω) |


Спектрлік сипаттама модулі

S(ω)=√|A-(ω)2|+|B-(ω)2| (6)


Фаза үшін спектрлік сипаттама

φ(ω)= arctg B(ω)/ A(ω) (7)


Мұндағы A(ω)=∫U(t) cos ωt dt-жиіліктің жұп функциясы

B(ω)=∫U(t) sin ωt dt- жиіліктің тақ функциясы


Фурьенің интегралдық түрленуінің комплекстік формасы
U(t)=1/π ∫ cos[ωt-φ(ω)] dω (8)
Энергияның спектрде таралуы

Периодты емес сигналды, мысалы физикалық көрсетілуі 1 ом, резистордан өткен электр кернеу ретінде қарастырылсын, онда осы резисторға бөлінетін энергия:

W=∫ U2(t) dt (9)

Энергия спектрінің сипаттамасы |S(ω)|2=S(jω) S(-jω)

Мұндағы S(-jω)- U(t) сигналының спектрлік сипаттамасының сипаттамалық комплексті түрде қалыптасқан функция
Периодты емес сигналдың бөлінетін энергиясын жиілік интервалында спектрлік сипаттаманың модулінің квадраттап, интегралдау арқылы табамыз:
Парсеваль тепе-теңдігі- ∫| U(t) | 2 dt=1/2π |S(ω)|2 dω (10)

Сигнал ұзақтығы оның спектр ені соңғы интервалмен шектелмейді. Егер сигнал ұзақтығы шектелген болса, онда оның спектрі шектелмейді. Ал шектелген спекртлі сигнал болса, керісінше оның ұзақтығы шексіз созылады.


∆t∆f=c (11)
Мұндағы ∆t-импульс ұзақтығы

∆f-импульс спектрінің ені

С-импульс формасына тәуелді тұрақты шама
t0 = 0 уақыт моментінде басталған сигнал үшін
∫| U(t) | 2 dt= η ∫| U(t) | 2 dt (12)
η-(0.9 : 0.99) өзгеретін коэффициент
Парсеваль тепе-теңдік көмегімен (10) сигнал спектр ені алынады:
1/π ∫ |S(ω)|2 dω= η/π ∫ |S(ω)|2 dω (13)
Орташа қуат Рорт =lim 1/2π уақыт бойынша шектелген сигнал қуаттың спектрінің тығыздығы

PkT(ω)= |S(ω)|2 /2πT (14)


№5 тақырып
Сигнал моделіндегі кездейсоқ процесс

Кездейсоқ (стохастикалық) процесс дегеніміз мәндері әрбір уақыт моментінде кездейсоқ болып табылатын U(t) уақыттың кездейсоқ функциясы


Қандай да бір уақыт моментінде өзгере алатын соңғы көп жағдайға бай кездейсоқ процесс дискретті деп аталады.

Егер жағдай өзгеруі тек соңғы немесе тақ санды уақыт моментінде ғана мүмкін болса, дискретті кездейсоқ процесс деп аталады.


Кездейсоқ процестің математикалық күтімі:

mu(t1)=M{ U(t1) }=∫U1P1(U1 t1) d U1 (15)


Дисперсия Du(t1)= M{[ U(t1)- mu(t1)]2}=M{[ U(t1)]2} (16)
Du(t1)= τu2(t) (17)
τu- орташа квадраттық ауытқу
Ṹ (t1)- орталық кездейсоқ шама Ṹ (t1)= U(t1)- mu(t1) (18)
Кездейсоқ процестегі кареляциялық функция

Ru(t1 t2)= M[ U(t1) U(t2)] (19)

Бірқалыпты дискреттеу Котельников теоремасы

Теорема шектеулі спектрлі детерминерленген функцияны толық қалпына келтірудің құрылымдық принциптерін орнатады

Теорема: Фурье түрлендіруін жүргізуге болатын және үзіліссіз спектрі бар 0-ден Fc –қа дейінгі жолағында шектелген уақыттың функция уақыт интервалында есептелген дискретті мәндердің дискретті қатарымен анықталады
∆t=1/2 Fc Fc=ωc/2π
Fc – байланыс каналындағы жиілік жолағы

∆t-уақыт интервалы

ωc –сигнал жиілігі
Теореманың физикалық негізі функцияның формуласымен оның енінің арасындағы байланысты көрсетеді. Егер функция спектрі шексіз болса, оның мәні өте жақын уақыт моментінде өздігінен өзгеруі мүмкін. Осы жағдайда олардың арасында кореляциялық байланыс болмайды.

Байланыс каналымен берілген сигнал көрсетіледі. U(t) функциясы спектрлік сипаттамаға сәйкес келеді бұл жағдайда спектр сипаттамасы нөлге тең

S(jω)=0

Фурьенің кері түрлендіруі бойынша уақыттық функция



U(t)=1/2π ∫ S(jω) e jωt ∆ω
tn уақыт моменті бойынша U(t) функциясы

U(tn)=U(nπ/ωc)=1/2 ∫ S(jω) e 1 nπ/ωc dω


tn= n∆t= nπ/ωc
n-нақты сан
Котельников теоремасы орташа квадрат түрде үзіліссіз стационарлы кездейсоқ процестерге арналған. Дискреттеу процесінде U(t) үзіліссіз функция n+1 шектелген туындысы бар n-дәрежелі көпмүшеленген апроксимацияланады.

Таңдалған қалпына келуші тәсілге байланысты дискреттеу:

интерполяциялаушы

экстраполяциялаушы

U(t) функциясын U*(t) көпмүшесімен қалпына келтіруші δu(t) қателік әрбір апроксимация аумағында қалдық мүшемен анықталады
δu(t)=αn (t)= U(t)- U*(t)

αn (t)-қалдық мүше

δu(t) қателік кезіндегі жғарғы дәрежелі көп мүшені таңдау аз санақты қамтамасыз ететін бірқалыпты дискретті кезінде Лагранждың көпмүшесі:
Un*(t)=((-1)n λ(λ-1)… (λ-n)) /n! *∑ (-1)j (cnj (U(tj)))/ λ-j
λ- Un*(t) көпмүшенің санақ коэффициенті

cn кез келген нақты сан

λ =t-t0/∆

t,t0-уақыттың басы, нөлдік мәні

∆-орташа квадраттық ауытқу
БЕРІЛГЕНДЕРДІ БЕРУ ЖҮЙЕСІ
Берілгендерді беру жүйесінің қарапайым құрылымын қарастырайық (СПД). Жүйе бір каналды, берілгендерді беру симплекстік режимде іске асырылады.

Мүнда КПД – берілгендерді беру каналы. СПД=КПД + А + ПО.

Хабарлама деп – ақпаратты келтіру (представления) формасы. Бір ақпарат әр-түрлі хабарлама түрінде болуы мүмкін, әр-түрлі формада.

Сигнал деп – хабарламаны материалды тасушы.

Беруші терминал құрылымын қарастырайық.


у.вв. - әр-түрлі тасушыдағы ақпаратты оқу құрылғысы (клавиатура, НМД, сканер, тышқан, CD-ROM және т.б.).

КОДЕР жалпы жағдайда екі негізгі функцияны орындайды:

Хабарламадағы зиянды артықты алып тастайды, яғни пайдалы хабарламаны тасымайтын берілгендер (оптималды немесе тиімді кодттау);

Пайдалы артықты енгізу, яғни ЛС бойынша хабарламаны беру процесіндегі қателіктерді тауып түзетуге мүмкіндік беретін қосымша берілгендер (кедергіге орнықты кодттау).

МОДУЛЯТОР служит для уплотнения ЛС ны тғыздауға қызмет етеді, сонмен қатар ЛС параметрлерімен сигнал қасиеттерін сәйкестендіреді.

Қабылдау терминалының құрылымын қарастырайық.

Беруші терминалда орындалатын кері операциялар орындалады.



ДЕМОДУЛЯТОР қабылданатын хабарламаның функцияларын детекрлеуді орындайды (модуляция функциясының кері функциясы).

ДЕКОДЕР жалпы жағдайда екі функцияны орындайды:

Алуға жарамды бастапқы хабарламаны қалыпқа келтіреді;

Оптималды қабылдаудағы есеп шешіледі.

У.ВЫВ. – жинаушылардың біріндегі хабарламаны тіркеуге арналған ке-келген құрылғы.
При реализации ПД және Д режимдерінің жұмысы арқылы абоненттер қабылдау-беру терминалдарын жабдықтауда пайдаланылады. Мұндай құрылғылар қабылдау функцияларымен қатар беру терминалдарын атқарады.
Қабылдау–беру терминалдарының құрылымын қарастырамыз.

ППТ модуляторында және демодуляторы бір конструктивті құрылғы -модем ретінде орындалады. Коддтаушы және декодттаушы құрылғы бір конструктивте- кодекеде дайындалады.

КОДЕК = КОДЕР + ДЕКОДЕР

МОДЕМ = МОДУЛЯТОР + ДЕМОДУЛЯТОР

Негізгі берілгендерді беру теорияларын қоыртындылай келе келесі мәселелерді ерекшелеуге болады:

Тиімді және оптималды кодттау.

Шуға қарсы коддтау.

Модуляция және демодуляциялау теориясы.

Хабарламаны оптималды қабылдау теориясы.
ХАБАРЛАМАНЫ ОПТИМАЛДЫ КОДТТАУ РЕОРИЯ НЕГІЗІ

Әр хабарлама символ, символдар тобынан, әріптен, сөден, биттер сияқты элементтерден тұруы мүмкін.

Оптималды кодттау маңызы, хабарламаның мұндай әдісін табу үшін, хабарламаның әр-бір элементі ең көп хабарлама мөлшерін тасу. Егер мұндай әдіс табылған болса, онда берілген ақпарат мөлшерін беруде элементтердің ең аз саны қажет болады.

Ақпараттың сандық өлшемі

Ақпараттың сандық мөлшерін Клод Шеннон алғаш енгізген.

x1, x2,...., xn элементтерінен тұратын, X кейбір хабарламасы болсын делік. Элементтердің әр-қайсысына оның пайда болу ықтималдылығы p(x1), p(x2),...., p(xn) сәйкес келеді.

Шеннон сандық өлшемін құру кезінде, элементтердегі ақпарат саны сол элементтердің пайда болу ықтималдылығына кері пропорционалды пайдаланылған.

I(xi) = 1/p(xi) , (1)

Мұндағы I(xi) - количество информации в элементе xi элементіндегі ақпарат саны, а p(xi) - xi элементінің пайда болу ықтималдылығы.

Бріақ бұның бірнеше кемшіліктері бар:

p(xi) =1 кезінде , I(xi) = 1, а должно быть I(xi) = 0 болуы тиіс.

Екі элемент кезінде xi және xj , I(xi, xj) = I(xi) I(xj), I(xi,xj) = I(xi) + I(xj) болуы қажет, яғни ақпарат мөлшерінің аддитивті заңдылығы бұзылады.

Көрсетілген екі кемшіліктен логарифмдік өлшем еркін. Сондықтан

I(xi) = log 1/p(xi). (2)

Мұндай жағдайда

p(xi) =1 , I(xi) = 0.

xi, xj , I(xi,xj)=log 1/p(xi) p(xj)=log 1/p(xi)+log1/p(xj)=I(xi)+I(xj).

Ақпараттың өлшем бірлігі (2) сәйкес логарифм негізіне тәуелді: lg - [дит], ln - [нит], lb - [бит].

(2) теңдеуі бір элементтегі ақпарат санын анықтайды. Ақпарат көзінің орташа сан мөлшерін анықтау үшін олардың пайда болу мөлшері бойынша орташасын анықтау қажет



. (3)

(3) теңдеу хабарламадағы ақпараттың орташа санын өрнектейді.
Энтропия хабарламаның анықталамаған мөлшері ретінде
Хабарламаны алу нәтижесінде ақпаратты алудың міндетті шарты қандай хабарлама берілетіндігі анықталмаған болып табылады.

Бұл жағдайда хабарламаны беру нәтижесіндегі, ақпарат саны неғұрлым көп болса соғұрлым анықталмағандық та көп болады.

Ақпаратты алу механизімін қарастырайық:

БЕРГЕНГЕ ДЕЙІНГІ АНЫҚТАЛМАҒАНДЫҚ

БЕРГЕННЕН КЕЙІНГІ АҚПАРАТ

Сонымен, Шеннон бойынша анықталмағандық–ол энтропия. Н міндеті.

H(xi) = log 1/p(xi). (4)

. (5)

Энтропия және ақпарат теңдеуі ұқсайды, бірақ мәні әр-түрлі. Энтропия-априорлық сипаттама (бергенге дейін), ақпарат-апостериорлық сипаттама (бергеннен кейін).

Берілгендерді беруді жоғалтусыз қарастырсақ, онда мынаны аламыз

ЭНТРОПИЯ АҚПАРАТ

БЕРГЕНГЕ ДЕЙІН h(x) 0

БЕРГЕННЕН КЕЙІН 0 I(X)=H(X)

Ақпаратты кодттау сапасы энтропиямен анықталады:

h(x)max – кодттаудың ең жақсы әдісі;

h(x)min – кодттаудың ең нашар әдісі.

Ақпарат екі әдәспен кодтталады:



h1(x) = 5 бит/символ; h2(x) = 2 бит/символ.

Кодттаудың бірінші әдәсә жақсы.

Оптималды кодттау әр элементтің ұлғаюына бағытталуы тиіс.

Энтропияның негізгі қасиеттері

Қандай жағдайларда энтропия ең үлкен және ең кіші шаманы қабылдайтынын қарасиырайық.

Екілік хабарламаны беру Х пайда болу ықтималдылығы p (x1) және p (x2) екі элементтен тұрады делік x1, x2.

p (x1) =1, p (x2) =0 болған кездегі жағдайды қарастырацһйық.



Мұнда =1/p(x2) белгіленуі енгізілген, ал анықталмағандық Лапиталия ережесімен ашылды. Энтропия минималды және 0 тең, егер, элементтердің біреуі 1 тең ықтималдылығы пайда болатын болса.

p (x1) = p (x2) = 0,5 жағдайды қарастырайық.

Энтропия максималды және 1 тең.



Екілік символ үшін Hmax = 1бит/дв.символ.

Алынған нәтиже n-элементтерінен шығатын x1, x2,..., xn-1, xn Х хабарламасында талдап қорытындыланылады.

hmin(X) =0 кезінде p(xi) = 1, p(xj) = 0, i  j.

p(x1)= p(x2)= .... =p(xn-1)= p(xn) кезінде.

Ізінше, оптималды кодттау үшін элементтердің пайда болу ықтималдылығын теңестіру қажет.
№6 тақырып



Достарыңызбен бөлісу:

esli-on-vegetarianec-to-ya-dumayu-otdayot-predpochtenie-fasoli-hristianskaya-sluzhba-semi-i-zdorovya.html
esli-pozvolitelno-izobrazit-tyuremnoe-zaklyuchenie-cherez-drugoe-tyurem-stranica-12.html
esli-pozvolitelno-izobrazit-tyuremnoe-zaklyuchenie-cherez-drugoe-tyuremnoe-zaklyuchenie-to-pozvolitelno-takzhe-izobrazit-lyuboj-dejstvitelno-sushestvuyushij-v-realn-stranica-3.html
esli-prochitav-nazvanie-vi-srazu-podumali-chto-eto-parodiya-na-nochnoj-dozor-to-vi-pravi-vo-vseh-punktah-yadazhe-ne-budu-otpiratsya-tak-i-est-nasha-organizaci.html
esli-razobratsya-chto-zhe-takoe-uspeh-to-v-konechnom-itoge-mozhno-prijti-k-ponimaniyu-togo-chto-eto-sovokupnost-udovletvorennih-potrebnostej-dlya-kazhdogo-iz-nas-v.html
esli-roditeli-vserez-obespokoeni-nedostatochno-zainteresovannim-otnosheniem-rebyonka-k-chteniyu-im-mogut-prigoditsya-soveti-amerikanskogo-psihologa-v-uilyamsa-vo.html
  • school.bystrickaya.ru/granatovij-braslet-kuprin-ai-chast-2.html
  • literature.bystrickaya.ru/byudzhetnoe-obrazovatelnoe-uchrezhdenie-srednego-profesionalnogo-obrazovaniya-omskoj-oblasti-omskoe-muzikalnoe-uchilishe-kolledzh-imeni-v-ya-shebalina.html
  • exchangerate.bystrickaya.ru/aktivnie-operacii-kommercheskih-bankov-chast-9.html
  • lektsiya.bystrickaya.ru/pravila-ministerstvo-truda-i-socialnogo-razvitiya-rf-21-marta-1997-g-stranica-6.html
  • letter.bystrickaya.ru/mishlenie-2-v-g-maracha-obrazovanie-na-rubezhe-vekov-metodologicheskie-soobrazheniya-95-petrov-aleksandr-evgenevich.html
  • zanyatie.bystrickaya.ru/sushnost-i-tipologiya-infrastrukturi-optovoj-torgovli.html
  • predmet.bystrickaya.ru/religii-i-verovaniya-centralnoj-azii-i-kaspiya-iranskie-religii.html
  • exchangerate.bystrickaya.ru/fortepiannij-koncert-v-tvorchestve-rahmaninova.html
  • exam.bystrickaya.ru/velikij-russkij-hirurg-nipirogov.html
  • knowledge.bystrickaya.ru/n-v-poklonskaya-t-a-derbeko.html
  • education.bystrickaya.ru/114-geografiya-otrasli-strahovaniya-i-organizacionnaya-struktura-proekta-avtomatizaciya-biznes-processa-sostavleniya.html
  • znanie.bystrickaya.ru/42-stvolovaya-kletka-panaceya-ili-avantyura-v-n-zaporozhan-put-k-nooetike-bbk-87-7-z-33.html
  • lecture.bystrickaya.ru/avtor-hotel-bi-virazit-svoyu-glubokuyu-i-iskrennyuyu-priznatelnost-tem-kto-sdelal-vse-ot-nih-zavisyashee-chtobi-kniga-poluchilas-kak-mozhno-luchshe-stranica-9.html
  • zanyatie.bystrickaya.ru/novosti-negosudarstvennih-pensionnih-fondov-monitoring-smi-rf-po-pensionnoj-tematike-17-fevralya-2012-goda.html
  • holiday.bystrickaya.ru/obshie-pravila-podachi-i-rassmotreniya-apellyacij-saratovskij-gosudarstvennij-tehnicheskij.html
  • books.bystrickaya.ru/doklad-o-soblyudenii-prav-i-svobod-cheloveka-i-grazhdanina-na-territorii-amurskoj-oblasti-i-deyatelnosti-upolnomochennogo-po-pravam-cheloveka-v-amurskoj-oblasti-v-2008-godu.html
  • institut.bystrickaya.ru/tema-i-naselenie-severnogo-kavkaza-v-periodi-kamennogo-uchebno-metodicheskij-kompleks-po-discipline.html
  • college.bystrickaya.ru/15-sobranie-kir-bulichev.html
  • znaniya.bystrickaya.ru/rannie-gosudarstva-mesopotamii-l-s-vasilev-istoriya-vostoka.html
  • prepodavatel.bystrickaya.ru/sto-velikih-voenachalnikov-stranica-12.html
  • desk.bystrickaya.ru/plan-raboti-resursnogo-centr-obnovlenie-soderzhaniya-filologicheskogo-obrazovaniya-na-yanvar-2011-uch-god.html
  • literature.bystrickaya.ru/bosniya-i-gercegovina-otchet-o-20-m-soveshanii-evropejskoj-regionalnoj-komissii-po-sertifikacii-likvidacii-poliomielita-kopengagen.html
  • pisat.bystrickaya.ru/trinadcataya-glava-tatyana-yurevna-solomatina.html
  • composition.bystrickaya.ru/osnovi-teorii-organizacii-sovremennie-podhodi-k-formirovaniyu-uspeshnogo-biznesa.html
  • uchenik.bystrickaya.ru/6-upravlenie-realizaciej-programmi-programma-razvitiya-gosudarstvennogo-obrazovatelnogo-uchrezhdeniya-centra-obrazovaniya-1989.html
  • textbook.bystrickaya.ru/kniga-777-stranica-10.html
  • knigi.bystrickaya.ru/rossijskie-smi-o-mchs-monitoring-za-26-avgusta-2010-g.html
  • thesis.bystrickaya.ru/prognoz-poetapnogo-razvitiya-dobichi-nefti-na-period-do-2030goda-rasporyazhenie-pravitelstva-rf-ot-13-noyabrya-2009g.html
  • education.bystrickaya.ru/12-sushnost-problemnogo-obucheniya-vsya-zhizn-cheloveka-postoyanno-stavit-pered-nim-ostrie-i-neotlozhnie-zadachi-i.html
  • upbringing.bystrickaya.ru/m-a-bulgakov-bil-po-obrazovaniyu.html
  • testyi.bystrickaya.ru/analiz-raboti-shkoli-za-20092010-uchebnij-god-stranica-4.html
  • composition.bystrickaya.ru/orsk-v-pervie-mesyaci-velikoj-otechestvennoj-vojni-itogovaya-nauchno-prakticheskaya-konferenciya-prepodavatelej-i-studentov.html
  • urok.bystrickaya.ru/predstavleniya-o-boge-tvorce-u-nepismennih-narodov-religiya.html
  • ucheba.bystrickaya.ru/postupleniya-zemelnih-platezhej-v-mestnij-byudzhet-poyasnitelnaya-zapiska-k-prognozu-socialno-ekonomicheskogo-razvitiya.html
  • school.bystrickaya.ru/drevnerusskaya-teoriya-bogosluzhebnogo-peniya-chast-2.html
  • © bystrickaya.ru
    Мобильный рефератник - для мобильных людей.