Лекція 10. Обчислення швидкості передачі інформації і
пропускної здатності каналів зв’язку
В умовах відсутності завад швидкість передачі інформації визначається кількістю інформації, що переноситься символом повідомлення за одиницю часу, і рівна
,
де n – кількість символів, що виробляється джерелом повідомлень за одиницю часу;
H – ентропія (невизначеність), яка усувається при отриманні одного символу повідомлень, що виробляються даним джерелом.
Швидкість передачі інформації також може обчислюватись як
, де ( – час передачі одного символу.
Швидкість передачі інформації завжди визначається відносно первинного алфавіту і залежить від його ентропії. А швидкість передачі сигналів обчислюється відносно вторинного алфавіту, якщо апаратура забезпечує передачу усіх якісних його ознак. Швидкість передачі сигналів обчислюється за формулою.
, де ( – час передачі одного символу вторинного алфавіту.
Таким чином, швидкість передачі інформації залежить від інформаційних характеристик джерела повідомлень, а швидкість передачі сигналів – від швидкодії апаратури. Ці величини не слід плутати, оскільки вони обчислюються за різними формулами і мають різну розмірність.
Для повідомлень, складених з рівноімовірних взаємонезалежних символів однакової тривалості, швидкість передачі інформації обчислюється так:
.
У випадку нерівноімовірних символів однакової тривалості
.
У випадку нерівноімовірних і взаємозалежних символів різної тривалості

Пропускна здатність (або ємність) каналу зв’язку – це максимальна швидкість передачі інформації по даному каналу зв’язку. Нагадаємо, що під каналом зв’язку розуміється сукупність засобів, призначених для передачі інформації від заданого джерела повідомлень до адресата. Отже, .
Для двійкового коду .
При наявності завад пропускна здатність каналу зв’язку обчислюється так:

Пропускна здатність реальних каналів зв’язку обчислюється за допомогою імовірностей помилкового (неправильного) прийому , які враховують дію завад. При цьому імовірність правильного прийому . Канал, в якому імовірності помилкових переходів однакові та імовірності правильного прийому одного символу дорівнює правильному прийому іншого символу, називаються симетричними.
В дійсності не існує абсолютно симетричних каналів зв’язку на інтервалі слова. Канали можуть бути симетричними на нескінченному участку. Практично симетричними каналами вважаються канали з близькими імовірностями прийому якісних ознак. Ряд каналів принципово несиметричні: це кабельні канали з цифровим зв’язком, канали з пасивною паузою. Однак, багато каналів з достатньою точністю описуються моделлю симетричного каналу.
Властивості симетричного каналу зв’язку:
Ентропії джерела та приймача рівні: .
Умовна ентропія симетрична: .
Середня кількість інформації в прийнятому ансамблі відносно переданого:
.
Канальна матриця зі сторони джерела і з боку приймача має однаковий вигляд.
В канальних матрицях сума імовірностей в кожному рядку і в кожному стовпці рівна одиниці.
Пропускна здатність від джерела до приймача дорівнює пропускній здатності від приймача до джерела.
Розглянемо швидкість передачі інформації симетричного бінарного каналу. Бінарним називається канал зв’язку, в якому повідомлення передаються за допомогою двох якісних ознак.
Оскільки в симетричному бінарному каналі і , тоді
.
Пропускна здатність .
Пояснення 1+. З симетрії випливає, що максимальна швидкість передачі інформації буде для джерел, в яких імовірність передачі 0 і 1 рівні, тобто , а