Теорія інформації та кодування

Спеціальність: Комп'ютерна інженерія
Код дисципліни: 6.123.03.E.101
Кількість кредитів: 4.00
Кафедра: Спеціалізовані комп'ютерні системи
Лектор: Гонсьор Оксана Йосипівна
Семестр: 5 семестр
Форма навчання: денна
Мета вивчення дисципліни: Метою вивчення дисципліни «Теорія інформації та кодування» є підготовка фахівців, здатних самостійно використовувати і впроваджувати отримані знання для максимального використання потенційних можливостей каналів зв'язку на основі оптимального кодування джерела повідомлення та його подальшого завадостійкого кодування а також здобуттям ефективних алгоритмів кодування для джерел повідомлень і передачі даних по каналах зв'язку. Засвоєння матеріалу курсу «Теорія інформації та кодування» є необхідним для подальшого оволодіння знаннями в галузі збирання, передавання, перетворення, оброблення, накопичення та зберігання інформації, проектування та розроблення інформаційних систем і засобів автоматики та інформатики будь-якого призначення.
Завдання: Вивчення навчальної дисципліни передбачає формування у здобувачів освіти компетентностей: загальні компетентності: • ЗК 1. Здатність до абстрактного мислення, аналізу і синтезу засобів цифрових комунікацій, криптографії та криптоаналізу; • ЗК 2. Здатність вчитися і оволодівати сучасними знаннями в області цифрових комунікацій; • ЗК 11. Базові знання фундаментальних наук в обсязі, необхідному для освоєння загально-професійних дисциплін. фахові компетентності професійного спрямування: • ФКС 3.2. Здатність використовувати сучасні методи розробки спеціалізованих комп’ютерних систем; • ФКС 3.3. Здатність створювати програмне забезпечення спеціалізованих комп’ютерних систем; • ФКС 3.8. Здатність ідентифікувати, класифікувати та описувати роботу спеціалізованих комп’ютерних систем; • ФКС 3.9. Здатність розуміти обмеження технологій та цільове використання конкретних спеціалізованих комп’ютерних систем.
Результати навчання: У результаті вивчення навчальної дисципліни здобувач освіти повинен бути здатним продемонструвати такі програмні результати навчання: РН1. ЗН 1. Знати і розуміти наукові положення, що лежать в основі функціонування комп’ютерних засобів, систем та мереж. УМ 3. Вміти системно мислити та застосовувати творчі здібності для формування нових ідей
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Попередні навчальні дисципліни: Теорія ймовірності, Комп’ютерна логіка. Супутні і наступні навчальні дисципліни: Комп’ютерні засоби опрацювання сигналів, Захист інформації в комп’ютерних системах.
Короткий зміст навчальної програми: Навчальна дисципліна «Теорія інформації та кодування» складається з розділів що стосуються вивчення основних елементів теорії інформації, а також основ оптимального та завадостійкого кодування. Курс Теорія інформації та кодування об'єднує такі теоретичні напрями, як кількісна оцінка інформації, ефективність передавання інформації по каналах зв’язку, кодування повідомлень, їх стиснення, оцінка ефективності та завадостійкості передачі кодованих повідомлень. Розглядаються різні сучасні методи шифрування інформації при її передачі по каналах зв’язку. Одним з головних завдань курсу є максимальне використання потенційних можливостей каналів зв'язку на основі оптимального кодування джерела повідомлення, його подальшого завадостійкого кодування та шифрування інформації. Це збігається з завданням теорії кодування - здобуттям ефективних алгоритмів кодування для джерел повідомлень і захищеного передавання даних по каналах зв'язку. Без розвитку теорії інформації та кодування і впровадження її в життя практично неможливо створення складних систем керування супутниками Землі та ракетами, систем і мереж зв'язку та захищеного передавання даних, складних комп’ютерних систем і комплексів, тощо.
Опис: 1. Інформація та інформаційні процеси. Предмет теорії інформації та кодування. Повідомлення та інформація. Моделі інформаційних систем. Математичні моделі каналів зв’язку. 2. Кількісні характеристики інформації. Ансамблі та джерела повідомлень. Кількісна міра інформації. Ентропія та її властивості. Безумовна ентропія. Умовна ентропія. Ентропія об’єднання двох джерел. 3. Характеристики дискретних джерел інформації. Продуктивність дискретного джерела та швидкість передачі інформації. Інформаційні втрати при передачі інформації по дискретному каналу. Пропускна здатність дискретного каналу. Теорема Шеннона про кодування дискретного джерела. 4. Характеристики неперервних джерел інформації. Квантування неперервних сигналів. Інформаційні втрати при кодуванні неперервних джерел. Основні характеристики неперервного джерела інформації. Продуктивність неперервного джерела та швидкість передачі інформації. Пропускна здатність неперервного каналу. 5. Кодування в дискретних і неперервних каналах. Класифікація кодів і їх характеристики. Системи числення. Основні операції над елементами поля. Способи подання кодів. Надмірність кодів. Основні теореми кодування для каналів. 6. Оптимальне кодування. Оптимальний нерівномірний код Шеннона-Фано. Побудова оптимального нерівномірного коду Хаффмена. 7. Завадостійке кодування. Основні поняття і визначення. Принцип виявлення і виправлення помилок в завадостійких кодах. Класифікація і основні характеристики завадостійких кодів. Класифікація завадостійких кодів. Основні характеристики завадостійких кодів. Лінійні, блокові коди з виявленням і виправленням помилок. Особливості кодування лінійних блокових кодів. Кодування в коді Хеммінга. Особливості декодування лінійних блокових кодів. Декодування в коді Хеммінга. 8. Циклічні та згорткові коди. Способи задавання і кодування. Декодування циклічних кодів. Мажоритарне декодування циклічних кодів. Визначення, способи задавання і кодування згорткових кодів. Декодування згорткових кодів. Застосування завадостійких кодів в системах автоматики, телемеханіки і зв'язку. Способи підвищення достовірності передачі інформації в каналах зв’язку з завадами. 9. Канальне кодування. Гратчасті коди. Шумові коди. Скремблерування даних. 10. Коди Ріда-Соломона. Твірний поліном кодів Ріда-Соломона. Кодуючі і декодуючі схеми. Коди Ріда – Соломона, що виправляють подвійні помилки. 11. Ефективність кодування та передавання інформації. 11.1 Теорія ефективності А.Г. Зюко. Інформаційна, енергетична й частотна ефективності телекомунікаційних систем. Гранична ефективність телекомунікаційних систем і границя К. Шеннона. Перспективні шляхи подальшого підвищення ефективності. 12. Сучасні рішення в системах передавання інформації. Сучасні рішення із передачі сигналів в ефірі. Принцип передачі сигналів OFDM. Технічна реалізація способу OFDM. Технологія MIMO паралельної передачі в ефірі . Підходи до оптимізації розпізнавання сигналів. Особливості квантового підходу. Особливості квантової інформації.
Методи та критерії оцінювання: Усне опитування в процесі роботи студентів у малих групах на лекційних, лабораторних та практичних заняттях. Письмовий контроль і усна компонента на іспиті, комп’ютерне тестування. Під час дистанційної роботи (у тому числі за умов карантину) передбачається співбесіда зі студентами під час проведення відеоконференцій на лекційних заняттях. Лабораторні та практичні роботи проводяться в аудиторії або (у випадку дистанційного навчання) на домашньому комп’ютері. Індивідуальні звіти з лабораторних та практичних робіт та письмові роботи пересилаються до ВНС, або на електронну пошту викладача через канал зв’язку @lpnu.ua. Дистанційні заняття проводяться на платформах MS Teams та ZOOM. Поточний контроль – виконання та захист лабораторних та практичних робіт, усне та фронтальне опитування. Підсумковий контроль - вибіркове усне опитування; оцінка активності, оригінальності внесених пропозицій, нестандартних рішень, уточнень і визначень тощо; інтерактивні тести (Kahoot). Екзамен – тестовий контроль та усна компонента.
Критерії оцінювання результатів навчання: Поточний контроль: Виконання та захист лабораторних робіт - 25 балів; Виконання практичних робіт - 20 балів; Екзаменаційний контроль: Тестовий контроль - 45 балів; Усна компонента - 10 балів.
Порядок та критерії виставляння балів та оцінок: 100–88 балів – («відмінно») виставляється за високий рівень знань (допускаються деякі неточності) навчального матеріалу компонента, що міститься в основних і додаткових рекомендованих літературних джерелах, вміння аналізувати явища, які вивчаються, у їхньому взаємозв’язку і роз витку, чітко, лаконічно, логічно, послідовно відповідати на поставлені запитання, вміння застосовувати теоретичні положення під час розв’язання практичних задач; 87–71 бал – («добре») виставляється за загалом правильне розуміння навчального матеріалу компонента, включаючи розрахунки , аргументовані відповіді на поставлені запитання, які, однак, містять певні (неістотні) недоліки, за вміння застосовувати теоретичні положення під час розв’язання практичних задач; 70 – 50 балів – («задовільно») виставляється за слабкі знання навчального матеріалу компонента, неточні або мало аргументовані відповіді, з порушенням послідовності викладення, за слабке застосування теоретичних положень під час розв’язання практичних задач; 49–26 балів – («не атестований» з можливістю повторного складання семестрового контролю) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння застосувати теоретичні положення під час розв’язання практичних задач; 25–00 балів – («незадовільно» з обов’язковим повторним вивченням) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння орієнтуватися під час розв’язання практичних задач, незнання основних фундаментальних положень.
Рекомендована література: Базова література 1. Кожевников В.Л. Теорія інформації та кодування [Текст]: навч. посібник / В.Л. Кожевников, А.В. Кожевников. – Д.: Національний гірничий університет, 2011. – 108 с. 2. Кожевников, В.Л. Основи збирання, обробки і передачі інформації. Теоретичні основи [Текст] / В.Л. Кожевников, А.В. Кожевников. – Д.: НГУ, 2007. – 108 с. 3. Цимбал, В.П. Теория информации и кодирования [Текст] / В.П. Цимбал. – К.: Вища школа, 1973. – 232 с. 4. Макаров, В.А. Теоретические основы телемеханики [Текст] / В.А. Макаров. – Л.: ЛГУ, 1973. – 287 с. 5. Мороз, Б.І. Методи раціональної організації обробки інформації в системах передачі даних [Текст] / Б.І. Мороз, В.П. Дюбко. – Д.: Академія митної служби України, 2007. – 251 с. 6. Безруков, В.В. Теорія інформації [Текст] / В.В. Безруков, В.Я. Кізяков, В.І. Профатілов. – Д.: ДДТУЗТ, 2001. – 110 с. 92 7. Жураковський Ю.П., Полторак В.П. Теорія інформації та кодування. Підручник.- К.: Вища школа, 2001.- 255 с Допоміжна література: 8. Жураковський Ю. П., Гніліцький В. В. Теорія інформації та кодування в задачах: Навчальний посібник. – Житомир: ЖІТІ, 2002. – 230 с. 9. Шульгин В.И. Основы теории передачи информации, Харьков, 2002. – 160 с. 10. В.Ю Дирда, П.В.Іващенко. Теорія електричного зв’язку – Одеса, 2010. – 80с.. 11. Конахович Г.Ф. Системи радіозв’язку. Навчальний посібник. – К.: НАУ, 2004 – 311с.? Інформаційні ресурси: 1. Гусєв О.Ю. Теорія електричного зв’язку /О.Ю.Гусєв, Г.Ф.Конахович, В.І.Корнієнко, Г.В.Кузнецов, О.Ю.Пузиренко //Навчальний посібник.—Львів: Магнолія 2006, 2010. — 331 с. http://tks.nau.edu.ua/wp-content/uploads/2016/10/TEORIYA-ELEKTRYCHNOGO-ZVYAZKU.pdf 2. Конахович Г.Ф. Системи радіозв’язку. Навчальний посібник. – К.: НАУ, 2004 – 311с. http://tks.nau.edu.ua/wp-content/uploads/2016/10/Konahovych-Georgij-Fylymonovych-Systemy-zvyazku.pdf
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою: вул. Карпінського, 2/4, І-й н.к., кімн. 112 E-mail: nolimits@lpnu.ua Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).