Методи оптимізації нейронних мереж

Спеціальність: Комп'ютерний еколого-економічний моніторинг
Код дисципліни: 7.122.08.M.011
Кількість кредитів: 5.00
Кафедра: Інформаційних систем і технологій
Лектор: к.т.н., доцент Лагун А.Е.
Семестр: 2 семестр
Форма навчання: денна
Мета вивчення дисципліни: Метою даної дисципліни є систематизоване вивчення основних понять, моделей і методів побудови штучних нейронних мереж, які можуть використовуватися для побудови інтелектуальних систем при вирішенні практичних завдань розпізнавання образів, прийняття рішень, класифікації та прогнозування, технічного і біомедичного діагностування
Завдання: Вивчення основних понять, моделей і методів теорії штучних нейронних мереж, які можуть використовуватися при вирішенні практичних завдань розпізнавання образів, прийняття рішень, класифікації даних різної природи та прогнозування. Вміння проектувати нейронні мережі із прямими, латеральними та зворотними зв’язками. Застосування основних відомостей щодо програмних засобів для моделювання нейронних мереж на основі Python, Matlab та Statistica
Результати навчання: У результаті вивчення навчальної дисципліни студент має: знати: поняття «штучних нейронних мереж»; особливостей штучних нейронів, їх компонентів; характеристики етапів розвитку штучних нейронних мереж; класифікації і загальних характеристик штучних нейронів; видів функцій активації, що набули поширення в штучних нейронних мережах; методології та технології проектування і розробки одношарових та багатошарових штучних нейронних мереж; базових нейромережевих топології; мереж рекурентного типу; парадигм навчання; алгоритмів навчання нейронних мереж; - вміти: застосовувати сучасні пакети програм моделювання методами нейронних мереж; визначати характеристики й вимоги до нейромережевої топології; застосовувати базові архітектурні рішення для моделювання економічних процесів; здійснювати побудову нейронних мереж різної структури і складності; застосовувати моделі багатошарового персептрона для класифікації лінійно-нероздільних векторів; використовувати сучасні алгоритми навчання нейромереж; розрізняти і моделювати методами нейронних мереж задачі класифікації, розпізнавання образів, прогнозування одновимірної функції, апроксимації багатовимірної функції; проводити попередню обробку даних, що характеризують економічні процеси; застосувати нейронні мережі Кохонена для задач класифікації; моделювати нейронні мережі з прямим і зворотнім напрямками розповсюдження сигналів; навички побудови моделей класифікації та прогнозування поведінки соціально-економічних систем за допомогою сучасних пакетів прикладних програм нейромережевого моделювання.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Вища математика, Теорія імовірностей та математична статистика
Короткий зміст навчальної програми: Моделi нейроелементiв. Метод навчання Уiдроу-Хоффа. Нейронні мережі прямого поширення. Градієнтні методи навчання. Повнозв’язні нейронні мережі. Нейроннi мережi Кохонена. Методи оптимізації нейронних мереж.
Опис: 1) Основні поняття нейроінформатики. Загальна структура та принципи перетворення інформації біологічних нейронів. Основні елементи для створення штучних нейронів. Класифiкацiя та опис властивостей нейромереж. Синтез нейромереж. Основні методи оптимізації в задачах синтезу нейромереж. 2) Нейронні мережі прямого поширення сигналу. Одношаровий персептрон та метод навчання Уiдроу-Хоффа. Структура та опис функціонування багатошарових нейромереж (БНМ). Загальне уявлення про навчання БНМ. Метод зворотного поширення помилки, опис структури та функціонування радiально-базисних нейромереж, а також методів їхнього навчання. 3) Нейронні мережі зі зворотними зв’язками. Структура та принципи функціонування нейромереж Хопфiлда. Методи навчання нейромереж Хопфілда. Ефект рознасичення синаптичної матриці ваг для збільшення обсягу пам’яті мереж Хопфілда. Структура та функціонування нейромережі Елмана. 4) Нейронні мережі із боковими зв’язками. Нейронні мережі Кохонена, а також методи їхнього навчання. 5) Огляд базових парадигм глибоких нейронних мереж. 6) Програмні засоби для моделювання нейронних мереж: Python, Matlab та Statistica Neural Networks.
Методи та критерії оцінювання: Виконання лабораторних і контрольних робіт, усне опитування і письмова семестрова робота
Критерії оцінювання результатів навчання: Лабораторні роботи - 30. Контрольна робота - 10. Усне опитування - 10. Письмова робота -50.
Порядок та критерії виставляння балів та оцінок: 100–88 балів – («відмінно») виставляється за високий рівень знань (допускаються деякі неточності) навчального матеріалу компонента, що міститься в основних і додаткових рекомендованих літературних джерелах, вміння аналізувати явища, які вивчаються, у їхньому взаємозв’язку і роз витку, чітко, лаконічно, логічно, послідовно відповідати на поставлені запитання, вміння застосовувати теоретичні положення під час розв’язання практичних задач; 87–71 бал – («добре») виставляється за загалом правильне розуміння навчального матеріалу компонента, включаючи розрахунки , аргументовані відповіді на поставлені запитання, які, однак, містять певні (неістотні) недоліки, за вміння застосовувати теоретичні положення під час розв’язання практичних задач; 70 – 50 балів – («задовільно») виставляється за слабкі знання навчального матеріалу компонента, неточні або мало аргументовані відповіді, з порушенням послідовності викладення, за слабке застосування теоретичних положень під час розв’язання практичних задач; 49–26 балів – («не атестований» з можливістю повторного складання семестрового контролю) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння застосувати теоретичні положення під час розв’язання практичних задач; 25–00 балів – («незадовільно» з обов’язковим повторним вивченням) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння орієнтуватися під час розв’язання практичних задач, незнання основних фундаментальних положень.
Рекомендована література: 1. Олійник А. О. Інтелектуальний аналіз даних : навчальний посібник / А. О. Олійник, С. О. Субботін, О. О. Олійник . – Запоріжжя : ЗНТУ, 2011. – 271 с. 2. Дубровiн В. I. Методи оптимiзацiї та їх застосування в задачах навчання нейронних мереж : навчальний посібник / В. I. Дубровiн, С. О. Субботiн . – Запорiжжя : ЗНТУ, 2003. – 136 с. 3. Прогрессивные технологии моделирования, оптимизации и интеллектуальной автоматизации этапов жизненного цикла авиационных двигателей : монография / [А. В. Богуслаев, Ал. А. Олейник, Ан. А. Олейник, Д. В. Павленко, С. А. Субботин] ; под ред. Д. В. Павленко, С. А. Субботина. – Запорожье : ОАО "Мотор Сич", 2009. – 468 с.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою: вул. Карпінського, 2/4, І-й н.к., кімн. 112 E-mail: nolimits@lpnu.ua Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).