Методи оптимізації нейронних мереж

Спеціальність: Комп'ютерний еколого-економічний моніторинг
Код дисципліни: 7.122.08.M.011
Кількість кредитів: 5.00
Кафедра: Інформаційних систем і технологій
Лектор: к.т.н., доцент Лагун А.Е.
Семестр: 2 семестр
Форма навчання: денна
Мета вивчення дисципліни: Метою даної дисципліни є систематизоване вивчення основних понять, моделей і методів побудови штучних нейронних мереж, які можуть використовуватися для побудови інтелектуальних систем при вирішенні практичних завдань розпізнавання образів, прийняття рішень, класифікації та прогнозування, технічного і біомедичного діагностування
Завдання: Вивчення основних понять, моделей і методів теорії штучних нейронних мереж, які можуть використовуватися при вирішенні практичних завдань розпізнавання образів, прийняття рішень, класифікації даних різної природи та прогнозування. Вміння проектувати нейронні мережі із прямими, латеральними та зворотними зв’язками. Застосування основних відомостей щодо програмних засобів для моделювання нейронних мереж на основі Python, Matlab та Statistica
Результати навчання: У результаті вивчення навчальної дисципліни студент має: знати: поняття «штучних нейронних мереж»; особливостей штучних нейронів, їх компонентів; характеристики етапів розвитку штучних нейронних мереж; класифікації і загальних характеристик штучних нейронів; видів функцій активації, що набули поширення в штучних нейронних мережах; методології та технології проектування і розробки одношарових та багатошарових штучних нейронних мереж; базових нейромережевих топології; мереж рекурентного типу; парадигм навчання; алгоритмів навчання нейронних мереж; - вміти: застосовувати сучасні пакети програм моделювання методами нейронних мереж; визначати характеристики й вимоги до нейромережевої топології; застосовувати базові архітектурні рішення для моделювання економічних процесів; здійснювати побудову нейронних мереж різної структури і складності; застосовувати моделі багатошарового персептрона для класифікації лінійно-нероздільних векторів; використовувати сучасні алгоритми навчання нейромереж; розрізняти і моделювати методами нейронних мереж задачі класифікації, розпізнавання образів, прогнозування одновимірної функції, апроксимації багатовимірної функції; проводити попередню обробку даних, що характеризують економічні процеси; застосувати нейронні мережі Кохонена для задач класифікації; моделювати нейронні мережі з прямим і зворотнім напрямками розповсюдження сигналів; навички побудови моделей класифікації та прогнозування поведінки соціально-економічних систем за допомогою сучасних пакетів прикладних програм нейромережевого моделювання.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Вища математика, Теорія імовірностей та математична статистика
Короткий зміст навчальної програми: Моделi нейроелементiв. Метод навчання Уiдроу-Хоффа. Нейронні мережі прямого поширення. Градієнтні методи навчання. Повнозв’язні нейронні мережі. Нейроннi мережi Кохонена. Методи оптимізації нейронних мереж.
Опис: 1) Основні поняття нейроінформатики. Загальна структура та принципи перетворення інформації біологічних нейронів. Основні елементи для створення штучних нейронів. Класифiкацiя та опис властивостей нейромереж. Синтез нейромереж. Основні методи оптимізації в задачах синтезу нейромереж. 2) Нейронні мережі прямого поширення сигналу. Одношаровий персептрон та метод навчання Уiдроу-Хоффа. Структура та опис функціонування багатошарових нейромереж (БНМ). Загальне уявлення про навчання БНМ. Метод зворотного поширення помилки, опис структури та функціонування радiально-базисних нейромереж, а також методів їхнього навчання. 3) Нейронні мережі зі зворотними зв’язками. Структура та принципи функціонування нейромереж Хопфiлда. Методи навчання нейромереж Хопфілда. Ефект рознасичення синаптичної матриці ваг для збільшення обсягу пам’яті мереж Хопфілда. Структура та функціонування нейромережі Елмана. 4) Нейронні мережі із боковими зв’язками. Нейронні мережі Кохонена, а також методи їхнього навчання. 5) Огляд базових парадигм глибоких нейронних мереж. 6) Програмні засоби для моделювання нейронних мереж: Python, Matlab та Statistica Neural Networks.
Методи та критерії оцінювання: Виконання лабораторних і контрольних робіт, усне опитування і письмова семестрова робота
Критерії оцінювання результатів навчання: Лабораторні роботи - 30. Контрольна робота - 10. Усне опитування - 10. Письмова робота -50.
Порядок та критерії виставляння балів та оцінок: 100-88 балів - атестований з оцінкою «відмінно» - Високий рівень: здобувач освіти демонструє поглиблене володіння поняттєвим та категорійним апаратом навчальної дисципліни, системні знання, вміння і навички їх практичного застосування. Освоєні знання, вміння і навички забезпечують можливість самостійного формулювання цілей та організації навчальної діяльності, пошуку та знаходження рішень у нестандартних, нетипових навчальних і професійних ситуаціях. Здобувач освіти демонструє здатність робити узагальнення на основі критичного аналізу фактичного матеріалу, ідей, теорій і концепцій, формулювати на їх основі висновки. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку, самостійної науково-дослідної діяльності, що реалізується за підтримки та під керівництвом викладача. 87-71 балів - атестований з оцінкою «добре» - Достатній рівень: передбачає володіння поняттєвим та категорійним апаратом навчальної дисципліни на підвищеному рівні, усвідомлене використання знань, умінь і навичок з метою розкриття суті питання. Володіння частково-структурованим комплексом знань забезпечує можливість їх застосування у знайомих ситуаціях освітнього та професійного характеру. Усвідомлюючи специфіку задач та навчальних ситуацій, здобувач освіти демонструє здатність здійснювати пошук та вибір їх розв’язання за поданим зразком, аргументувати застосування певного способу розв’язання задачі. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку. 70-50 балів - атестований з оцінкою «задовільно» - Задовільний рівень: окреслює володіння поняттєвим та категорійним апаратом навчальної дисципліни на середньому рівні, часткове усвідомлення навчальних і професійних задач, завдань і ситуацій, знання про способи розв’язання типових задач і завдань. Здобувач освіти демонструє середній рівень умінь і навичок застосування знань на практиці, а розв’язання задач потребує допомоги, опори на зразок. В основу навчальної діяльності покладено ситуативність та евристичність, домінування мотивів обов’язку, неусвідомлене застосування можливостей для саморозвитку. 49-00 балів - атестований з оцінкою «незадовільно» - Незадовільний рівень: свідчить про елементарне володіння поняттєвим та категорійним апаратом навчальної дисципліни, загальне уявлення про зміст навчального матеріалу, часткове використання знань, умінь і навичок. В основу навчальної діяльності покладено ситуативно-прагматичний інтерес.
Рекомендована література: 1. Олійник А. О. Інтелектуальний аналіз даних : навчальний посібник / А. О. Олійник, С. О. Субботін, О. О. Олійник . – Запоріжжя : ЗНТУ, 2011. – 271 с. 2. Дубровiн В. I. Методи оптимiзацiї та їх застосування в задачах навчання нейронних мереж : навчальний посібник / В. I. Дубровiн, С. О. Субботiн . – Запорiжжя : ЗНТУ, 2003. – 136 с. 3. Прогрессивные технологии моделирования, оптимизации и интеллектуальной автоматизации этапов жизненного цикла авиационных двигателей : монография / [А. В. Богуслаев, Ал. А. Олейник, Ан. А. Олейник, Д. В. Павленко, С. А. Субботин] ; под ред. Д. В. Павленко, С. А. Субботина. – Запорожье : ОАО "Мотор Сич", 2009. – 468 с.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою: вул. Карпінського, 2/4, І-й н.к., кімн. 112 E-mail: nolimits@lpnu.ua Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).