Нейронні мережі
Спеціальність: Прикладна математика та інформатика
Код дисципліни: 6.113.00.O.036
Кількість кредитів: 5.00
Кафедра: Прикладна математика
Лектор: Польовий В.Є.
Семестр: 6 семестр
Форма навчання: денна
Завдання: В результаті вивчення дисципліни студенти повинні:
- знати: основні типи та призначення штучних нейронних мереж; архітектуру штучних нейронних мереж; методи навчання нейронних мереж; принципи роботи генетичного алгоритму та методу Reinforcement Learning.
- вміти: вибрати тип нейронної мережі для розв’язання поставленої задачі; виконати структурний та параметричний синтез нейромережі для розв’язання поставленої задачі; виконувати відповідні експериментальні дослідження, оцінювати отримані результати та аргументовано їх захищати.
Результати навчання: Вивчення навчальної дисципліни передбачає формування у здобувачів освіти компетентностей:
загальні компетентності:
ЗК3 – базові знання в області інформаційних технологій, алгоритмів та їх програмної реалізації, необхідні для освоєння професійно-орієнтованих дисциплін.
ЗК5 – здатність до застосування знань на практиці.
ЗК8 – мати навички розроблення та управління проектами.
ЗК12 – уміння працювати як індивідуально, так і в команді.
ЗК13 – уміння ефективно спілкуватися на професійному та соціальному рівнях.
ЗК15 – потенціал до подальшого навчання.
фахові компетентності:
ФК2 – базові знання наукових понять, теорій та методів, необхідних для розуміння принципів збору, обробки та збереження інформації, розробки та програмної реалізації побудованих алгоритмів.
ФК4 – здатність використовувати та впроваджувати нові технології, брати участь в модернізації систем та комплексів з метою підвищення їх ефективності.
ФК6 – здатність застосовувати професійно-профільовані знання та практичні навички для розв’язання типових задач спеціальності, а також експлуатації програмно-інформаційних комплексів.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Попередні
Програмування ч.1, ч.2. (1, 2 сем.)
Алгебра і геометрія (1 сем.)
Диференціальні рівняння (3 сем.)
Об’єктно-орієнтоване програмування (3 сем.)
Дискретна математика (4 сем.)
Математичні основи штучного інтелекту (4 сем.)
Теорія ймовірності (5 сем.)
Математична статистика (6 сем.)
Короткий зміст навчальної програми: Навчальна дисципліна «Нейронні мережі» є складовою освітньо-професійної програми підготовки фахівців за першим рівнем вищої освіти «бакалавр» галузі знань 11 – «Математика та статистика» зі спеціальності 113 – «Прикладна математика» за освітньою програмою «Прикладна математика та інформатика». Дана дисципліна є обов’язковою. Викладається в другому семестрі 4-го курсу (8-й навчальний семестр) в обсязі – 120 год. (4 кредити ECTS) зокрема: лекції – 40 год., лабораторні заняття – 40 год., самостійна робота – 40 год. У курсі передбачено 2 контрольних роботи у ВНС. Завершується дисципліна – іспитом.
У межах дисципліни розглядаються основні поняття та методи сучасної теорії штучних нейронних мереж (типи штучних нейронних мереж, їх архітектури та алгоритми навчання, функції активації нейронів, методи оптимізації, а також застосування еволюційних алгоритмів та Reinforcement Learning в задачах синтезу штучних нейронних мереж). На практичних заняттях студенти набувають навичок структурного та параметричного синтезу штучних нейронних мереж для розв’язування практичних задач моделювання, керування, класифікації, а також застосування сучасного прикладного програмного забезпечення для навчання та аналізу роботи нейромережі.
Опис: Основи теорії штучних нейронних мереж. Основні поняття та визначення. Перцептрон та ADALINE нейрони. Правила навчання.
Мережі прямого поширення сигналу. Методи навчання штучних нейронних мереж. Алгоритм Back-Propagation
Рекурентні нейронні мережі. Схема Елмана, схема Джордана. Розширення алгоритму Back-Propagation для синтезу рекурентних мереж. Алгоритм Левенберга- Марквардта.
Створення нейромоделей та принципи побудови систем нейрокерування технологічними об’єктами.
Рекурентні нейронні мережі. Мережа Хемінга. Мережа Хопфілда. Застосування мереж для класифікації образів.
Мережі з самонавчанням. Мережа ART. Мережа Кохонена
RBF-мережі
Нейро-фаззі системи.
Deep learning. Convolutional neural network. Структура, призначення шарів. Основні типи мереж CNN.
LSTM та GRU мережі
Reinforcement learning
Теоретичні засади функціонування генетичних алгоритмів.
Засоби MATLAB для синтезу штучних нейронних мереж і їх застосування в медицині, економіці.
Засоби мови PYTHON для синтезу штучних нейронних мереж і їх застосування в Data Science.
Методи та критерії оцінювання: Лабораторні роботи – 35, у т.ч.:
- ЛР №1 – 9
- ЛР №2 – 9
- ЛР №3 – 9
- ЛР №4 – 8
Контрольні роботи у ВНС – 10, у т.ч.:
- КР №1 – 5
- КР №2 – 5
Екзаменаційний контроль - 55
Критерії оцінювання результатів навчання: Навчальна дисципліна, завершується семестровим контролем, форма якого передбачена навчальним планом із виставленням семестрової оцінки.
Семестрова оцінка складається із суми балів, передбачених на поточний контроль та екзаменаційний контроль. Цю інформацію викладач доводить студентам на першому занятті з навчальної дисципліни
Порядок та критерії виставляння балів та оцінок: 100–88 балів – («відмінно») виставляється за високий рівень знань (допускаються деякі неточності) навчального матеріалу компонента, що міститься в основних і додаткових рекомендованих літературних джерелах, вміння аналізувати явища, які вивчаються, у їхньому взаємозв’язку і роз витку, чітко, лаконічно, логічно, послідовно відповідати на поставлені запитання, вміння застосовувати теоретичні положення під час розв’язання практичних задач; 87–71 бал – («добре») виставляється за загалом правильне розуміння навчального матеріалу компонента, включаючи розрахунки , аргументовані відповіді на поставлені запитання, які, однак, містять певні (неістотні) недоліки, за вміння застосовувати теоретичні положення під час розв’язання практичних задач; 70 – 50 балів – («задовільно») виставляється за слабкі знання навчального матеріалу компонента, неточні або мало аргументовані відповіді, з порушенням послідовності викладення, за слабке застосування теоретичних положень під час розв’язання практичних задач; 49–26 балів – («не атестований» з можливістю повторного складання семестрового контролю) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння застосувати теоретичні положення під час розв’язання практичних задач; 25–00 балів – («незадовільно» з обов’язковим повторним вивченням) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння орієнтуватися під час розв’язання практичних задач, незнання основних фундаментальних положень.
Рекомендована література: 1. Osowski S. Sieci Neuronowe w ujeciu algorytmicznym. – WNT:Warszawa, 1996. - P. 342.
2. D. Kriesel – A Brief Introduction to Neural Networks // - 227p. http://www.dkriesel.com/en/science/neural_networks
3. Rutkowska D., Pilinski M., Rutkowski L. Sieci neuronowe, algorytmy genetyczne i systemy rozmyte. –PWN:Warszawa-Lodz, 1997. – 412 p.
4. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Нейросетевые системы управления. – М:«Радиотехника», 2002. – 480 с.
5. Aston Zhang, Zachary C. Lipton, Mu Li, Alexander J.Smola. Dive into Deep Learning. Mar18, 2020, - 961 p.
6. Michael A. Nielsen. Neural Networks and Deep Learning. Determination Press, 2015. -216 p. http://neuralnetworksanddeeplearning.com/
7. Ben Krose Patrick van der Smagt, An introduction of neural networks. University of Amsterdamam 1996, - 135 p.
8. Richard S. Sutton, Andrew G. Barto. Reinforcement Learning:An Introduction. MIT Press, 2016. - 330 p.
9. Goldberg D.E. Algorytmy genetyczne i ich zastosowania. –Warszawa: WNT, 1998. - 408 str.
10. Haykin S. Neural Networks: A Comprehensive Foundation. –Pearson Prentice Hall, 2007 – 863 p.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою:
вул. Карпінського, 2/4, І-й н.к., кімн. 112
E-mail: nolimits@lpnu.ua
Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).