Моделювання та оптимізація для глибинного навчання
Спеціальність: Системи штучного інтелекту
Код дисципліни: 7.122.04.E.015
Кількість кредитів: 5.00
Кафедра: Системи штучного інтелекту
Лектор:
Пелешко Д.Д.
Семестр: 2 семестр
Форма навчання: денна
Завдання: Вивчення навчальної дисципліни передбачає формування у здобувачів освіти компетентностей:
загальні компетентності (ЗК):
ЗК1. Уміння спілкуватися другою мовою;
ЗК2. Здатність навчатися;
ЗК3. Уміння спілкуватися усно та в письмовій формі першою мовою;
ЗК4. Здатність здійснювати пошук та аналізувати інформацію з різних джерел;
ЗК5. Уміння ідентифікувати, формулювати та розв’язувати задачі;
ЗК6. Уміння застосовувати знання в практичних ситуаціях;
ЗК7. Уміння приймати обґрунтовані рішення;
ЗК8. Уміння проводити дослідження на відповідному рівні;
ЗК9. Уміння працювати в команді;
ЗК10. Знання та розуміння предметної області та розуміння фаху;
ЗК12. Уміння думати абстрактно, аналізувати та синтезувати;
ЗК13. Уміння розробляти та керувати проектами;
ЗК14. Уміння працювати самостійно.
фахові компетентності спеціальності (ФК):
ФК1. Здатність гнучкого способу мислення, який дає можливість зрозуміти й розв’язати проблеми та задачі, зберігаючи при цьому критичне відношення до усталених наукових концепцій;
ФК2. Здатність використовувати поглиблені теоретичні та фундаментальні знання в галузі штучного інтелекту для розроблення складних систем;
ФК3. Здатність формулювати, аналізувати та синтезувати рішення наукових проблем на абстрактному рівні шляхом їхньої декомпозиції на складові, які можна дослідити окремо в їх більш та менш важливих аспектах;
ФК4. Здатність будувати відповідні моделі складних систем, досліджувати їх для побудови проектів інформаційних систем;
ФК5. Здатність розробляти і впроваджувати моделі інформаційних систем засобами комп’ютерного моделювання;
ФК7. Здатність провести усну презентацію та написати зрозумілу статтю за результатами проведених досліджень, а також щодо сучасних концепцій у системах штучного інтелекту та методів опрацювання природної мови;
ФК9. Здатність формулювати (роблячи презентації, або представляючи звіти) нові гіпотези та наукові задачі в області штучного інтелекту та опрацювання природної мови, вибирати належні напрями і відповідні методи для їхнього розв’язування;
фахові компетентності спеціалізації (ФКС):
Для лінії систем штучного інтелекту
ФК2.3. Здатність бути лідером розроблення та виконання проекту інтелектуальної інформаційної системи;
Результати навчання: 1. Сформувати датасети з сирих даних для навчання глибоких систем.
2. Сформулювати етапи розробки системи з глибоким навчанням.
3. Розробити архітектуру системи глибокого навчання.
4. Обрати і реалізувати алгоритм навчання для системи глибокого навчання.
5. Застосовувати фреймворки для реалізації систем з глибоким навчанням.
6. Аналізувати отримані результати.
7. Обирати тип системи з глибоким навчання відповідно до задачі, що вирішується.
8. Візуалізувати результати роботи системи з глибоким навчанням.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Попередні навчальні дисципліни
Системи штучного інтелекту
Машинне навчання
Чисельні методи
Супутні і наступні навчальні дисципліни
Методи аналізу Великих даних
Машинне навчання
Моделювання та оптимізація для глибинного навчання
Короткий зміст навчальної програми: Навчальна дисципліна Проектування систем глибинного навчання є складовою циклу професійної підготовки фахівців другого освітньо-кваліфікаційного рівня “магістр”. Пропонований навчальний курс забезпечить студентам здобуття поглиблених теоретичних та практичних знань, умінь та розуміння, що відносяться до областей Data Science, Computer Vision, Deep Learning, що дасть їм можливість розв’язувати різноманітні задачі аналізу даних за допомогою систем глибокого навчання, та розроблення систем прийняття рішень на базі таких систем для виконання наукових проектів, бізнес-проектів у різних галузях.
Опис: Вступ. Основні поняття. Основні математичні операції. Examples of Deep Learning projects. Деталі курсу. Python. Бібліотеки.
Глибокі мережі прямого розповсюдження.
Регуляризація в глибокому навчанні
Оптимізація в навчанні глибоких моделей
Глибокі конволюційні нейронні мережі.
Рекурентні та рекурсивні глибокі нейронні мережі
Автоенкодери і їх навчання. Ботлнек. Машина Больцмана Конволюційні автоенкодери
GAN. Explaining and Harnessing Adversarial Examples, Generative Adversarial Nets, Conditional GAN, Super-Resolution GAN, CycleGAN
Методи та критерії оцінювання: 1. Виконання лабораторних робіт та їх захист.
2. Написання контрольних робіт.
3. Написання розрахунково-графічної роботи
4. Екзамен.
Критерії оцінювання результатів навчання: Лабораторна робота, Розрахунково-графічна робота - 40 балів
Екзамен, Усна компонента - 60 балів
Порядок та критерії виставляння балів та оцінок: 100-88 балів - атестований з оцінкою «відмінно» - Високий рівень: здобувач освіти демонструє поглиблене володіння поняттєвим та категорійним апаратом навчальної дисципліни, системні знання, вміння і навички їх практичного застосування. Освоєні знання, вміння і навички забезпечують можливість самостійного формулювання цілей та організації навчальної діяльності, пошуку та знаходження рішень у нестандартних, нетипових навчальних і професійних ситуаціях. Здобувач освіти демонструє здатність робити узагальнення на основі критичного аналізу фактичного матеріалу, ідей, теорій і концепцій, формулювати на їх основі висновки. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку, самостійної науково-дослідної діяльності, що реалізується за підтримки та під керівництвом викладача. 87-71 балів - атестований з оцінкою «добре» - Достатній рівень: передбачає володіння поняттєвим та категорійним апаратом навчальної дисципліни на підвищеному рівні, усвідомлене використання знань, умінь і навичок з метою розкриття суті питання. Володіння частково-структурованим комплексом знань забезпечує можливість їх застосування у знайомих ситуаціях освітнього та професійного характеру. Усвідомлюючи специфіку задач та навчальних ситуацій, здобувач освіти демонструє здатність здійснювати пошук та вибір їх розв’язання за поданим зразком, аргументувати застосування певного способу розв’язання задачі. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку. 70-50 балів - атестований з оцінкою «задовільно» - Задовільний рівень: окреслює володіння поняттєвим та категорійним апаратом навчальної дисципліни на середньому рівні, часткове усвідомлення навчальних і професійних задач, завдань і ситуацій, знання про способи розв’язання типових задач і завдань. Здобувач освіти демонструє середній рівень умінь і навичок застосування знань на практиці, а розв’язання задач потребує допомоги, опори на зразок. В основу навчальної діяльності покладено ситуативність та евристичність, домінування мотивів обов’язку, неусвідомлене застосування можливостей для саморозвитку. 49-00 балів - атестований з оцінкою «незадовільно» - Незадовільний рівень: свідчить про елементарне володіння поняттєвим та категорійним апаратом навчальної дисципліни, загальне уявлення про зміст навчального матеріалу, часткове використання знань, умінь і навичок. В основу навчальної діяльності покладено ситуативно-прагматичний інтерес.
Рекомендована література:
1. Николенко С., Кадурин А., Архангельская Е.. Глубокое обучение. Погружение в мир нейронных сетей. – Питер, 2019. - 480 с.
2. Гудфеллоу Я, Бенджио Й., Курвилль А. Глубокое обучение. ДМК, 2018, 653 с.
3. Goodfellow, I., Bengio, Y., Courville, A. Deep Learning. MIT Press, 2016.
4. Charu C. Aggarwal Neural Networks and Deep Learning. Springer International Publishing. 2018.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою:
вул. Карпінського, 2/4, І-й н.к., кімн. 112
E-mail: nolimits@lpnu.ua
Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).
Моделювання та оптимізація для глибинного навчання (курсова робота)
Спеціальність: Системи штучного інтелекту
Код дисципліни: 7.122.04.E.017
Кількість кредитів: 2.00
Кафедра: Системи штучного інтелекту
Лектор:
Пелешко Д.Д.
Семестр: 2 семестр
Форма навчання: денна
Завдання: Вивчення навчальної дисципліни передбачає формування у здобувачів освіти компетентностей:
загальні компетентності (ЗК):
ЗК1. Уміння спілкуватися другою мовою;
ЗК2. Здатність навчатися;
ЗК3. Уміння спілкуватися усно та в письмовій формі першою мовою;
ЗК4. Здатність здійснювати пошук та аналізувати інформацію з різних джерел;
ЗК5. Уміння ідентифікувати, формулювати та розв’язувати задачі;
ЗК6. Уміння застосовувати знання в практичних ситуаціях;
ЗК7. Уміння приймати обґрунтовані рішення;
ЗК8. Уміння проводити дослідження на відповідному рівні;
ЗК9. Уміння працювати в команді;
ЗК10. Знання та розуміння предметної області та розуміння фаху;
ЗК12. Уміння думати абстрактно, аналізувати та синтезувати;
ЗК13. Уміння розробляти та керувати проектами;
ЗК14. Уміння працювати самостійно.
фахові компетентності спеціальності (ФК):
ФК1. Здатність гнучкого способу мислення, який дає можливість зрозуміти й розв’язати проблеми та задачі, зберігаючи при цьому критичне відношення до усталених наукових концепцій;
ФК2. Здатність використовувати поглиблені теоретичні та фундаментальні знання в галузі штучного інтелекту для розроблення складних систем;
ФК3. Здатність формулювати, аналізувати та синтезувати рішення наукових проблем на абстрактному рівні шляхом їхньої декомпозиції на складові, які можна дослідити окремо в їх більш та менш важливих аспектах;
ФК4. Здатність будувати відповідні моделі складних систем, досліджувати їх для побудови проектів інформаційних систем;
ФК5. Здатність розробляти і впроваджувати моделі інформаційних систем засобами комп’ютерного моделювання;
ФК7. Здатність провести усну презентацію та написати зрозумілу статтю за результатами проведених досліджень, а також щодо сучасних концепцій у системах штучного інтелекту та методів опрацювання природної мови;
ФК9. Здатність формулювати (роблячи презентації, або представляючи звіти) нові гіпотези та наукові задачі в області штучного інтелекту та опрацювання природної мови, вибирати належні напрями і відповідні методи для їхнього розв’язування;
фахові компетентності спеціалізації (ФКС):
Для лінії систем штучного інтелекту
ФК2.3. Здатність бути лідером розроблення та виконання проекту інтелектуальної інформаційної системи;
Результати навчання: 1. Сформувати датасети з сирих даних для навчання глибоких систем.
2. Сформулювати етапи розробки системи з глибоким навчанням.
3. Розробити архітектуру системи глибокого навчання.
4. Обрати і реалізувати алгоритм навчання для системи глибокого навчання.
5. Застосовувати фреймворки для реалізації систем з глибоким навчанням.
6. Аналізувати отримані результати.
7. Обирати тип системи з глибоким навчання відповідно до задачі, що вирішується.
8. Візуалізувати результати роботи системи з глибоким навчанням.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Попередні навчальні дисципліни
Системи штучного інтелекту
Машинне навчання
Чисельні методи
Супутні і наступні навчальні дисципліни
Методи аналізу Великих даних
Машинне навчання
Моделювання та оптимізація для глибинного навчання
Короткий зміст навчальної програми: Навчальна дисципліна Проектування систем глибинного навчання є складовою циклу професійної підготовки фахівців другого освітньо-кваліфікаційного рівня “магістр”. Пропонований навчальний курс забезпечить студентам здобуття поглиблених теоретичних та практичних знань, умінь та розуміння, що відносяться до областей Data Science, Computer Vision, Deep Learning, що дасть їм можливість розв’язувати різноманітні задачі аналізу даних за допомогою систем глибокого навчання, та розроблення систем прийняття рішень на базі таких систем для виконання наукових проектів, бізнес-проектів у різних галузях.
Опис: Вступ. Основні поняття. Основні математичні операції. Examples of Deep Learning projects. Деталі курсу. Python. Бібліотеки.
Глибокі мережі прямого розповсюдження.
Регуляризація в глибокому навчанні
Оптимізація в навчанні глибоких моделей
Глибокі конволюційні нейронні мережі.
Рекурентні та рекурсивні глибокі нейронні мережі
Автоенкодери і їх навчання. Ботлнек. Машина Больцмана Конволюційні автоенкодери
GAN. Explaining and Harnessing Adversarial Examples, Generative Adversarial Nets, Conditional GAN, Super-Resolution GAN, CycleGAN
Методи та критерії оцінювання: 1. Виконання лабораторних робіт та їх захист.
2. Написання контрольних робіт.
3. Написання розрахунково-графічної роботи
4. Екзамен.
Критерії оцінювання результатів навчання: Лабораторна робота, Розрахунково-графічна робота - 40 балів
Екзамен, Усна компонента - 60 балів
Порядок та критерії виставляння балів та оцінок: 100-88 балів - атестований з оцінкою «відмінно» - Високий рівень: здобувач освіти демонструє поглиблене володіння поняттєвим та категорійним апаратом навчальної дисципліни, системні знання, вміння і навички їх практичного застосування. Освоєні знання, вміння і навички забезпечують можливість самостійного формулювання цілей та організації навчальної діяльності, пошуку та знаходження рішень у нестандартних, нетипових навчальних і професійних ситуаціях. Здобувач освіти демонструє здатність робити узагальнення на основі критичного аналізу фактичного матеріалу, ідей, теорій і концепцій, формулювати на їх основі висновки. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку, самостійної науково-дослідної діяльності, що реалізується за підтримки та під керівництвом викладача. 87-71 балів - атестований з оцінкою «добре» - Достатній рівень: передбачає володіння поняттєвим та категорійним апаратом навчальної дисципліни на підвищеному рівні, усвідомлене використання знань, умінь і навичок з метою розкриття суті питання. Володіння частково-структурованим комплексом знань забезпечує можливість їх застосування у знайомих ситуаціях освітнього та професійного характеру. Усвідомлюючи специфіку задач та навчальних ситуацій, здобувач освіти демонструє здатність здійснювати пошук та вибір їх розв’язання за поданим зразком, аргументувати застосування певного способу розв’язання задачі. Його діяльності ґрунтується на зацікавленості та мотивації до саморозвитку, неперервного професійного розвитку. 70-50 балів - атестований з оцінкою «задовільно» - Задовільний рівень: окреслює володіння поняттєвим та категорійним апаратом навчальної дисципліни на середньому рівні, часткове усвідомлення навчальних і професійних задач, завдань і ситуацій, знання про способи розв’язання типових задач і завдань. Здобувач освіти демонструє середній рівень умінь і навичок застосування знань на практиці, а розв’язання задач потребує допомоги, опори на зразок. В основу навчальної діяльності покладено ситуативність та евристичність, домінування мотивів обов’язку, неусвідомлене застосування можливостей для саморозвитку. 49-00 балів - атестований з оцінкою «незадовільно» - Незадовільний рівень: свідчить про елементарне володіння поняттєвим та категорійним апаратом навчальної дисципліни, загальне уявлення про зміст навчального матеріалу, часткове використання знань, умінь і навичок. В основу навчальної діяльності покладено ситуативно-прагматичний інтерес.
Рекомендована література:
1. Николенко С., Кадурин А., Архангельская Е.. Глубокое обучение. Погружение в мир нейронных сетей. – Питер, 2019. - 480 с.
2. Гудфеллоу Я, Бенджио Й., Курвилль А. Глубокое обучение. ДМК, 2018, 653 с.
3. Goodfellow, I., Bengio, Y., Courville, A. Deep Learning. MIT Press, 2016.
4. Charu C. Aggarwal Neural Networks and Deep Learning. Springer International Publishing. 2018.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою:
вул. Карпінського, 2/4, І-й н.к., кімн. 112
E-mail: nolimits@lpnu.ua
Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).