Методи машинного навчання в системах проєктування
Спеціальність: Комп'ютерні науки (Проектування і програмування інтелектуальних систем та пристроїв)
Код дисципліни: 6.122.12.E.058
Кількість кредитів: 5.00
Кафедра: Системи автоматизованого проектування
Лектор: к.т.н., доцент каф. САП Левкович М. В.
Семестр: 5 семестр
Форма навчання: денна
Завдання: Вивчення навчальної дисципліни передбачає формування та розвиток у студентів наступних компетентностей:
загальних:
-засвоєння теоретичних основ курсу "Методи машинного навчання в системах проектування", оволодіння технологією розв’язання широкого класу задач за допомогою методів, підходів та алгоритмів машинного навчання, а також набуття практичних умінь та навичок їх застосування при розв’язуванні завдань фахового спрямування, плануванні та реалізації заходів, спрямованих на вирішення проблемних ситуацій в сучасному інформаційному просторі.
фахових:
-здатність розв’язувати складні спеціалізовані задачі та практичні проблеми у галузі комп’ютерних наук або у процесі навчання, що передбачає застосування теорій та методів інформаційних технологій і характеризується комплексністю та невизначеністю умов;
-здатність до логічного мислення, побудови логічних висновків, використання формальних мов і моделей алгоритмічних обчислень, проектування, розроблення й аналізу алгоритмів, оцінювання їх ефективності та складності, розв’язності та нерозв’язності алгоритмічних проблем для адекватного моделювання предметних областей і створення програмних та інформаційних систем.
Результати навчання: Внаслідок вивчення дисципліни "Методи машинного навчання в системах проектування" студенти повинні:
-знати і системно застосовувати методи аналізу та моделювання прикладної області, виявлення інформаційних потреб і збору вихідних даних в системах проектування;
-аналізувати, оцінювати і обирати методи, сучасні програмно-апаратні інструментальні та обчислювальні засоби, технології, алгоритмічні та програмні рішення для ефективного виконання конкретних задач;
-вміти розробляти, аналізувати та реалізовувати алгоритми для вирішення задач системного проектування, аналізу, обробки та збереження інформації;
-вміти використовувати сучасні програмні системи та інформаційні технології для проектування та розробки інтелектуальних програмних систем.
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Пререквізити: "Алгебра і геометрія", "Дискретна математика", "Математичний аналіз та диференційні рівняння", "Теорія ймовірності та математична статистика", "Чисельні методи", "Математичні методи дослідження операцій", "Системи інтелектуального аналізу та візуалізації даних".
Кореквізити: "Проектування та розробка інформаційних систем разом з КР", "Комп’ютерна графіка та геометричне моделювання", "Програмна робототехніка".
Короткий зміст навчальної програми: Навчальна дисципліна "Методи машинного навчання в системах проектування" є складовою освітньо-професійної програми "Проектування і програмування інтелектуальних систем та пристроїв" підготовки фахівців за першим (бакалаврським) рівнем вищої освіти. Дана дисципліна належить до переліку дисциплін вільного вибору студента. Викладається у 5 семестрі в обсязі – 150 год. (5 кредитів ECTS), зокрема: лекції – 30 год., лабораторні заняття – 30 год., самостійна робота – 90 год. Завершується дисципліна – екзаменом.
В курсі розглядаються основні задачі машинного навчання: класифікація, регресія, кластеризація, пониження розмірності. Вивчаються методи їх розв’язання. Акцент робиться на розумінні математичних основ, взаємозв’язків, переваг і недоліків розглянутих методів, а також їх практичній реалізації і застосуванні при вирішенні реальних завдань.
В результаті вивчення навчальної дисципліни студент повинен:
знати: відомості про основні задачі машинного навчання, моделі для опису даних, типові методи розв’язання та умови застосовності цих методів;
вміти: вибирати алгоритми для розв’язання задач машинного навчання в залежності від природи та структури даних, проводити попередню обробку даних, оцінювати якість отриманих розв’язків.
Опис: Частина 1. Задачі навчання з учителем – класифікація та прогнозування.
Тема 1. Види задач машинного навчання. Задача класифікації. Міри якості класифікації. Побудова моделей машинного навчання. Типи змінних. Оцінка точності, підбір параметрів.
Тема 2. Дерева рішень. Критерій поділу Джині та критерій ентропії. Умовні дерева рішень. Випадкові ліси.
Тема 3. Байесівська класифікація. Логістична регресія. Машини опорних векторів.
Тема 4. Задача регресії. Міри точності у задачі регресії. Лінійна регресія. Оцінки точності. Нелінійна регресія, локально-зважена регресія.
Тема 5. Перетворення змінних для задач машинного навчання. Регуляризовані регресійні моделі: ridge, LASSO, Elastic-Net. Дерева регресії.
Тема 6. Метод найближчих сусідів. Подолання перенавчання: визначення важливих змінних. Ансамблеві методи: бустинг та беггінг.
Частина 2. Задачі навчання без учителя та підготовка даних.
Тема 7. Підготовка даних для задач машинного навчання: очистка, знаходження викидів, заповнення пропусків. Задачі навчання без учителя: кластеризація, пошук аномалій, зниження розмірності. Області їх застосування.
Тема 8. Кластеризація: центроїдні методи (kmeans, pam, clara, fanny). Індекси якості кластеризації — внутрішні та зовнішні. Кластеризація: методи зв’язності (agglomerative clustering).
Тема 9. Кластеризація: статистичні методи (gaussian mixtures). Кластеризація: методи аналізу щільності (DBSCAN, OPTICS). Кластеризація: ядерні методи (mean-shift).
Методи та критерії оцінювання: - поточний контроль (45%): письмові звіти з лабораторних робіт, усне опитування;
- підсумковий контроль (55%, екзаменаційний контроль): тестування (45%), усна компонента (10%).
Критерії оцінювання результатів навчання: Поточний контроль (лабораторні роботи)-40 балів.
Екзаменаційний контроль-50 балів.
Практична робота-10 балів.
Разом за дисципліну-100 балів.
Порядок та критерії виставляння балів та оцінок: 100–88 балів – («відмінно») виставляється за високий рівень знань (допускаються деякі неточності) навчального матеріалу компонента, що міститься в основних і додаткових рекомендованих літературних джерелах, вміння аналізувати явища, які вивчаються, у їхньому взаємозв’язку і роз витку, чітко, лаконічно, логічно, послідовно відповідати на поставлені запитання, вміння застосовувати теоретичні положення під час розв’язання практичних задач; 87–71 бал – («добре») виставляється за загалом правильне розуміння навчального матеріалу компонента, включаючи розрахунки , аргументовані відповіді на поставлені запитання, які, однак, містять певні (неістотні) недоліки, за вміння застосовувати теоретичні положення під час розв’язання практичних задач; 70 – 50 балів – («задовільно») виставляється за слабкі знання навчального матеріалу компонента, неточні або мало аргументовані відповіді, з порушенням послідовності викладення, за слабке застосування теоретичних положень під час розв’язання практичних задач; 49–26 балів – («не атестований» з можливістю повторного складання семестрового контролю) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння застосувати теоретичні положення під час розв’язання практичних задач; 25–00 балів – («незадовільно» з обов’язковим повторним вивченням) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння орієнтуватися під час розв’язання практичних задач, незнання основних фундаментальних положень.
Рекомендована література: 1. A.D. Joseph, B. Nelson, B.I.P. Rubinstein, J.D. Tygar: Adversarial Machine Learning – Cambridge University Press, 2019.
2. C.C. Aggarwal: Machine Learning for Text – Springer, 2018.
3. D. Forsyth: Applied Machine Learning – Springer, 2019.
4. E. Alpaydin: Introduction to Machine Learning, 3rd ed. – The MIT Press, 2014.
5. J.-T. Chien: Source Separation and Machine Learning – Academic Press, 2019.
6. M. Gori: Machine Learning: A Constraint-Based Approach Morgan Kaufmann, 2018.
7. M. Mohri, A. Rostamizadeh, A, Talwalkar: Foundations of Machine Learning, 2nd ed. – The MIT Press, 2018.
8. P. Larraсaga, D. Atienza, J. Diaz-Rozo, A. Ogbechie, C. Puerto-Santana, C. Bielza: Industrial Applications of Machine Learning – CRC Press, 2019.
9. R.E. Neapolitan, X. Jiang: Artificial Intelligence: With an Introduction to Machine Learning, 2nd ed. – CRC Press, 2018.
10. S.W. Knox: Machine Learning: A Concise Introduction – Wiley, 2018.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою:
вул. Карпінського, 2/4, І-й н.к., кімн. 112
E-mail: nolimits@lpnu.ua
Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).