Філософія та етика штучного інтелекту
Спеціальність: Комп'ютерні науки (Системи штучного інтелекту)
Код дисципліни: 6.122.13.O.033
Кількість кредитів: 3.00
Кафедра: Філософія
Лектор: Канд. філос. наук, доц. Андрій Кадикало
Д-р. філос. наук, доц. Ігор Карівець
Семестр: 6 семестр
Форма навчання: денна
Завдання: Вивчення навчальної дисципліни передбачає формування у студентів необхідних компетентностей:
інтегральні компетентності:
1. Проявляти розуміння філософських та морально-етичних проблем, які пов'язані зі швидким розвитком штучного інтелекту.
2. Брати участь у поточних дискусіях про принципи та наслідки використання штучного інтелекту й критично реагувати на філософські тексти про штучний інтелект.
загальні компетентності:
1.Орієнтуватися у трансформаціях, спричинених штучним інтелектом у різноманітних сферах людського життя, які можуть суттєво впливати на людську особистість, змінювати або контролювати її.
2.Вміти аналізувати відмінності між людським і штучним інтелектом.
3.Вміти формулювати та пропонувати вирішення проблем пов’язаних із втручанням штучного інтелекту в життя людини, яке дозволяє контролювати людину.
4. Здатність ухвалювати рішення та діяти, дотримуючись принципу неприпустимості корупції та будь-яких інших проявів недоброчесності.
фахові компетентності:
1. Розуміти межі відтворення характеристик людського інтелекту в штучному інтелекті засобами машинного програмування та комп'ютерного обчислення.
2. Вміння передбачити можливі етично-моральні наслідки застосування штучного інтелекту, небезпечного для приватного життя людей.
3. Усвідомлювати, що філософія штучного інтелекту є міждисциплінарною наукою, бо включає знання зі сфер нейронауки, лінгвістики, когнітивістики, комп'ютерних наук.
Результати навчання: Знання
історію виникнення штучного інтелекту та підстав існування філософії штучного інтелекту й породжених ним морально-етичних проблем;
основні поняття і категорії філософії та етики штучного інтелекту;
основні ідей реалізації штучного інтелекту та наслідки такої реалізації в соціальній, політичний, військовій та інших сферах людського життя;
основ запобігання корупції, суспільної та академічної доброчесності на рівні, необхідному для формування нетерпимості до корупції та проявів недоброчесної поведінки серед здобувачів освіти та вміти застосовувати їх в професійній діяльності.
Вміння
співставляти та аналізувати переваги та недоліки певних філософських концепцій штучного інтелекту;
аналізувати можливі морально-етичні дилеми та проблеми застосування штучного інтелекту;
якісно опрацьовувати вибрані уривки філософських першоджерел про штучний інтелект та етично-моральну проблематику його застосування;
формувати власну світоглядну позиціювати набуте знання з філософії та етики штучного інтелекту для професійного зростання
Необхідні обов'язкові попередні та супутні навчальні дисципліни: Попередні дисципліни: історія української державності, фізика, математика
Супутні дисципліни: основи штучного інтелекту
Короткий зміст навчальної програми: Швидкий розвиток штучного інтелекту спричиняє посилену увагу до нього, а відтак і рефлексію над його метою існування, сутністю та наслідками його використання, впливу на людину та суспільство. Дана дисципліна пропонує осмислити й відрефлектувати феномен штучного інтелекту та навчитися розв'язувати морально-етичні проблеми, породжені його застосуванням.
Ця навчальна дисципліна складається з трьох частин: 1) Вступної, 2) Людина та штучний інтелект, 3) Етика штучного інтелекту. У вступній частині розглядатимуться основні поняття філософії штучного інтелекту, зокрема, інтелект, природний інтелект і штучний інтелект, а також підстави створення філософії штучного інтелекту, як дослідницької царини філософії. У другій частині розкриваються особливості ментальної сфери людини, які порівнюються з квазі-ментальними процесами в системах штучного інтелекту та способами їх представлення в машинному програмуванні та обчисленні; розглядається проблема свідомості й можливості створення “штучної свідомості”, свобода волі/вибору та детермінізм машинних програм. У третій частині детально розглядаються різноманітні морально-етичні дилеми та проблеми, які пов'язані зі взаємодією людини та штучного інтелекту, з його використанням у різних сферах людського життя.
Опис:
Тема 1. Штучний інтелект: поняття та історія виникнення.
1.Аналітично-історичний розгляд інтелекту: європейський контекст.
2. Природний інтелект: нелюдський і людський. Аспекти співвідношення природного і штучного інтелекту.
3. “Сильний” і “слабкий” штучний інтелект.
4. Перспективи розвитку штучного інтелекту.
Розділ 2: Людина та штучний інтелект
Тема 2. Ментальна сфера та штучний інтелект
1. Поняття мислення та його інтерпретація в комп'ютерних науках.
2. Психофізична проблема та штучний інтелект.
3. Свідоме мислення, свідома психіка та штучний інтелект.
4. “Важка” та “легка” проблема свідомості.
Тема 3. Символічно-формальне мислення та штучний інтелект.
1. Програмування як символічно-формальне вираження мислення.
2. Семантика та прагматика програмування.
3. Поняття “обчислення” та його семантичні проблеми реалізації.
4. Межі програмування та обчислення.
Тема 4. Феномен життя та штучний інтелект.
1. Біологічне життя та виникнення інтелекту.
2. Концепція “штучного життя”.
3. Людський організм та роботи: можлива інтеграція.
4. На шляху до трансгуманізму.
Тема 5. Особистість, свобода волі та штучний інтелект
1. Поняття “особистість” і проблема “внутрішнього свідомого досвіду”.
2. Проблема свободи волі та наукові екперименти, які її заперечують.
3. Ілюзія чи реальність свободи вибору: філософський аналіз.
Тема 6. Штучний інтелект як “моделювання свідомості”
1. Редукція «свідомість > нейрофізіологічні (нейробіологічні) процеси > біологічний комп’ютер».
2. Нейрофілософія як формування підстав для створення штучного інтелекту.
3. Інформація та її значення для розуміння інтелекту, свідомості, мозку.
4. Штучна свідомість: оцінка можливості реалізації.
Розділ 3. Етика штучного інтелекту
Тема 7. Що таке етика штучного інтелекту
1. Homo sapiens і штучний інтелект: девальвація розумності.
2. Автономна зброя: штучний інтелект на війні.
3. Кохання та штучний інтелект: соціально-етичні імплікації.
5. Автоматизація та цінність праці.
6. “Погані” та “добрі” роботи: людські моральні проєкції.
7. Права роботів та право в галузі штучного інтелекту: нова юридична реальність.
Методи та критерії оцінювання: Поточний контроль (40%) –усне та фронтальне опитування, написання індивідуальних робіт, тестування.
Поточний та екзаменаційний контроль. Методи оцінювання знань: вибіркове усне опитування; виступи на семінарах, тести. Екзамен (60%)– тестовий контроль та усне опитування
Критерії оцінювання результатів навчання: Критерії оцінювання студентів за усні відповіді на практичних заняттях
5 балів студенти отримують за повне розкриття змісту поставлених питань, проявляючи при тому розуміння навчального матеріалу, вміння критично та самостійно мислити та підкріплювати його знання прикладами;
4 бали студенти отримують за правильний виклад не всіх, але основних положень на певні питання та вміння логічно пов’язувати їх;
3 бали студенти отримують за неповну, але правильну відповідь на поставлені запитання, маючи певні проблеми в засвоєнні навчального матеріалу та проявляючи непевність у наведенні конкретних прикладів або пояснень;
2 бали студенти отримують за правильне доповнення виступів інших студентів на семінарі та за вдалі запитання і репліки, що дозволяють краще зрозуміти обговорювані питання;
1 бал студенти можуть отримати за пояснення змісту певних термінів чи понять, за знання етичних концепцій або напрямів, за правильне орієнтування в історичних змінах в історії етики;
0 балів студенти отримують, якщо немає жодної відповіді на поставлене питання.
Критерії оцінювання виконання студентами тестових завдань
Оскільки тестові завдання включають у свій зміст 5 питань, то кожна правильна відповідь на питання оцінюється в 1 бал, разом за правильні відповіді – 5 балів.
Протягом семестру виконується 2 тести, а підсумковий бал за їх виконання постає середньою арифметичною сумою балів окремих тестів.
Критерії оцінювання виконання студентами індивідуальних домашніх завдань для самостійної роботи
Письмові індивідуальні роботи виконуються студентами переважно на основі запропонованого вище переліку індивідуальних домашніх завдань які можуть виконуватися студентами як в усній, так і в письмовій формі.
При виконанні подібного виду робіт правильні відповіді оцінюються максимум у 5 балів (якщо виконується у формі реферату і захищаються в усній формі). За опрацювання індивідуального завдання в письмовій формі, воно оцінюється як контрольна робота (тобто, максимум 5 балів).
Критерії оцінювання виконання студентами письмової контрольної роботи
Для написання письмової контрольної роботи кожен студент отримує 2 питання (всі питання індивідуальні, тобто не повторюються). Далі відповіді на поставлені питання оцінюються так само, як і усні відповіді на семінарах.
Критерії оцінювання відповідей студентів за усну складову заліку
Усна складова заліку призначається студентам у таких випадках:
коли відповіді студентів не дають можливості оцінити їх задовільною оцінкою;
коли бали ПК та КЗ у сумі не дотягують 3 та менше балів до наступної оцінки;
коли екзаменаційна робота дає підстави вважати використання студентом різних способів списування відповідей;
коли фіксується різка відмінність між результатами роботи студента у семестрі та результатами написання екзаменаційної роботи.
Усна складова заліку може бути оцінена максимально у 10 балів, тому викладач може поставити студенту 2-3 питання. Критерії оцінювання відповідей на ці питання ті ж самі, що й критерії оцінювання усних відповідей на семінарських заняттях.
Порядок та критерії виставляння балів та оцінок: 100–88 балів – («відмінно») виставляється за високий рівень знань (допускаються деякі неточності) навчального матеріалу компонента, що міститься в основних і додаткових рекомендованих літературних джерелах, вміння аналізувати явища, які вивчаються, у їхньому взаємозв’язку і роз витку, чітко, лаконічно, логічно, послідовно відповідати на поставлені запитання, вміння застосовувати теоретичні положення під час розв’язання практичних задач; 87–71 бал – («добре») виставляється за загалом правильне розуміння навчального матеріалу компонента, включаючи розрахунки , аргументовані відповіді на поставлені запитання, які, однак, містять певні (неістотні) недоліки, за вміння застосовувати теоретичні положення під час розв’язання практичних задач; 70 – 50 балів – («задовільно») виставляється за слабкі знання навчального матеріалу компонента, неточні або мало аргументовані відповіді, з порушенням послідовності викладення, за слабке застосування теоретичних положень під час розв’язання практичних задач; 49–26 балів – («не атестований» з можливістю повторного складання семестрового контролю) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння застосувати теоретичні положення під час розв’язання практичних задач; 25–00 балів – («незадовільно» з обов’язковим повторним вивченням) виставляється за незнання значної частини навчального матеріалу компонента, істотні помилки у відповідях на запитання, невміння орієнтуватися під час розв’язання практичних задач, незнання основних фундаментальних положень.
Рекомендована література: 1. Азімов А. Зачароване коло. З циклу оповідань “Я, робот”. Авдіокнига. https://www.youtube.com/watch?v=Br05gKW5Ylg
2. Азімов А. Людина й комп'ютер. Всесвіт, 1983, №6. https://chtyvo.org.ua/authors/Azimov/Liudyna_i_kompiuter/
3. Антологія сучасної філософії науки, або усмішка ASIMO. – Львів: ЛНУ ім. І. Франка, 2017. – 568 с.
4. Декарт Р. Метафізичні розмисли. – К.: Юніверс, 2000. – 304 с.Деннет Д. Що знає РобоМері / Антологія сучасної філософії науки, або усмішка ASIMO / За науковою редакцією В. П. Мельника, А. С. Синиці. – Львів: ЛНУ ім. І. Франка, 2017. - С. 414-445.
5. Кайку М. Гіперпростір: наукова одіссея крізь паралельні світи, викревлений простір-час і десятий вимір. – Львів: Літопис, 2005. – 460 с.
6. Кайку М.Фізика майбутнього. – Львів: Літопис, 2017 – 432 с.
7. Кайку М. Майбутнє розуму. Наукові спроби осягнути, вдосконалити і підсилити інтелект. – Львів: Літопис, 2017 – 408 с.
8. Кант І. Критика чистого розуму. - Київ: Юніверс, 2000. (Особливо: Розділ перший “Трансцендентальної доктрини спроможності судження”: Про схематизм чистих розсудкових понять, 127-132.
9. Леонов А.Ю. Філософія свідомості Девіда Чалмерса. Актуальні проблеми духовності. Зб. Наук. Пр. Вип. 15. – Кривий Ріг: 2014. – С. 216-237.
10. Лук’янець В.С., Кравченко О.М., Озадовська Л.В. та ін. Науковий світогляд на зламі століть. – К.: ПАРАПАН, 2006. – 288 с.
11. Наґель Т. На що схоже бути кажаном? / Антологія сучасної аналітичної філософії, або жук залишає коробку / За науковою редакцією Синиці А. С. - Львів: Літопис, 2014. - С. 207-221.
12. Платон. Федон (будь-яке видання).
13. Сепетий Д.П. Філософія свідомості Вільяма Хаскера: аргументація за інтеракціоністський дуалізм. Зб. Наук. Пр. Вип. 17. – Кривий Ріг: 2016. – С. 133-147.
14. Серль Дж. Розуми, мозки і програми // Антологія сучасної аналітичної філософії, або жук залишає коробку / За науковою редакцією Синиці А. С. - Львів: Літопис, 2014. - С. 229-254.
15. Синиця А. Сучасна Аналітична філософія: від прагматики мови до концептуалізації свідомості. – Львів, 2017.
16. Тегмарк М. Життя 3.0. Доба штучного інтелекту. – Київ, 2019.
17. Хейлз Кетрін Н. Як ми стали постлюдством: Віртуальні тіла в кібернетиці, літературі та інформатиці. – Київ, 2013.
18. Філософські аспекти співвідношення людської свідомості та тілесності. Методичні вказівки…/ Укладач Андрій Кадикало. – Львів, 2009.
19. Філософія штучного інтелекту: історія, засади, перспективи. Методичні вказівки…/ Укладач Ігор Карівець. – Львів, 2005.
20. Філософський зміст постнекласичної наукової парадигми. Методичні вказівки…/ Укладач Андрій Кадикало. – Львів, 2011.
21. Фюрст М., Тринкс Ю. Філософія / Пер. з німец. В. Кебуладзе . – К.: ДУХ І ЛІТЕРА, Інститут релігійних наук св. Томи Аквінського, 2018. – 544 с.
22. Чалмерс Д. Лицем до лиця з проблемою свідомості. Актуальні проблеми духовності. Зб. Наук. Пр. Вип. 14. – Кривий Ріг: 2013. – С. 121-152.
23. Чалмерс Д. Обчислювальні засади науки про пізнання / Антологія сучасної філософії науки, або усмішка ASIMO / За науковою редакцією В. П. Мельника, А. С. Синиці. – Львів: ЛНУ ім. І. Франка, 2017. – С. 363-406.
24. Черчленд П. Яким чином нейрони знають? / Антологія сучасної філософії науки, або усмішка ASIMO / За науковою редакцією В. П. Мельника, А. С. Синиці. – Львів: ЛНУ ім. І. Франка, 2017. - С. 453-468.
25. Чи ж суперінтелект неможливий? Розмова про можливі розуми: філософія і штучний інтелект. Денієл Деннет і Девід Чалмерс, модератор Джон Брокман / пер. з англ. Є. Ланюка. Zbruc. 2019. Отримано з https://zbruc.eu/node/97713
26. Юнкер Р., Шерер З. Еволюція: критичний підручник. – Тернопіль: Мандрівець, 2013. – 322 с.
27. Allen C., Varner G., Wallach W. Prolegomena to any future artificial moral agent. Journal of Experimental & Theoretical Artifitial Intelligence, 12, 2000, 251-261.
28. Anderson M., Anderson S.L. Robot be good. Scientific American, 303, 2010, 72-77.
29. Binns R. Algorithmic Accountability and Public Reason. Philosophy & Technology, 2017.
30. Bostrom N. (2012). The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents. Minds & Machines, 22, 2012, 71-85.
31. Bostrom N., Yudkowsky E. “The Ethics of Artificial intelligence”. In W.M. Ramsey and K. Frankish (Eds.). The Cambrudge Handbook of Artificial Intelligence, pp. 316-334. Cambridge University Press, 2014.
32. Bryson J.J. Robots Should Be Slaves. In Close Engagements with Artificial Companions: Key Social, Psychological, Ethical and Design Issue. Yorick Wilks (ed.)., pp. 63-74.
33. Chalmers D. The Singularity: a Philosophical Analysis. Journal of Counsciousness Studies, 17(9-1), 2010, 7-65.
34. Churchland P. M., Churchland P. S. Could a Machine Think? Scientific American. 1990. Vol. 262, No. 1. P. 32-39.
35. Korsgaard, K.M. Fellow Creatures: Kantian Ethics and Our Duties to Animals. In The Tanner Lectures on Human Values, Grethe B. Peterson (ed.), Vol. 25/26, Salt Lake City: University of Utah Press.
36. Turing A. Computing Machinery and Intelligence. Mind, 49, 1950, 433-460.
37. Turkle S. Introduction: Alone Together & Chapter 3 (“True Companions”). In Turkle S. Alone Together: Why We Expect More from Technology and Less from Each Other. New York: Basic Books. pp. 1-20, pp.53-66.
38. Sparrow R. Killer robots. Journal of Applied Philosophy, 24, 2007, 62-77.
Уніфікований додаток: Національний університет «Львівська політехніка» забезпечує реалізацію права осіб з інвалідністю на здобуття вищої освіти. Інклюзивні освітні послуги надає Служба доступності до можливостей навчання «Без обмежень», метою діяльності якої є забезпечення постійного індивідуального супроводу навчального процесу студентів з інвалідністю та хронічними захворюваннями. Важливим інструментом імплементації інклюзивної освітньої політики в Університеті є Програма підвищення кваліфікації науково-педагогічних працівників та навчально-допоміжного персоналу у сфері соціальної інклюзії та інклюзивної освіти. Звертатися за адресою:
вул. Карпінського, 2/4, І-й н.к., кімн. 112
E-mail: nolimits@lpnu.ua
Websites: https://lpnu.ua/nolimits https://lpnu.ua/integration
Академічна доброчесність: Політика щодо академічної доброчесності учасників освітнього процесу формується на основі дотримання принципів академічної доброчесності з урахуванням норм «Положення про академічну доброчесність у Національному університеті «Львівська політехніка» (затверджене вченою радою університету від 20.06.2017 р., протокол № 35).