Этические принципы использования искусственного интеллекта в исследовательской практике (на примере биомедицинских исследований)

Рассматривается актуальная для современной науки тема – этическое сопровождение исследований, выполняемых с применением искусственного интеллекта (ИИ). Несмотря на значительное количество зарубежных и отечественных публикаций, посвященных теме ИИ, концептуальное обоснование этики применения ИИ в научных исследованиях остается неразработанным. Основываясь на международных рекомендациях и статьях, а также на собственном опыте исследовательской деятельности и работы в этических комитетах, авторы определяют и анализируют базовые этические принципы использования ИИ в научных исследованиях. Предложенные принципы рассматриваются в контексте их практического применения в сфере биомедицины для защиты интересов человека и природы, в том числе для сохранения конфиденциальности данных участников, препятствия дискриминации, защиты от ошибок ИИ, уважения информированного согласия, а также соблюдения норм «открытой науки», взаимного доверия разработчиков и пользователей и др. Применение предложенных принципов ориентирует ученых, разработчиков ИИ, этические комитеты, проводящие экспертизу исследований, общество в целом на приоритеты гуманизации науки, уважение человека и природы, а также на просвещение общества, создание нормативно-правовой базы, этических рекомендаций и кодексов этики применения ИИ в научной деятельности.

1. Предварительный проект Рекомендации ЮНЕСКО об открытой науке [Электронный ресурс] // UNESCO. - Режим доступа: https://unesdoc.unesco.org/ark:/48223/pf0000374837_rus. - Дата доступа: 01.02.2023.

2. Recommendation of the Council on Artificial Intelligence [Electronic resource] // Organisation for Economic Cooperation and Development. - Mode of access: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. - Date of access: 07.02.2023

3. Artificial Intelligence in medicine regulation [Electronic resource] // European Medicines Agency. - Mode of access: https://www.ema.europa.eu/en/news/artificial-intelligence-medicine-regulation. - Date of access: 01.02.2023.

4. Statement on artificial intelligence, robotics and ‹autonomous› systems: Brussels, 9 March 2018 / Europ. Group on Ethics in Science a. New Technologies. - Luxembourg: Publ. Office of the EU, 2018. - 20 p. https://doi.org/10.2777/531856

5. Recommendation on the Ethics of Artificial Intelligence [Electronic resource] // UNESCO. - Mode of access: https://unesdoc.unesco.org/ark:/48223/pf0000380455.locale=en. - Date of access: 01.02.2

6. Ethics and governance of artificial intelligence for health [Electronic resource]: WHO guidance / World Health Organization. - Geneva: World Health Organization, 2021. - Mode of access: https://www.who.int/publications/i/item/9789240029200. - Date of access: 07.02.2023.

7. Кодекс этики в сфере ИИ [Электронный ресурс] // Альянс в сфере искусственного интеллекта. - Режим доступа: https://ethics.a-ai.ru. - Дата доступа: 01.02.2023.

8. Looking before we leap: expanding ethical review processes for AI and data science research [Electronic resource]: Dec. 2022 // Ada Lovelace Institute. - Mode of access: https://www.adalovelaceinstitute.org/report/looking-before-we-leap. - Date of access: 07.02.2023.

9. Сокольчик, В. Н. Роль этических комитетов в обеспечении прав человека при проведении биомедицинских исследований и испытаний в Республике Беларусь / В. Н. Сокольчик // Тр. БГТУ. Сер. 6, История, философия. - 2021. - № 1 (245). - С. 146-150.

10. Асеева, И. А. Искусственный интеллект и большие данные: этические проблемы практического использования. (Аналитический обзор) / И. А. Асеева // Соц. и гуманитар. науки. Отечеств. и зарубеж. лит. Сер. 8, Науковедение. - 2022. - № 2. - С. 89-98. https://doi.org/10.31249/naukoved/2022.02.02

11. Hagendorff, T. The ethics of AI ethics: an evaluation of guidelines / T. Hagendorff // Minds Machin. - 2020. - Vol. 30, № 1. - P. 99-120. https://doi.org/10.48550/arXiv.1903.03425

12. Романова, И. Н. Применение искусственного интеллекта в сфере здравоохранения / И. Н. Романова, О. В. Наумов // Устойчивое развитие: исследования, инновации, трансформация: материалы XVIII Междунар. конгр. с элементами науч. шк. для молодых ученых: в 2 т. / отв. ред.: А. В. Семёнов, П. Н. Кравченко. - M., 2022. - Т. 1. - С. 460-468.

13. Vincent-Lancrin, S. Trustworthy artificial intelligence (AI) in education: promises and challenges / S. VincentLancrin, R. van der Vlies. - Paris: OECD Publ., 2020. - 17 p. - (OECD Education Working Paper; no. 218). https://doi.org/10.1787/a6c90fa9-en

14. Legal and ethical consideration in artificial intelligence in healthcare: who takes responsibility? / N. Naik [еt al.] // Front. Surg. - 2022. - Vol. 9. - Art. 862322. https://doi.org/10.3389/fsurg.2022.862322

15. Lynch, J. The worst computer bugs in history: race conditions in Therac-25 [Electronic resource] / J. Lynch // BugSnag: SmartBear. - Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25. - Date of access: 07.02.2023.

16. Lynch, J. Therac-25 causes radiation overdoses [Electronic resource] / J. Lynch // BugSnag : SmartBear. - Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25. - Date of access: 01.02.2023.

17. Reddy, S. Explainability and artificial intelligence in medicine / S. Reddy // Lancet Digit. Health. - 2022. - Vol. 4, № 4. - P. 214-215. https://doi.org/10.1016/S2589-7500(22)00029-2

18. The medical algorithmic audit / X. Liu [et al.] // Lancet Digit. Health. - 2022. - Vol. 4, № 5. - P. 384-397. https://doi.org/10.1016/S2589-7500(22)00003-6

19. Validation and algorithmic audit of a deep learning system for the detection of proximal femoral fractures in patients in the emergency department: a diagnostic accuracy study / L. Oakden-Rayner [et al.] // Lancet Digit. Health. - 2022. - Vol. 4, № 5. - P. 351-358. https://doi.org/s://doi:10.1016/S2589-7500(22)00004-8

20. Шнуренко, И. Искусственный интеллект на грани нервного срыва / И. Шнуренко // Эксперт. - 2019. - № 1-3 (1103). - C. 39-42.

21. Пицци, М. ИИ в гуманитарной деятельности: права человека и этика / М. Пицци, М. Романофф, Т. Энгельхардт // Междунар. журн. Крас. Креста. - 2021. - № 913. - С. 187-234.

22. Saracci, R. Epidemiology in wonderland: Big Data and precision medicine / R. Saracci // Eur. J. Epidemiol. - 2018. - Vol. 33, № 3. - Р. 245-257. https://doi.org/10.1007/s10654-018-0385-9

23. Blueprint for an AI Bill of Rights [Electronic resource] // The White House. - Mode of access: https://www.whitehouse.gov/ostp/ai-bill-of-rights. -Date of access: 01.02.2023.

24. Социогуманитарные контуры геномной медицины / отв. ред. Е. Г. Гребенщикова. - М.: ИНИОН РАН, 2021. - 232 с.

25. Голобородько, Н. В. Рекомендации по получению информированного согласия на участие в научном исследовании: учеб.-метод. пособие / Н. В. Голобородько, В. Н. Сокольчик, А. А. Александров. - Минск: БелМАПО, 2020. - 35 с.

26. Добровольное информированное согласие / науч. ред. А. Г. Чучалин, Е. Г. Гребенщикова. - М.: Вече, 2022. - 287 с.

27. Биобанкинг: социально-гуманитарные аспекты / Е. В. Брызгалина [и др.]. - М.: Изд-во МГУ, 2018. - 231 с.

28. Principled artificial intelligence: mapping consensus in ethical and rights-based approaches to principles for AI [Electronic resource]: research publ., 15 Jan. 2020, № 2020-1 / J. Fjeld [et al.] // SSRN. - Mode of access: https://doi.org/10.2139/ssrn.3518482. - Date of access: 05.03.2024.