Этические принципы использования искусственного интеллекта в исследовательской практике (на примере биомедицинских исследований)

Рассматривается актуальная для современной науки тема – этическое сопровождение исследований, выполняемых с применением искусственного интеллекта (ИИ). Несмотря на значительное количество зарубежных и отечественных публикаций, посвященных теме ИИ, концептуальное обоснование этики применения ИИ в научных исследованиях остается неразработанным. Основываясь на международных рекомендациях и статьях, а также на собственном опыте исследовательской деятельности и работы в этических комитетах, авторы определяют и анализируют базовые этические принципы использования ИИ в научных исследованиях. Предложенные принципы рассматриваются в контексте их практического применения в сфере биомедицины для защиты интересов человека и природы, в том числе для сохранения конфиденциальности данных участников, препятствия дискриминации, защиты от ошибок ИИ, уважения информированного согласия, а также соблюдения норм «открытой науки», взаимного доверия разработчиков и пользователей и др. Применение предложенных принципов ориентирует ученых, разработчиков ИИ, этические комитеты, проводящие экспертизу исследований, общество в целом на приоритеты гуманизации науки, уважение человека и природы, а также на просвещение общества, создание нормативно-правовой базы, этических рекомендаций и кодексов этики применения ИИ в научной деятельности.

1. Предварительный проект Рекомендации ЮНЕСКО об открытой науке [Электронный ресурс] // UNESCO. – Режим доступа: https://unesdoc.unesco.org/ark:/48223/pf0000374837_rus. – Дата доступа: 01.02.2023.

2. Recommendation of the Council on Artificial Intelligence [Electronic resource] // Organisation for Economic Cooperation and Development. – Mode of access: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. – Date of access: 07.02.2023

3. Artificial Intelligence in medicine regulation [Electronic resource] // European Medicines Agency. – Mode of access: https://www.ema.europa.eu/en/news/artificial-intelligence-medicine-regulation. – Date of access: 01.02.2023.

4. Statement on artificial intelligence, robotics and ‹autonomous› systems: Brussels, 9 March 2018 / Europ. Group on Ethics in Science a. New Technologies. – Luxembourg: Publ. Office of the EU, 2018. – 20 p. https://doi.org/10.2777/531856

5. Recommendation on the Ethics of Artificial Intelligence [Electronic resource] // UNESCO. – Mode of access: https://unesdoc.unesco.org/ark:/48223/pf0000380455.locale=en. – Date of access: 01.02.2

6. Ethics and governance of artificial intelligence for health [Electronic resource]: WHO guidance / World Health Organization. – Geneva: World Health Organization, 2021. – Mode of access: https://www.who.int/publications/i/item/9789240029200. – Date of access: 07.02.2023.

7. Кодекс этики в сфере ИИ [Электронный ресурс] // Альянс в сфере искусственного интеллекта. – Режим доступа: https://ethics.a-ai.ru. – Дата доступа: 01.02.2023.

8. Looking before we leap: expanding ethical review processes for AI and data science research [Electronic resource]: Dec. 2022 // Ada Lovelace Institute. – Mode of access: https://www.adalovelaceinstitute.org/report/looking-before-we-leap/. – Date of access: 07.02.2023.

9. Сокольчик, В. Н. Роль этических комитетов в обеспечении прав человека при проведении биомедицинских исследований и испытаний в Республике Беларусь / В. Н. Сокольчик // Тр. БГТУ. Сер. 6, История, философия. – 2021. – № 1 (245). – С. 146–150.

10. Асеева, И. А. Искусственный интеллект и большие данные: этические проблемы практического использования. (Аналитический обзор) / И. А. Асеева // Соц. и гуманитар. науки. Отечеств. и зарубеж. лит. Сер. 8, Науковедение. – 2022. – № 2. – С. 89–98. https://doi.org/10.31249/naukoved/2022.02.02

11. Hagendorff, T. The ethics of AI ethics: an evaluation of guidelines / T. Hagendorff // Minds Machin. – 2020. – Vol. 30, № 1. – P. 99–120. https://doi.org/10.48550/arXiv.1903.03425

12. Романова, И. Н. Применение искусственного интеллекта в сфере здравоохранения / И. Н. Романова, О. В. Наумов // Устойчивое развитие: исследования, инновации, трансформация: материалы XVIII Междунар. конгр. с элементами науч. шк. для молодых ученых: в 2 т. / отв. ред.: А. В. Семёнов, П. Н. Кравченко. – M., 2022. – Т. 1. – С. 460–468.

13. Vincent-Lancrin, S. Trustworthy artificial intelligence (AI) in education: promises and challenges / S. VincentLancrin, R. van der Vlies. – Paris: OECD Publ., 2020. – 17 p. – (OECD Education Working Paper; no. 218). https://doi.org/10.1787/a6c90fa9-en

14. Legal and ethical consideration in artificial intelligence in healthcare: who takes responsibility? / N. Naik [еt al.] // Front. Surg. – 2022. – Vol. 9. – Art. 862322. https://doi.org/10.3389/fsurg.2022.862322

15. Lynch, J. The worst computer bugs in history: race conditions in Therac-25 [Electronic resource] / J. Lynch // BugSnag: SmartBear. – Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25/. – Date of access: 07.02.2023.

16. Lynch, J. Therac-25 causes radiation overdoses [Electronic resource] / J. Lynch // BugSnag : SmartBear. – Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25. – Date of access: 01.02.2023.

17. Reddy, S. Explainability and artificial intelligence in medicine / S. Reddy // Lancet Digit. Health. – 2022. – Vol. 4, № 4. – P. 214–215. https://doi.org/10.1016/S2589-7500(22)00029-2

18. The medical algorithmic audit / X. Liu [et al.] // Lancet Digit. Health. – 2022. – Vol. 4, № 5. – P. 384–397. https://doi.org/10.1016/S2589-7500(22)00003-6

19. Validation and algorithmic audit of a deep learning system for the detection of proximal femoral fractures in patients in the emergency department: a diagnostic accuracy study / L. Oakden-Rayner [et al.] // Lancet Digit. Health. – 2022. – Vol. 4, № 5. – P. 351–358. https://doi:10.1016/S2589-7500(22)00004-8

20. Шнуренко, И. Искусственный интеллект на грани нервного срыва / И. Шнуренко // Эксперт. – 2019. – № 1–3 (1103). – C. 39–42.

21. Пицци, М. ИИ в гуманитарной деятельности: права человека и этика / М. Пицци, М. Романофф, Т. Энгельхардт // Междунар. журн. Крас. Креста. – 2021. – № 913. – С. 187–234.

22. Saracci, R. Epidemiology in wonderland: Big Data and precision medicine / R. Saracci // Eur. J. Epidemiol. – 2018. – Vol. 33, № 3. – Р. 245–257. https://doi.org/10.1007/s10654-018-0385-9

23. Blueprint for an AI Bill of Rights [Electronic resource] // The White House. – Mode of access: https://www.whitehouse.gov/ostp/ai-bill-of-rights/. –Date of access: 01.02.2023.

24. Социогуманитарные контуры геномной медицины / отв. ред. Е. Г. Гребенщикова. – М.: ИНИОН РАН, 2021. – 232 с.

25. Голобородько, Н. В. Рекомендации по получению информированного согласия на участие в научном исследовании: учеб.-метод. пособие / Н. В. Голобородько, В. Н. Сокольчик, А. А. Александров. – Минск: БелМАПО, 2020. – 35 с.

26. Добровольное информированное согласие / науч. ред. А. Г. Чучалин, Е. Г. Гребенщикова. – М.: Вече, 2022. – 287 с.

27. Биобанкинг: социально-гуманитарные аспекты / Е. В. Брызгалина [и др.]. – М.: Изд-во МГУ, 2018. – 231 с.

28. Principled artificial intelligence: mapping consensus in ethical and rights-based approaches to principles for AI [Electronic resource]: research publ., 15 Jan. 2020, № 2020-1 / J. Fjeld [et al.] // SSRN. – Mode of access: http://dx.doi.org/10.2139/ssrn.3518482. – Date of access: 05.03.2024.