vestihИзвестия Национальной академии наук Беларуси. Серия гуманитарных наукProceedings of the National Academy of Sciences of Belarus, Humanitarian Series2524-23692524-2377The Republican Unitary Enterprise Publishing House "Belaruskaya Navuka"10.29235/2524-2369-2024-69-2-95-107vestih-1012Research ArticleФИЛОСОФИЯ И СОЦИОЛОГИЯPHILOSOPHY AND SOCIOLOGYЭтические принципы использования искусственного интеллекта в исследовательской практике (на примере биомедицинских исследований)Ethical principles for using the artificial intelligence in research (based on biomedical research). Vestsi Natsyyanal’nai akademii navuk Belarusihttps://orcid.org/0000-0002-4975-4052СокольчикВ. Н.SokolchikV. N.

Сокольчик Валерия Николаевна – кандидат философских наук, доцент.

Ул. Сурганова, 1, корп. 2, 220072, Минск

Valeryа N. Sokolchik – Ph. D. (Philos.), Associate Professor.

1 Surganov Str., Bldg 2, Minsk 220072

vsokolchik@mail.ruhttps://orcid.org/0000-0001-5033-2933РазувановА. И.RazuvanauA. I.

Разуванов Алексей Иванович – кандидат медицинских наук, ученый секретарь.

Колодищанский с/с, 93, д. Юхновка, 223027, Минский р­н, Минская обл.

Aliaksei I. Razuvanau – Ph. D. (Medical Sciences), Scientific Adviser.

93 Kolodischansky s/s, district of the village of Yukhnovka, 223027 Minsk district, Minsk region

doc-rai@yandex.byИнститут философии Национальной академии наук БеларусиInstitute of Philosophy of the National Academy of Sciences of BelarusРеспубликанский научно-практический центр медицинской экспертизы и реабилитацииNational Science and Practice Centre of Medical Assessment and Rehabilitation20242804202469295107Copyright © Сокольчик В.Н., Разуванов А.И., 20242024Сокольчик В.Н., Разуванов А.И.Sokolchik V.N., Razuvanau A.I.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://vestihum.belnauka.by/jour/article/view/1012

Рассматривается актуальная для современной науки тема – этическое сопровождение исследований, выполняемых с применением искусственного интеллекта (ИИ). Несмотря на значительное количество зарубежных и отечественных публикаций, посвященных теме ИИ, концептуальное обоснование этики применения ИИ в научных исследованиях остается неразработанным. Основываясь на международных рекомендациях и статьях, а также на собственном опыте исследовательской деятельности и работы в этических комитетах, авторы определяют и анализируют базовые этические принципы использования ИИ в научных исследованиях. Предложенные принципы рассматриваются в контексте их практического применения в сфере биомедицины для защиты интересов человека и природы, в том числе для сохранения конфиденциальности данных участников, препятствия дискриминации, защиты от ошибок ИИ, уважения информированного согласия, а также соблюдения норм «открытой науки», взаимного доверия разработчиков и пользователей и др. Применение предложенных принципов ориентирует ученых, разработчиков ИИ, этические комитеты, проводящие экспертизу исследований, общество в целом на приоритеты гуманизации науки, уважение человека и природы, а также на просвещение общества, создание нормативно-правовой базы, этических рекомендаций и кодексов этики применения ИИ в научной деятельности.

The article is devoted to the relevant issue of modern science and ethical support for scientific research using Artificial Intelligence (AI). Despite a significant number of foreign and domestic publications about AI, the conceptual framework for the ethics of scientific research using AI remains undeveloped. Based on the international recommendations and articles, as well as own research experience and membership of research ethical committees, the authors define and analyze the basic ethical principles for the scientific research using AI. The proposed principles are considered in the context of their practical application in the field of biomedicine, which are connected with protection of the mankind and nature, maintaining the confidentiality of participants‘ data, preventing discrimination, protecting against errors of AI, respecting informed consent, as well as observing the norms of “open science”, mutual trust from developers and users, etc. The application of the proposed principles orients the scientists, the developers of artificial intelligence, ethical committees, realizing review process, all society, to the priority of the humanization of science, respect for man and nature, as well as education of society regarding to AI, the creation of a regulatory framework, ethical recommendations and codes of ethics for the using of AI in scientific research.

искусственный интеллект (ИИ)открытая науканаучное исследованиеэтикауправляемостьбезопасностьобъяснимостьэффективностьсправедливостьдовериеэтические комитетыArtificial Intelligence (AI)Open Sciencescientific researchethicsgovernabilitysafetyexplainabilityefficiencyjusticetrustethics committeesReferencesПредварительный проект Рекомендации ЮНЕСКО об открытой науке [Электронный ресурс] // UNESCO. – Режим доступа: https://unesdoc.unesco.org/ark:/48223/pf0000374837_rus. – Дата доступа: 01.02.2023.First draft of the UNESCO Recommendation on Open Science. UNESCO. Available at: https://unesdoc.unesco.org/ark:/48223/pf0000374837 (accessed 01.02.2023).Recommendation of the Council on Artificial Intelligence [Electronic resource] // Organisation for Economic Cooperation and Development. – Mode of access: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. – Date of access: 07.02.2023Recommendation of the Council on Artificial Intelligence. Organisation for Economic Co-operation and Development. Available at: https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449 (accessed 07.02.2023).Artificial Intelligence in medicine regulation [Electronic resource] // European Medicines Agency. – Mode of access: https://www.ema.europa.eu/en/news/artificial-intelligence-medicine-regulation. – Date of access: 01.02.2023.Artificial Intelligence in medicine regulation. European Medicines Agency. Available at: https://www.ema.europa.eu/en/news/artificial-intelligence-medicine-regulation (accessed 01.02.2023).Statement on artificial intelligence, robotics and ‹autonomous› systems: Brussels, 9 March 2018 / Europ. Group on Ethics in Science a. New Technologies. – Luxembourg: Publ. Office of the EU, 2018. – 20 p. https://doi.org/10.2777/531856European Group on Ethics in Science and New Technologies. Statement on artificial intelligence, robotics and ‹autonomous› systems: Brussels, 9 March 2018. Luxembourg, Publications Office of the European Union, 2018. 20 p. https://doi.org/10.2777/531856Recommendation on the Ethics of Artificial Intelligence [Electronic resource] // UNESCO. – Mode of access: https://unesdoc.unesco.org/ark:/48223/pf0000380455.locale=en. – Date of access: 01.02.2Recommendation on the Ethics of Artificial Intelligence. UNESCO. Available at: https://unesdoc.unesco.org/ark:/48223/pf0000380455.locale=en (accessed 01.02.2023).Ethics and governance of artificial intelligence for health [Electronic resource]: WHO guidance / World Health Organization. – Geneva: World Health Organization, 2021. – Mode of access: https://www.who.int/publications/i/item/9789240029200. – Date of access: 07.02.2023.Ethics and governance of artificial intelligence for health: WHO guidance. Geneva, World Health Organization, 2021. Available at: https://www.who.int/publications/i/item/9789240029200 (accessed 07.02.2023).Кодекс этики в сфере ИИ [Электронный ресурс] // Альянс в сфере искусственного интеллекта. – Режим доступа: https://ethics.a-ai.ru. – Дата доступа: 01.02.2023.AI Ethics Code. AI Alliance Russia. Available at: https://ethics.a-ai.ru/ (accessed 01.02.2023).Looking before we leap: expanding ethical review processes for AI and data science research [Electronic resource]: Dec. 2022 // Ada Lovelace Institute. – Mode of access: https://www.adalovelaceinstitute.org/report/looking-before-we-leap/. – Date of access: 07.02.2023.Expanding ethical review processes for AI and data science research: December 2022. Ada Lovelace Institute. Available at: https://www.adalovelaceinstitute.org/report/looking-before-we-leap/ (accessed 07.02.2023).Сокольчик, В. Н. Роль этических комитетов в обеспечении прав человека при проведении биомедицинских исследований и испытаний в Республике Беларусь / В. Н. Сокольчик // Тр. БГТУ. Сер. 6, История, философия. – 2021. – № 1 (245). – С. 146–150.Sokolchik V. N. The role of Ethical Committees in securing human rights regarding to biomedical research and tests in the Republic of Belarus. Trudy BGTU. Seriya 6, Istoriya, filosofiya = Proceedings of BSTU. Issue 6, History, Philosophy, 2021, no. 1 (245), pp. 146–150 (in Russian).Асеева, И. А. Искусственный интеллект и большие данные: этические проблемы практического использования. (Аналитический обзор) / И. А. Асеева // Соц. и гуманитар. науки. Отечеств. и зарубеж. лит. Сер. 8, Науковедение. – 2022. – № 2. – С. 89–98. https://doi.org/10.31249/naukoved/2022.02.02Aseeva I. A. Аrtificial intelligence and big data: ethical problems of practical use. (Analytical review). Sotsial’nye i gumanitarnye nauki. Otechestvennaya i zarubezhnaya literatura. Seriya 8, Naukovedenie [Social and Human Sciences. Domestic and Foreign Literature. Series 8. Science], 2022, no. 2, pp. 89–98 (in Russian). https://doi.org/10.31249/naukoved/2022.02.02Hagendorff, T. The ethics of AI ethics: an evaluation of guidelines / T. Hagendorff // Minds Machin. – 2020. – Vol. 30, № 1. – P. 99–120. https://doi.org/10.48550/arXiv.1903.03425Hagendorff T. The ethics of AI ethics: an evaluation of guidelines. Minds and Machines, 2020, vol. 30, no. 1, pp. 99– 120. https://doi.org/10.48550/arXiv.1903.03425Романова, И. Н. Применение искусственного интеллекта в сфере здравоохранения / И. Н. Романова, О. В. Наумов // Устойчивое развитие: исследования, инновации, трансформация: материалы XVIII Междунар. конгр. с элементами науч. шк. для молодых ученых: в 2 т. / отв. ред.: А. В. Семёнов, П. Н. Кравченко. – M., 2022. – Т. 1. – С. 460–468.Romanova I. N., Naumov O. V. Application of artificial intelligence in health. Ustoichivoe razvitie: issledovaniya, innovatsii, transformatsiya: materialy XVIII Mezhdunarodnogo kongressa s elementami nauchnoi shkoly dlya molodykh uchenykh [Sustainable development: research, innovation, transformation: materials of the XVIII International Congress with elements of a scientific school for young scientists]. Moscow, 2022, vol. 1, pp. 460–468 (in Russian).Vincent-Lancrin, S. Trustworthy artificial intelligence (AI) in education: promises and challenges / S. VincentLancrin, R. van der Vlies. – Paris: OECD Publ., 2020. – 17 p. – (OECD Education Working Paper; no. 218). https://doi.org/10.1787/a6c90fa9-enVincent-Lancrin S., Van der Vlies R. Trustworthy artificial intelligence (AI) in education: promises and challenges. OECD Education Working Paper, no. 218. Paris, OECD Publishing, 2020. 17 p. https://doi.org/10.1787/a6c90fa9-enLegal and ethical consideration in artificial intelligence in healthcare: who takes responsibility? / N. Naik [еt al.] // Front. Surg. – 2022. – Vol. 9. – Art. 862322. https://doi.org/10.3389/fsurg.2022.862322Naik N., Hameed B. M. Z., Shetty D. K., Swain D., Shah M., Paul R., Aggarwal K. [et al.]. Legal and ethical consideration in artificial intelligence in healthcare: who takes responsibility? Frontiers in Surgery, 2022, vol. 9, art. 862322. https://doi.org/10.3389/fsurg.2022.862322.Lynch, J. The worst computer bugs in history: race conditions in Therac-25 [Electronic resource] / J. Lynch // BugSnag: SmartBear. – Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25/. – Date of access: 07.02.2023.Lynch J. The worst computer bugs in history: race conditions in Therac-25. BugSnag: SmartBear. Available at: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25 (accessed 07.02.2023).Lynch, J. Therac-25 causes radiation overdoses [Electronic resource] / J. Lynch // BugSnag : SmartBear. – Mode of access: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25. – Date of access: 01.02.2023.Lynch J. Therac-25 causes radiation overdose. BugSnag: SmartBear. Available at: https://www.bugsnag.com/blog/bug-day-race-condition-therac-25 (accessed 01.02.2023).Reddy, S. Explainability and artificial intelligence in medicine / S. Reddy // Lancet Digit. Health. – 2022. – Vol. 4, № 4. – P. 214–215. https://doi.org/10.1016/S2589-7500(22)00029-2Reddy S. Explainability and artificial intelligence in medicine. The Lancet Digital Health, 2022, vol. 4, no. 4, pp. 214–215. https://doi.org/10.1016/S2589-7500(22)00029-2The medical algorithmic audit / X. Liu [et al.] // Lancet Digit. Health. – 2022. – Vol. 4, № 5. – P. 384–397. https://doi.org/10.1016/S2589-7500(22)00003-6Liu X., Glocker B., McCradden M. M., Ghassemi M., Denniston A. K., Oakden-Rayner L. The medical algorithmic audit. The Lancet Digital Health, 2022, vol. 4, no. 5, pp. 384–397. https://doi.org/10.1016/S2589-7500(22)00029-2Validation and algorithmic audit of a deep learning system for the detection of proximal femoral fractures in patients in the emergency department: a diagnostic accuracy study / L. Oakden-Rayner [et al.] // Lancet Digit. Health. – 2022. – Vol. 4, № 5. – P. 351–358. https://doi:10.1016/S2589-7500(22)00004-8Oakden-Rayner L., Gale W., Bonham T. A., Lungren M. P., Carneiro G., Bradley A. P., Palmer L. J. Validation and algorithmic audit of a deep learning system for the detection of proximal femoral fractures in patients in the emergency department: a diagnostic accuracy study. The Lancet Digital Health, 2022, vol. 4, no. 5, pp. 351–358. https://doi.org/10.1016/S2589-7500(22)00004-8Шнуренко, И. Искусственный интеллект на грани нервного срыва / И. Шнуренко // Эксперт. – 2019. – № 1–3 (1103). – C. 39–42.Shnurenko I. Artificial Intelligence on the Verge of a Nervous Breakdown. Ekspert [Expert], 2019, no. 1–3 (1103), pp. 39–42 (in Russian).Пицци, М. ИИ в гуманитарной деятельности: права человека и этика / М. Пицци, М. Романофф, Т. Энгельхардт // Междунар. журн. Крас. Креста. – 2021. – № 913. – С. 187–234.Pizzi M., Romanoff M., Engelhardt T. AI in humanitarian action: human rights and ethics. International Review of the Red Cross, 2020, vol. 102, no. 913, pp. 145–180. https://doi.org/10.1017/S1816383121000011Saracci, R. Epidemiology in wonderland: Big Data and precision medicine / R. Saracci // Eur. J. Epidemiol. – 2018. – Vol. 33, № 3. – Р. 245–257. https://doi.org/10.1007/s10654-018-0385-9Saracci R. Epidemiology in wonderland: Big Data and precision medicine. European Journal Epidemiology, 2018, vol. 33, no. 3, pp. 245–257. https://doi.org/10.1007/s10654-018-0385-9Blueprint for an AI Bill of Rights [Electronic resource] // The White House. – Mode of access: https://www.whitehouse.gov/ostp/ai-bill-of-rights/. –Date of access: 01.02.2023.Blueprint for an AI Bill of Rights. The White House. Available at: https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (accessed 01.02.2023).Социогуманитарные контуры геномной медицины / отв. ред. Е. Г. Гребенщикова. – М.: ИНИОН РАН, 2021. – 232 с.Grebenshchikova E. G. (ed.). The sociohumanitarian contours of genomic medicine. Moscow, Institute of Scientific Information in Social Sciences RAS, 2021. 232 p. (in Russian).Голобородько, Н. В. Рекомендации по получению информированного согласия на участие в научном исследовании: учеб.-метод. пособие / Н. В. Голобородько, В. Н. Сокольчик, А. А. Александров. – Минск: БелМАПО, 2020. – 35 с.Goloborod’ko N. V., Sokol’chik V. N., Aleksandrov A. A. (eds.). Guidelines for obtaining informed consent for scientific research. Minsk, Belarusian Medical Academy of Postgraduate Education, 2020. 35 p. (in Russian).Добровольное информированное согласие / науч. ред. А. Г. Чучалин, Е. Г. Гребенщикова. – М.: Вече, 2022. – 287 с.Chuchalin A. G., Grebenshchikova E. G. Voluntary informed consent. Moscow, Veche Publ., 2022. 287 p. (in Russian).Биобанкинг: социально-гуманитарные аспекты / Е. В. Брызгалина [и др.]. – М.: Изд-во МГУ, 2018. – 231 с.Bryzgalina E. V., Alasaniya K. Yu., Varkhotov T. A., Gavrilenko S. M., Ryzhov A. L., Shkomova E. M.. Biobanking: socio-humanitarian aspects. Moscow, Publishing house Moscow State University, 2018. 231 p. (in Russian).Principled artificial intelligence: mapping consensus in ethical and rights-based approaches to principles for AI [Electronic resource]: research publ., 15 Jan. 2020, № 2020-1 / J. Fjeld [et al.] // SSRN. – Mode of access: http://dx.doi.org/10.2139/ssrn.3518482. – Date of access: 05.03.2024.Fjeld J., Achten N., Hannah H., Nagy A., Srikumar M. Principled artificial intelligence: mapping consensus in ethical and rights-based approaches to principles for AI: research publication, 15 January 2020, no. 2020-1. SSRN. Available at: http://dx.doi.org/10.2139/ssrn.3518482 (accessed 05.03.2023).

The authors declare that there are no conflicts of interest present.