Выявление рисков и угроз, возникающих вследствие ошибок искусственного интеллекта при диагностике и лечении пациентов

Abstract

Искусственный интеллект стал частью нашей жизни и уже активно используется в медицинской сфере для улучшения качества, оказываемой медицинской помощи. Однако его использование создает определенные риски и угрозы, которые будут рассмотрены в работе. Они могут являться следствием ошибок, совершаемых искусственным интеллектом в процессе диагностики и лечения пациентов. К ним могут быть отнесены: ошибки в диагностике и в лечении; неправильный мониторинг состояния пациента; правовые риски при привлечении к ответственности. Их причинами могут быть: недостаток обучающих выборок; неправильная настройка используемой модели; отсутствие обратной связи. Для устранения рисков и угроз необходимо совершенствовать правовое регулирование, регулярно обучать сотрудников, создавать механизмы для контроля и проверки результатов, полученных от деятельности искусственного интеллекта.

Artificial intelligence has become a part of our lives and is already actively used in the medical field to improve the quality of medical care. However, its use creates certain risks and threats that will be considered in the work. They may be the result of errors made by artificial intelligence in the process of diagnosing and treating patients. These may include: errors in diagnosis and treatment; improper monitoring of the patient's condition; legal risks in bringing to justice. Their reasons may be: lack of training samples; incorrect configuration of the model used; lack of feedback. To eliminate risks and threats, it is necessary to improve legal regulation, regularly train employees, and create mechanisms for monitoring and verifying the results obtained from artificial intelligence activities.