«`html

Медицинские ошибки, связанные с искусственным интеллектом, увеличивают ответственность больниц

Искусственный интеллект постепенно внедряется в сферу здравоохранения для поддержки диагностики, планирования лечения и общения с пациентами. Больницы уже используют системы на основе этой технологии для улучшения раннего обнаружения некоторых видов рака, оптимизации управления койками или упрощения административных задач. Однако его внедрение вносит новый тип риска: медицинские ошибки, связанные с его использованием.

Медицинская ошибка происходит, когда пациент получает непреднамеренный вред из-за оказания медицинской помощи, а не из-за его заболевания. Традиционно эти ошибки в основном связывали с человеческим фактором, таким как пробелы в знаниях или несоответствия в координации. С внедрением искусственного интеллекта ошибки также могут возникать, когда неверные или неполные результаты, сгенерированные этими системами, применяются в медицинской практике. Например, модель анализа изображений может неправильно интерпретировать медицинские снимки, задерживая важный диагноз. Аналогично, некоторые инструменты могут недооценивать симптомы для определенных демографических групп, отрицательно влияя на решения по уходу.

Эти ошибки могут иметь серьезные последствия для больниц. Они часто приводят к потере доверия пациентов, а после огласки — к ущербу для репутации учреждения. В США ежегодно подается почти 17 000 исков о врачебных ошибках, с выплатами компенсаций на сумму в несколько миллиардов долларов. Хотя существующие исследования о реакции общественности на искусственный интеллект еще не изучали напрямую ответы на ошибки, связанные с этой технологией, некоторые исследования предполагают, что люди часто негативно реагируют на его использование в медицинской практике.

Недавнее исследование изучило эти реакции в двух экспериментах. В первом рассматривалось, как общественность воспринимает ответственность больниц, когда ошибки исходят либо от врача, либо от искусственного интеллекта, либо от обоих. Участники прочитали вымышленную ситуацию, в которой изначально считавшееся нормальным диагностическое заключение оказалось ошибочным, что привело к задержке лечения и осложнениям для пациента. Результаты показывают, что участники возлагают большую ответственность на больницу и чаще рассматривают возможность подачи жалобы или судебного преследования, когда ошибка связана с искусственным интеллектом, особенно если он действовал в одиночку. В то же время, когда врач активно сотрудничает с инструментом, негативные реакции в адрес больницы снижаются.

Второе исследование углубилось в этот вопрос, варьируя типы взаимодействия между врачами и искусственным интеллектом. Участникам предложили пять сценариев: решение, принятое только искусственным интеллектом, только врачом или при их совместной работе с разным уровнем участия человека. Результаты подтверждают, что наиболее негативные реакции возникают, когда первоначальное решение основывается исключительно на искусственном интеллекте. Однако, когда врач изучает как области, указанные инструментом, так и все изображения в целом, интегрируя информацию в свое собственное суждение, реакции общественности становятся сопоставимыми с теми, которые наблюдаются при чисто человеческом решении.

Эти результаты показывают, что восприятие общественности зависит не столько от самой технологии, сколько от того, как она интегрирована в медицинский уход. Больницы могли бы использовать это открытие, подчеркивая тесное сотрудничество между врачами и технологическими инструментами. Пациенты, похоже, больше доверяют решениям, когда участие медицинских специалистов видно и углублено, как в случае, когда врач изучает все данные, а не полагается только на результаты, сгенерированные инструментом.

Такой подход мог бы помочь учреждениям извлекать выгоду из преимуществ искусственного интеллекта, сохраняя при этом доверие пациентов к медицинской экспертизе.

«`

Références et sources

À propos de cette étude

DOI : https://doi.org/10.1038/s44482-026-00021-x

Titre : Public reactions to hospitals after adverse events involving AI

Revue : npj Digital Public Health

Éditeur : Springer Science and Business Media LLC

Auteurs : Jungmin Choi; Yeun Joon Kim; Pengzhao Lyu; Yingyue Luna Luan; Soo Min Toh