Erros médicos envolvendo inteligência artificial aumentam a responsabilidade dos hospitais
A inteligência artificial está se consolidando progressivamente no setor da saúde para apoiar diagnósticos, o planejamento de tratamentos e a comunicação com os pacientes. Os hospitais já utilizam sistemas baseados nessa tecnologia para melhorar a detecção precoce de certos tipos de câncer, otimizar a gestão de leitos ou até mesmo simplificar tarefas administrativas. No entanto, sua adoção introduz um novo tipo de risco: os erros médicos relacionados ao seu uso.
Um erro médico ocorre quando um paciente sofre um dano não intencional causado pelo atendimento, em vez de pela própria doença. Tradicionalmente, esses erros eram atribuídos principalmente a fatores humanos, como lacunas no conhecimento ou falhas de coordenação. Com a integração da inteligência artificial, erros também podem ocorrer quando resultados gerados por esses sistemas, incorretos ou incompletos, são aplicados nos cuidados. Por exemplo, um modelo de análise de imagens poderia interpretar mal exames médicos, atrasando um diagnóstico essencial. Da mesma forma, algumas ferramentas poderiam subestimar sintomas para grupos demográficos específicos, influenciando negativamente as decisões de cuidado.
Esses erros podem ter consequências graves para os hospitais. Eles geralmente levam à perda de confiança dos pacientes e, uma vez tornados públicos, causam danos à reputação da instituição. Nos Estados Unidos, quase 17.000 queixas por erro médico são registradas todos os anos, com indenizações que somam vários bilhões de dólares. Embora as pesquisas existentes sobre as reações do público à inteligência artificial ainda não tenham estudado diretamente as respostas a erros envolvendo essa tecnologia, alguns estudos sugerem que as pessoas geralmente reagem de forma negativa ao seu uso na prática médica.
Um estudo recente explorou essas reações por meio de duas experiências. A primeira examinou como o público percebe a responsabilidade dos hospitais quando os erros são causados por um médico, por uma inteligência artificial ou por ambos. Os participantes leram uma situação fictícia em que uma interpretação diagnóstica inicialmente considerada normal revelou-se errada, resultando em um atraso no tratamento e complicações para o paciente. Os resultados mostram que os participantes atribuem mais responsabilidade ao hospital e consideram com mais frequência a possibilidade de registrar uma queixa ou ingressar com uma ação judicial quando o erro envolve inteligência artificial, especialmente se ela agiu sozinha. Por outro lado, quando o médico colabora ativamente com a ferramenta, as reações negativas em relação ao hospital diminuem.
A segunda experiência aprofundou essa questão, variando os tipos de colaboração entre médicos e inteligência artificial. Os participantes foram apresentados a cinco cenários: uma decisão tomada apenas por uma inteligência artificial, apenas por um médico ou por uma colaboração entre ambos, com diferentes níveis de envolvimento humano. Os resultados confirmam que as reações mais negativas ocorrem quando a decisão inicial é baseada apenas na inteligência artificial. No entanto, quando o médico examina tanto as áreas sinalizadas pela ferramenta quanto a totalidade das imagens, integrando as informações em seu próprio julgamento, as reações do público tornam-se comparáveis às observadas em uma decisão puramente humana.
Esses resultados revelam que a percepção do público depende menos da tecnologia em si do que da forma como ela é integrada aos cuidados. Os hospitais poderiam, portanto, aproveitar essa descoberta, destacando a colaboração estreita entre médicos e ferramentas tecnológicas. Os pacientes parecem confiar mais nas decisões quando o envolvimento dos profissionais de saúde é visível e aprofundado, como no caso em que o médico examina a totalidade dos dados em vez de confiar apenas nos resultados gerados pela ferramenta.
Essa abordagem poderia ajudar as instituições a usufruir dos benefícios da inteligência artificial, ao mesmo tempo em que preservam a confiança dos pacientes na expertise médica.
Erros médicos envolvendo inteligência artificial aumentam a responsabilidade dos hospitais
A inteligência artificial está se consolidando progressivamente no setor da saúde para apoiar diagnósticos, o planejamento de tratamentos e a comunicação com os pacientes. Os hospitais já utilizam sistemas baseados nessa tecnologia para melhorar a detecção precoce de certos tipos de câncer, otimizar a gestão de leitos ou até mesmo simplificar tarefas administrativas. No entanto, sua adoção introduz um novo tipo de risco: os erros médicos relacionados ao seu uso.
Um erro médico ocorre quando um paciente sofre um dano não intencional causado pelo atendimento, em vez de pela própria doença. Tradicionalmente, esses erros eram atribuídos principalmente a fatores humanos, como lacunas no conhecimento ou falhas de coordenação. Com a integração da inteligência artificial, erros também podem ocorrer quando resultados gerados por esses sistemas, incorretos ou incompletos, são aplicados nos cuidados. Por exemplo, um modelo de análise de imagens poderia interpretar mal exames médicos, atrasando um diagnóstico essencial. Da mesma forma, algumas ferramentas poderiam subestimar sintomas para grupos demográficos específicos, influenciando negativamente as decisões de cuidado.
Esses erros podem ter consequências graves para os hospitais. Eles geralmente levam à perda de confiança dos pacientes e, uma vez tornados públicos, causam danos à reputação da instituição. Nos Estados Unidos, quase 17.000 queixas por erro médico são registradas todos os anos, com indenizações que somam vários bilhões de dólares. Embora as pesquisas existentes sobre as reações do público à inteligência artificial ainda não tenham estudado diretamente as respostas a erros envolvendo essa tecnologia, alguns estudos sugerem que as pessoas geralmente reagem de forma negativa ao seu uso na prática médica.
Um estudo recente explorou essas reações por meio de duas experiências. A primeira examinou como o público percebe a responsabilidade dos hospitais quando os erros são causados por um médico, por uma inteligência artificial ou por ambos. Os participantes leram uma situação fictícia em que uma interpretação diagnóstica inicialmente considerada normal revelou-se errada, resultando em um atraso no tratamento e complicações para o paciente. Os resultados mostram que os participantes atribuem mais responsabilidade ao hospital e consideram com mais frequência a possibilidade de registrar uma queixa ou ingressar com uma ação judicial quando o erro envolve inteligência artificial, especialmente se ela agiu sozinha. Por outro lado, quando o médico colabora ativamente com a ferramenta, as reações negativas em relação ao hospital diminuem.
A segunda experiência aprofundou essa questão, variando os tipos de colaboração entre médicos e inteligência artificial. Os participantes foram apresentados a cinco cenários: uma decisão tomada apenas por uma inteligência artificial, apenas por um médico ou por uma colaboração entre ambos, com diferentes níveis de envolvimento humano. Os resultados confirmam que as reações mais negativas ocorrem quando a decisão inicial é baseada apenas na inteligência artificial. No entanto, quando o médico examina tanto as áreas sinalizadas pela ferramenta quanto a totalidade das imagens, integrando as informações em seu próprio julgamento, as reações do público tornam-se comparáveis às observadas em uma decisão puramente humana.
Esses resultados revelam que a percepção do público depende menos da tecnologia em si do que da forma como ela é integrada aos cuidados. Os hospitais poderiam, portanto, aproveitar essa descoberta, destacando a colaboração estreita entre médicos e ferramentas tecnológicas. Os pacientes parecem confiar mais nas decisões quando o envolvimento dos profissionais de saúde é visível e aprofundado, como no caso em que o médico examina a totalidade dos dados em vez de confiar apenas nos resultados gerados pela ferramenta.
Essa abordagem poderia ajudar as instituições a usufruir dos benefícios da inteligência artificial, ao mesmo tempo em que preservam a confiança dos pacientes na expertise médica.
Références et sources
À propos de cette étude
DOI : https://doi.org/10.1038/s44482-026-00021-x
Titre : Public reactions to hospitals after adverse events involving AI
Revue : npj Digital Public Health
Éditeur : Springer Science and Business Media LLC
Auteurs : Jungmin Choi; Yeun Joon Kim; Pengzhao Lyu; Yingyue Luna Luan; Soo Min Toh