Gli errori medici che coinvolgono l’intelligenza artificiale aumentano la responsabilità degli ospedali
L’intelligenza artificiale si sta imponendo progressivamente nel settore sanitario per supportare le diagnosi, la pianificazione dei trattamenti e la comunicazione con i pazienti. Gli ospedali utilizzano già sistemi basati su questa tecnologia per migliorare il rilevamento precoce di alcuni tumori, ottimizzare la gestione dei letti o semplificare le attività amministrative. Tuttavia, la sua adozione introduce un nuovo tipo di rischio: gli errori medici legati al suo utilizzo.
Un errore medico si verifica quando un paziente subisce un danno non intenzionale causato dall’assistenza piuttosto che dalla sua malattia. Tradizionalmente, questi errori erano principalmente attribuiti a fattori umani, come lacune nelle conoscenze o carenze di coordinamento. Con l’integrazione dell’intelligenza artificiale, possono verificarsi anche errori quando i risultati generati da questi sistemi, errati o incompleti, vengono applicati nelle cure. Ad esempio, un modello di analisi delle immagini potrebbe interpretare male alcune immagini mediche, ritardando una diagnosi essenziale. Allo stesso modo, alcuni strumenti potrebbero sottovalutare sintomi per gruppi demografici specifici, influenzando negativamente le decisioni terapeutiche.
Questi errori possono avere conseguenze gravi per gli ospedali. Spesso portano a una perdita di fiducia da parte dei pazienti e, una volta resi pubblici, a danni per la reputazione della struttura. Negli Stati Uniti, quasi 17.000 denunce per malpractice medica vengono presentate ogni anno, con risarcimenti che ammontano a diversi miliardi di dollari. Sebbene le ricerche esistenti sulle reazioni del pubblico all’intelligenza artificiale non abbiano ancora studiato direttamente le risposte agli errori che coinvolgono questa tecnologia, alcuni studi suggeriscono che le persone reagiscono spesso negativamente al suo utilizzo nella pratica medica.
Uno studio recente ha esplorato queste reazioni attraverso due esperimenti. Il primo ha esaminato come il pubblico percepisce la responsabilità degli ospedali quando gli errori derivano da un medico, da un’intelligenza artificiale o da entrambi. I partecipanti hanno letto una situazione fittizia in cui un’interpretazione diagnostica inizialmente considerata normale si è rivelata errata, causando un ritardo nel trattamento e complicazioni per il paziente. I risultati mostrano che i partecipanti attribuiscono una maggiore responsabilità all’ospedale e considerano più spesso di presentare una denuncia o di intentare una causa legale quando l’errore coinvolge un’intelligenza artificiale, soprattutto se questa ha agito da sola. Al contrario, quando il medico collabora attivamente con lo strumento, le reazioni negative verso l’ospedale diminuiscono.
Il secondo studio ha approfondito questa questione variando i tipi di collaborazione tra medici e intelligenza artificiale. I partecipanti sono stati messi di fronte a cinque scenari: una decisione presa esclusivamente da un’intelligenza artificiale, esclusivamente da un medico o da una collaborazione tra i due, con diversi livelli di coinvolgimento umano. I risultati confermano che le reazioni più negative si verificano quando la decisione iniziale si basa esclusivamente sull’intelligenza artificiale. Tuttavia, quando il medico esamina sia le aree segnalate dallo strumento che l’interezza delle immagini, integrando le informazioni nel proprio giudizio, le reazioni del pubblico diventano comparabili a quelle osservate per una decisione puramente umana.
Questi risultati rivelano che la percezione del pubblico dipende meno dalla tecnologia in sé che dal modo in cui viene integrata nelle cure. Gli ospedali potrebbero quindi trarre vantaggio da questa scoperta mettendo in evidenza la stretta collaborazione tra medici e strumenti tecnologici. I pazienti sembrano concedere maggiore fiducia alle decisioni quando il coinvolgimento dei professionisti sanitari è visibile e approfondito, come nel caso in cui il medico esamina l’interezza dei dati piuttosto che affidarsi esclusivamente ai risultati generati dallo strumento.
Questo approccio potrebbe aiutare le strutture a beneficiare dei vantaggi dell’intelligenza artificiale preservando al contempo la fiducia dei pazienti nell’esperienza medica.
Gli errori medici che coinvolgono l’intelligenza artificiale aumentano la responsabilità degli ospedali
L’intelligenza artificiale si sta imponendo progressivamente nel settore sanitario per supportare le diagnosi, la pianificazione dei trattamenti e la comunicazione con i pazienti. Gli ospedali utilizzano già sistemi basati su questa tecnologia per migliorare il rilevamento precoce di alcuni tumori, ottimizzare la gestione dei letti o semplificare le attività amministrative. Tuttavia, la sua adozione introduce un nuovo tipo di rischio: gli errori medici legati al suo utilizzo.
Un errore medico si verifica quando un paziente subisce un danno non intenzionale causato dall’assistenza piuttosto che dalla sua malattia. Tradizionalmente, questi errori erano principalmente attribuiti a fattori umani, come lacune nelle conoscenze o carenze di coordinamento. Con l’integrazione dell’intelligenza artificiale, possono verificarsi anche errori quando i risultati generati da questi sistemi, errati o incompleti, vengono applicati nelle cure. Ad esempio, un modello di analisi delle immagini potrebbe interpretare male alcune immagini mediche, ritardando una diagnosi essenziale. Allo stesso modo, alcuni strumenti potrebbero sottovalutare sintomi per gruppi demografici specifici, influenzando negativamente le decisioni terapeutiche.
Questi errori possono avere conseguenze gravi per gli ospedali. Spesso portano a una perdita di fiducia da parte dei pazienti e, una volta resi pubblici, a danni per la reputazione della struttura. Negli Stati Uniti, quasi 17.000 denunce per malpractice medica vengono presentate ogni anno, con risarcimenti che ammontano a diversi miliardi di dollari. Sebbene le ricerche esistenti sulle reazioni del pubblico all’intelligenza artificiale non abbiano ancora studiato direttamente le risposte agli errori che coinvolgono questa tecnologia, alcuni studi suggeriscono che le persone reagiscono spesso negativamente al suo utilizzo nella pratica medica.
Uno studio recente ha esplorato queste reazioni attraverso due esperimenti. Il primo ha esaminato come il pubblico percepisce la responsabilità degli ospedali quando gli errori derivano da un medico, da un’intelligenza artificiale o da entrambi. I partecipanti hanno letto una situazione fittizia in cui un’interpretazione diagnostica inizialmente considerata normale si è rivelata errata, causando un ritardo nel trattamento e complicazioni per il paziente. I risultati mostrano che i partecipanti attribuiscono una maggiore responsabilità all’ospedale e considerano più spesso di presentare una denuncia o di intentare una causa legale quando l’errore coinvolge un’intelligenza artificiale, soprattutto se questa ha agito da sola. Al contrario, quando il medico collabora attivamente con lo strumento, le reazioni negative verso l’ospedale diminuiscono.
Il secondo studio ha approfondito questa questione variando i tipi di collaborazione tra medici e intelligenza artificiale. I partecipanti sono stati messi di fronte a cinque scenari: una decisione presa esclusivamente da un’intelligenza artificiale, esclusivamente da un medico o da una collaborazione tra i due, con diversi livelli di coinvolgimento umano. I risultati confermano che le reazioni più negative si verificano quando la decisione iniziale si basa esclusivamente sull’intelligenza artificiale. Tuttavia, quando il medico esamina sia le aree segnalate dallo strumento che l’interezza delle immagini, integrando le informazioni nel proprio giudizio, le reazioni del pubblico diventano comparabili a quelle osservate per una decisione puramente umana.
Questi risultati rivelano che la percezione del pubblico dipende meno dalla tecnologia in sé che dal modo in cui viene integrata nelle cure. Gli ospedali potrebbero quindi trarre vantaggio da questa scoperta mettendo in evidenza la stretta collaborazione tra medici e strumenti tecnologici. I pazienti sembrano concedere maggiore fiducia alle decisioni quando il coinvolgimento dei professionisti sanitari è visibile e approfondito, come nel caso in cui il medico esamina l’interezza dei dati piuttosto che affidarsi esclusivamente ai risultati generati dallo strumento.
Questo approccio potrebbe aiutare le strutture a beneficiare dei vantaggi dell’intelligenza artificiale preservando al contempo la fiducia dei pazienti nell’esperienza medica.
Références et sources
À propos de cette étude
DOI : https://doi.org/10.1038/s44482-026-00021-x
Titre : Public reactions to hospitals after adverse events involving AI
Revue : npj Digital Public Health
Éditeur : Springer Science and Business Media LLC
Auteurs : Jungmin Choi; Yeun Joon Kim; Pengzhao Lyu; Yingyue Luna Luan; Soo Min Toh