Medizinische Fehler durch künstliche Intelligenz erhöhen die Verantwortung der Krankenhäuser

Künstliche Intelligenz setzt sich schrittweise im Gesundheitswesen durch, um Diagnosen, die Planung von Behandlungen und die Kommunikation mit Patienten zu unterstützen. Krankenhäuser nutzen bereits Systeme auf Basis dieser Technologie, um die Früherkennung bestimmter Krebsarten zu verbessern, die Bettenverwaltung zu optimieren oder administrative Aufgaben zu vereinfachen. Dennoch bringt ihre Einführung eine neue Art von Risiko mit sich: medizinische Fehler, die mit ihrer Nutzung zusammenhängen.

Ein medizinischer Fehler liegt vor, wenn ein Patient einen unbeabsichtigten Schaden erleidet, der durch die Behandlung und nicht durch seine Krankheit verursacht wird. Traditionell wurden solche Fehler hauptsächlich auf menschliche Faktoren zurückgeführt, wie Wissenslücken oder Koordinationsmängel. Mit der Integration künstlicher Intelligenz können Fehler auch auftreten, wenn unvollständige oder falsche Ergebnisse dieser Systeme in der Patientenversorgung angewendet werden. Beispielsweise könnte ein Modell zur Bildanalyse medizinische Aufnahmen falsch interpretieren und so eine wichtige Diagnose verzögern. Ebenso könnten bestimmte Tools Symptome bei spezifischen demografischen Gruppen herunterspielen und so die Behandlungsentscheidungen negativ beeinflussen.

Diese Fehler können für Krankenhäuser schwerwiegende Folgen haben. Sie führen oft zu einem Vertrauensverlust bei den Patienten und, sobald sie öffentlich bekannt werden, zu einem Reputationsschaden für die Einrichtung. In den USA werden jährlich fast 17.000 Klagen wegen Behandlungsfehlern eingereicht, wobei die Schadensersatzzahlungen mehrere Milliarden Dollar betragen. Obwohl bestehende Forschungen zu den öffentlichen Reaktionen auf künstliche Intelligenz die Antworten auf Fehler, die diese Technologie betreffen, noch nicht direkt untersucht haben, deuten einige Studien darauf hin, dass Menschen oft negativ auf deren Einsatz in der medizinischen Praxis reagieren.

Eine aktuelle Studie hat diese Reaktionen in zwei Experimenten untersucht. Das erste Experiment untersuchte, wie die Öffentlichkeit die Verantwortung der Krankenhäuser bewertet, wenn Fehler entweder von einem Arzt, von künstlicher Intelligenz oder von beidem verursacht werden. Die Teilnehmer lasen eine fiktive Situation, in der eine zunächst als normal eingestufte diagnostische Interpretation sich als falsch erwies, was zu einer verzögerten Behandlung und Komplikationen für den Patienten führte. Die Ergebnisse zeigen, dass die Teilnehmer dem Krankenhaus mehr Verantwortung zuschreiben und häufiger eine Beschwerde einreichen oder rechtliche Schritte einleiten würden, wenn der Fehler künstliche Intelligenz betrifft – insbesondere, wenn diese allein gehandelt hat. Wenn der Arzt jedoch aktiv mit dem Tool zusammenarbeitet, nehmen die negativen Reaktionen gegenüber dem Krankenhaus ab.

Die zweite Studie vertiefte diese Frage, indem sie die Arten der Zusammenarbeit zwischen Ärzten und künstlicher Intelligenz variierte. Die Teilnehmer wurden mit fünf Szenarien konfrontiert: eine Entscheidung, die ausschließlich von künstlicher Intelligenz, ausschließlich von einem Arzt oder durch eine Zusammenarbeit zwischen beiden getroffen wurde, wobei der Grad der menschlichen Beteiligung unterschiedlich war. Die Ergebnisse bestätigen, dass die negativsten Reaktionen auftreten, wenn die ursprüngliche Entscheidung allein auf künstlicher Intelligenz beruht. Wenn der Arzt jedoch sowohl die vom Tool markierten Bereiche als auch die gesamten Bilder prüft und diese Informationen in sein eigenes Urteil einbezieht, werden die Reaktionen der Öffentlichkeit mit denen vergleichbar, die bei einer rein menschlichen Entscheidung beobachtet werden.

Diese Ergebnisse zeigen, dass die Wahrnehmung der Öffentlichkeit weniger von der Technologie selbst abhängt als davon, wie sie in die Patientenversorgung integriert wird. Krankenhäuser könnten diese Erkenntnis nutzen, indem sie die enge Zusammenarbeit zwischen Ärzten und technologischen Tools in den Vordergrund stellen. Patienten scheinen Entscheidungen mehr Vertrauen zu schenken, wenn die Beteiligung von Fachkräften im Gesundheitswesen sichtbar und umfassend ist – wie im Fall, in dem der Arzt alle Daten prüft, anstatt sich ausschließlich auf die vom Tool generierten Ergebnisse zu verlassen.

Dieser Ansatz könnte den Einrichtungen helfen, die Vorteile der künstlichen Intelligenz zu nutzen und gleichzeitig das Vertrauen der Patienten in die medizinische Expertise zu bewahren.

Medizinische Fehler durch künstliche Intelligenz erhöhen die Verantwortung der Krankenhäuser

Künstliche Intelligenz setzt sich schrittweise im Gesundheitswesen durch, um Diagnosen, die Planung von Behandlungen und die Kommunikation mit Patienten zu unterstützen. Krankenhäuser nutzen bereits Systeme auf Basis dieser Technologie, um die Früherkennung bestimmter Krebsarten zu verbessern, die Bettenverwaltung zu optimieren oder administrative Aufgaben zu vereinfachen. Dennoch bringt ihre Einführung eine neue Art von Risiko mit sich: medizinische Fehler, die mit ihrer Nutzung zusammenhängen.

Ein medizinischer Fehler liegt vor, wenn ein Patient einen unbeabsichtigten Schaden erleidet, der durch die Behandlung und nicht durch seine Krankheit verursacht wird. Traditionell wurden solche Fehler hauptsächlich auf menschliche Faktoren zurückgeführt, wie Wissenslücken oder Koordinationsmängel. Mit der Integration künstlicher Intelligenz können Fehler auch auftreten, wenn unvollständige oder falsche Ergebnisse dieser Systeme in der Patientenversorgung angewendet werden. Beispielsweise könnte ein Modell zur Bildanalyse medizinische Aufnahmen falsch interpretieren und so eine wichtige Diagnose verzögern. Ebenso könnten bestimmte Tools Symptome bei spezifischen demografischen Gruppen herunterspielen und so die Behandlungsentscheidungen negativ beeinflussen.

Diese Fehler können für Krankenhäuser schwerwiegende Folgen haben. Sie führen oft zu einem Vertrauensverlust bei den Patienten und, sobald sie öffentlich bekannt werden, zu einem Reputationsschaden für die Einrichtung. In den USA werden jährlich fast 17.000 Klagen wegen Behandlungsfehlern eingereicht, wobei die Schadensersatzzahlungen mehrere Milliarden Dollar betragen. Obwohl bestehende Forschungen zu den öffentlichen Reaktionen auf künstliche Intelligenz die Antworten auf Fehler, die diese Technologie betreffen, noch nicht direkt untersucht haben, deuten einige Studien darauf hin, dass Menschen oft negativ auf deren Einsatz in der medizinischen Praxis reagieren.

Eine aktuelle Studie hat diese Reaktionen in zwei Experimenten untersucht. Das erste Experiment untersuchte, wie die Öffentlichkeit die Verantwortung der Krankenhäuser bewertet, wenn Fehler entweder von einem Arzt, von künstlicher Intelligenz oder von beidem verursacht werden. Die Teilnehmer lasen eine fiktive Situation, in der eine zunächst als normal eingestufte diagnostische Interpretation sich als falsch erwies, was zu einer verzögerten Behandlung und Komplikationen für den Patienten führte. Die Ergebnisse zeigen, dass die Teilnehmer dem Krankenhaus mehr Verantwortung zuschreiben und häufiger eine Beschwerde einreichen oder rechtliche Schritte einleiten würden, wenn der Fehler künstliche Intelligenz betrifft – insbesondere, wenn diese allein gehandelt hat. Wenn der Arzt jedoch aktiv mit dem Tool zusammenarbeitet, nehmen die negativen Reaktionen gegenüber dem Krankenhaus ab.

Die zweite Studie vertiefte diese Frage, indem sie die Arten der Zusammenarbeit zwischen Ärzten und künstlicher Intelligenz variierte. Die Teilnehmer wurden mit fünf Szenarien konfrontiert: eine Entscheidung, die ausschließlich von künstlicher Intelligenz, ausschließlich von einem Arzt oder durch eine Zusammenarbeit zwischen beiden getroffen wurde, wobei der Grad der menschlichen Beteiligung unterschiedlich war. Die Ergebnisse bestätigen, dass die negativsten Reaktionen auftreten, wenn die ursprüngliche Entscheidung allein auf künstlicher Intelligenz beruht. Wenn der Arzt jedoch sowohl die vom Tool markierten Bereiche als auch die gesamten Bilder prüft und diese Informationen in sein eigenes Urteil einbezieht, werden die Reaktionen der Öffentlichkeit mit denen vergleichbar, die bei einer rein menschlichen Entscheidung beobachtet werden.

Diese Ergebnisse zeigen, dass die Wahrnehmung der Öffentlichkeit weniger von der Technologie selbst abhängt als davon, wie sie in die Patientenversorgung integriert wird. Krankenhäuser könnten diese Erkenntnis nutzen, indem sie die enge Zusammenarbeit zwischen Ärzten und technologischen Tools in den Vordergrund stellen. Patienten scheinen Entscheidungen mehr Vertrauen zu schenken, wenn die Beteiligung von Fachkräften im Gesundheitswesen sichtbar und umfassend ist – wie im Fall, in dem der Arzt alle Daten prüft, anstatt sich ausschließlich auf die vom Tool generierten Ergebnisse zu verlassen.

Dieser Ansatz könnte den Einrichtungen helfen, die Vorteile der künstlichen Intelligenz zu nutzen und gleichzeitig das Vertrauen der Patienten in die medizinische Expertise zu bewahren.

Références et sources

À propos de cette étude

DOI : https://doi.org/10.1038/s44482-026-00021-x

Titre : Public reactions to hospitals after adverse events involving AI

Revue : npj Digital Public Health

Éditeur : Springer Science and Business Media LLC

Auteurs : Jungmin Choi; Yeun Joon Kim; Pengzhao Lyu; Yingyue Luna Luan; Soo Min Toh