Kesalahan medis yang melibatkan kecerdasan buatan meningkatkan tanggung jawab rumah sakit
Kecerdasan buatan semakin mendominasi bidang kesehatan untuk mendukung diagnosis, perencanaan pengobatan, dan komunikasi dengan pasien. Rumah sakit sudah menggunakan sistem berbasis teknologi ini untuk meningkatkan deteksi dini kanker tertentu, mengoptimalkan manajemen tempat tidur, atau bahkan menyederhanakan tugas administratif. Namun, adopsi teknologi ini memperkenalkan jenis risiko baru: kesalahan medis yang terkait dengan penggunaannya.
Kesalahan medis terjadi ketika seorang pasien mengalami kerugian yang tidak disengaja akibat penanganan, bukan karena penyakitnya. Secara tradisional, kesalahan ini terutama disebabkan oleh faktor manusia, seperti keterbatasan pengetahuan atau kegagalan koordinasi. Dengan integrasi kecerdasan buatan, kesalahan juga dapat terjadi ketika hasil yang dihasilkan oleh sistem ini, yang tidak akurat atau tidak lengkap, diterapkan dalam perawatan. Misalnya, model analisis gambar mungkin salah menafsirkan gambar medis, yang menunda diagnosis penting. Demikian pula, beberapa alat mungkin mengurangi gejala untuk kelompok demografis tertentu, yang berdampak negatif pada keputusan perawatan.
Kesalahan ini dapat memiliki konsekuensi serius bagi rumah sakit. Kesalahan ini seringkali menyebabkan hilangnya kepercayaan pasien dan, sekali dipublikasikan, kerusakan reputasi institusi. Di Amerika Serikat, hampir 17.000 gugatan atas kesalahan medis diajukan setiap tahun, dengan ganti rugi mencapai miliaran dolar. Meskipun penelitian yang ada tentang reaksi publik terhadap kecerdasan buatan belum secara langsung mempelajari tanggapan terhadap kesalahan yang melibatkan teknologi ini, beberapa studi menyarankan bahwa orang sering bereaksi negatif terhadap penggunaannya dalam praktik medis.
Sebuah studi terbaru mengeksplorasi reaksi ini melalui dua eksperimen. Eksperimen pertama memeriksa bagaimana masyarakat memandang tanggung jawab rumah sakit ketika kesalahan berasal dari dokter, kecerdasan buatan, atau keduanya. Peserta membaca situasi fiktif di mana interpretasi diagnostik yang awalnya dinilai normal ternyata salah, menyebabkan keterlambatan pengobatan dan komplikasi bagi pasien. Hasil menunjukkan bahwa peserta lebih banyak menyalahkan rumah sakit dan lebih sering mempertimbangkan untuk mengajukan gugatan atau menuntut secara hukum ketika kesalahan melibatkan kecerdasan buatan, terutama jika kecerdasan buatan bertindak sendirian. Sebaliknya, ketika dokter secara aktif berkolaborasi dengan alat, reaksi negatif terhadap rumah sakit berkurang.
Eksperimen kedua mendalami pertanyaan ini dengan memvariasikan jenis kolaborasi antara dokter dan kecerdasan buatan. Peserta dihadapkan pada lima skenario: keputusan yang dibuat hanya oleh kecerdasan buatan, hanya oleh dokter, atau melalui kolaborasi antara keduanya, dengan tingkat keterlibatan manusia yang berbeda. Hasil mengonfirmasi bahwa reaksi paling negatif terjadi ketika keputusan awal sepenuhnya bergantung pada kecerdasan buatan. Namun, ketika dokter memeriksa baik area yang ditandai oleh alat maupun keseluruhan gambar, serta mengintegrasikan informasi tersebut ke dalam penilaiannya sendiri, reaksi masyarakat menjadi sebanding dengan yang diamati untuk keputusan yang sepenuhnya dilakukan oleh manusia.
Hasil ini mengungkapkan bahwa persepsi masyarakat lebih bergantung pada bagaimana teknologi diintegrasikan ke dalam perawatan daripada teknologi itu sendiri. Rumah sakit dapat memanfaatkan temuan ini dengan menyoroti kolaborasi yang erat antara dokter dan alat teknologi. Pasien tampaknya lebih percaya pada keputusan ketika keterlibatan profesional kesehatan terlihat dan mendalam, seperti dalam kasus di mana dokter memeriksa keseluruhan data daripada hanya mengandalkan hasil yang dihasilkan oleh alat.
Pendekatan ini dapat membantu institusi untuk mendapatkan manfaat dari kecerdasan buatan sambil menjaga kepercayaan pasien terhadap keahlian medis.
Kesalahan medis yang melibatkan kecerdasan buatan meningkatkan tanggung jawab rumah sakit
Kecerdasan buatan semakin mendominasi bidang kesehatan untuk mendukung diagnosis, perencanaan pengobatan, dan komunikasi dengan pasien. Rumah sakit sudah menggunakan sistem berbasis teknologi ini untuk meningkatkan deteksi dini kanker tertentu, mengoptimalkan manajemen tempat tidur, atau bahkan menyederhanakan tugas administratif. Namun, adopsi teknologi ini memperkenalkan jenis risiko baru: kesalahan medis yang terkait dengan penggunaannya.
Kesalahan medis terjadi ketika seorang pasien mengalami kerugian yang tidak disengaja akibat penanganan, bukan karena penyakitnya. Secara tradisional, kesalahan ini terutama disebabkan oleh faktor manusia, seperti keterbatasan pengetahuan atau kegagalan koordinasi. Dengan integrasi kecerdasan buatan, kesalahan juga dapat terjadi ketika hasil yang dihasilkan oleh sistem ini, yang tidak akurat atau tidak lengkap, diterapkan dalam perawatan. Misalnya, model analisis gambar mungkin salah menafsirkan gambar medis, yang menunda diagnosis penting. Demikian pula, beberapa alat mungkin mengurangi gejala untuk kelompok demografis tertentu, yang berdampak negatif pada keputusan perawatan.
Kesalahan ini dapat memiliki konsekuensi serius bagi rumah sakit. Kesalahan ini seringkali menyebabkan hilangnya kepercayaan pasien dan, sekali dipublikasikan, kerusakan reputasi institusi. Di Amerika Serikat, hampir 17.000 gugatan atas kesalahan medis diajukan setiap tahun, dengan ganti rugi mencapai miliaran dolar. Meskipun penelitian yang ada tentang reaksi publik terhadap kecerdasan buatan belum secara langsung mempelajari tanggapan terhadap kesalahan yang melibatkan teknologi ini, beberapa studi menyarankan bahwa orang sering bereaksi negatif terhadap penggunaannya dalam praktik medis.
Sebuah studi terbaru mengeksplorasi reaksi ini melalui dua eksperimen. Eksperimen pertama memeriksa bagaimana masyarakat memandang tanggung jawab rumah sakit ketika kesalahan berasal dari dokter, kecerdasan buatan, atau keduanya. Peserta membaca situasi fiktif di mana interpretasi diagnostik yang awalnya dinilai normal ternyata salah, menyebabkan keterlambatan pengobatan dan komplikasi bagi pasien. Hasil menunjukkan bahwa peserta lebih banyak menyalahkan rumah sakit dan lebih sering mempertimbangkan untuk mengajukan gugatan atau menuntut secara hukum ketika kesalahan melibatkan kecerdasan buatan, terutama jika kecerdasan buatan bertindak sendirian. Sebaliknya, ketika dokter secara aktif berkolaborasi dengan alat, reaksi negatif terhadap rumah sakit berkurang.
Eksperimen kedua mendalami pertanyaan ini dengan memvariasikan jenis kolaborasi antara dokter dan kecerdasan buatan. Peserta dihadapkan pada lima skenario: keputusan yang dibuat hanya oleh kecerdasan buatan, hanya oleh dokter, atau melalui kolaborasi antara keduanya, dengan tingkat keterlibatan manusia yang berbeda. Hasil mengonfirmasi bahwa reaksi paling negatif terjadi ketika keputusan awal sepenuhnya bergantung pada kecerdasan buatan. Namun, ketika dokter memeriksa baik area yang ditandai oleh alat maupun keseluruhan gambar, serta mengintegrasikan informasi tersebut ke dalam penilaiannya sendiri, reaksi masyarakat menjadi sebanding dengan yang diamati untuk keputusan yang sepenuhnya dilakukan oleh manusia.
Hasil ini mengungkapkan bahwa persepsi masyarakat lebih bergantung pada bagaimana teknologi diintegrasikan ke dalam perawatan daripada teknologi itu sendiri. Rumah sakit dapat memanfaatkan temuan ini dengan menyoroti kolaborasi yang erat antara dokter dan alat teknologi. Pasien tampaknya lebih percaya pada keputusan ketika keterlibatan profesional kesehatan terlihat dan mendalam, seperti dalam kasus di mana dokter memeriksa keseluruhan data daripada hanya mengandalkan hasil yang dihasilkan oleh alat.
Pendekatan ini dapat membantu institusi untuk mendapatkan manfaat dari kecerdasan buatan sambil menjaga kepercayaan pasien terhadap keahlian medis.
Références et sources
À propos de cette étude
DOI : https://doi.org/10.1038/s44482-026-00021-x
Titre : Public reactions to hospitals after adverse events involving AI
Revue : npj Digital Public Health
Éditeur : Springer Science and Business Media LLC
Auteurs : Jungmin Choi; Yeun Joon Kim; Pengzhao Lyu; Yingyue Luna Luan; Soo Min Toh