Algoritma komputer digunakan di ribuan rumah sakit di Amerika Serikat untuk mengidentifikasi pasien yang paling berisiko untuk memberi mereka tindak lanjut yang ekstensif.
Tetapi program-program ini menunjukkan bias rasial yang signifikan dalam mendukung orang kulit putih dan melawan orang kulit hitam, menurut sebuah studi baru yang diterbitkan di Science pada hari Kamis (24 Oktober).
Ziad Obermeyer, dari University of California, Berkeley, mengatakan kepada AFP bahwa dia menemukan temuan itu hampir secara kebetulan, saat menganalisis data yang disediakan oleh rumah sakit universitas besar.
Algoritma telah menghitung “skor risiko” untuk mengidentifikasi 3 persen pasien yang paling berisiko (dengan diabetes, gagal jantung kongestif, emfisema dan sebagainya), yang kemudian dapat menghubungi hotline khusus, mendapatkan janji pada hari yang sama atau menjadwalkan kunjungan rumah.
“Jika Anda melihat dua orang, satu hitam, satu putih, dengan skor risiko yang sama persis, pasien kulit hitam jauh lebih mungkin untuk terus memiliki masalah kesehatan yang lebih buruk selama tahun mendatang daripada pasien kulit putih,” kata Obermeyer kepada AFP.
Algoritma ini tidak diprogram untuk mempertimbangkan ras. Ia bekerja dengan menganalisis biaya perawatan kesehatan yang dihasilkan oleh pasien di masa lalu.
“Itulah masalahnya, karena pasien kulit hitam, rata-rata, menghasilkan biaya lebih sedikit daripada pasien kulit putih dengan tingkat kesehatan yang sama,” kata Obermeyer.
Itu adalah hasil dari ketidaksetaraan yang mengakar yang berarti orang kulit hitam memiliki lebih sedikit kunjungan kesehatan, dan ketika mereka melakukannya, dokter meresepkan rata-rata lebih sedikit obat dan memesan lebih sedikit tes.
“Ada ilusi bahwa kami bekerja dengan, Anda tahu, variabel biologis atau variabel yang menggambarkan fisiologi, secara obyektif,” kata Obermeyer.
“Tapi bukan itu kumpulan data ini, kumpulan data ini berasal dari transaksi keuangan antara rumah sakit dan asuransi, mereka berasal dari dokter yang menuliskan sesuatu atau tidak menuliskan semuanya.”
Perusahaan yang memasarkan perangkat lunak telah menerima saran oleh para peneliti yang diharapkan dapat mengurangi ketidakseimbangan rasial lebih dari 80 persen.
Tetapi seperti yang ditunjukkan Obermeyer, mengutak-atik kode hanyalah langkah pertama: kita membutuhkan data yang lebih baik tentang status kesehatan aktual pasien.
“Sangat aneh bahwa sumber data utama kami tentang obat berasal dari transaksi keuangan,” pungkasnya.
“Saya pikir sistem perawatan kesehatan (AS) tidak menganggap serius masalah memperoleh dan memelihara informasi kesehatan yang baik.”