Getty Images

Kecerdasan Buatan (AI) bergerak pantas dan akan menjadi alat sokongan penting dalam penjagaan klinikal. Penyelidikan mencadangkan algoritma AI boleh dengan tepat mengesan melanoma and meramalkan kanser payudara masa depan.

Tetapi sebelum AI boleh disepadukan ke dalam penggunaan klinikal rutin, kita mesti menangani cabaran bias algoritma. Algoritma AI mungkin mempunyai kecenderungan yang wujud yang boleh membawa kepada isu diskriminasi dan privasi. Sistem AI juga boleh membuat keputusan tanpa pengawasan yang diperlukan atau input manusia.

 Satu contoh kesan berpotensi berbahaya AI datang daripada a projek antarabangsa yang bertujuan untuk menggunakan AI untuk menyelamatkan nyawa dengan membangunkan rawatan perubatan terobosan. Dalam percubaan, pasukan itu menukar model AI "baik" mereka untuk mencipta pilihan untuk model AI baharu untuk melakukan "memudaratkan".

Dalam masa kurang daripada enam jam latihan, algoritma AI terbalik menjana puluhan ribu ejen peperangan kimia yang berpotensi, dengan lebih banyak bahaya daripada ejen peperangan semasa. Ini adalah contoh melampau mengenai sebatian kimia, tetapi ia berfungsi sebagai panggilan bangun untuk menilai akibat etika AI yang diketahui dan tidak dapat diketahui.

AI dalam penjagaan klinikal

Dalam bidang perubatan, kami berurusan dengan data orang yang paling peribadi dan keputusan yang sering mengubah hidup. Rangka kerja etika AI yang mantap adalah penting.

. Projek Epilepsi Australia bertujuan untuk memperbaiki kehidupan orang ramai dan menjadikan penjagaan klinikal tersedia secara meluas. Berdasarkan pengimejan otak lanjutan, maklumat genetik dan kognitif daripada ribuan orang yang menghidap epilepsi, kami merancang untuk menggunakan AI untuk menjawab soalan yang tidak dapat dijawab pada masa ini.

Adakah sawan orang ini akan berterusan? Ubat manakah yang paling berkesan? Adakah pembedahan otak merupakan pilihan rawatan yang berdaya maju? Ini adalah persoalan asas yang sukar ditangani oleh perubatan moden.

Sebagai peneraju AI bagi projek ini, kebimbangan utama saya ialah AI bergerak pantas dan pengawasan kawal selia adalah minimum. Isu-isu inilah sebabnya kami baru-baru ini menubuhkan sebuah kerangka etika untuk menggunakan AI sebagai alat sokongan klinikal. Rangka kerja ini berhasrat untuk memastikan teknologi AI kami terbuka, selamat dan boleh dipercayai, sambil memupuk keterangkuman dan keadilan dalam penjagaan klinikal.

Jadi bagaimana kita melaksanakan etika AI dalam perubatan untuk mengurangkan berat sebelah dan mengekalkan kawalan ke atas algoritma? Prinsip sains komputer "sampah masuk, sampah keluar" digunakan untuk AI. Katakan kita mengumpul data berat sebelah daripada sampel kecil. Algoritma AI kami mungkin akan berat sebelah dan tidak boleh ditiru dalam persekitaran klinikal lain.

Contoh berat sebelah tidak sukar ditemui dalam model AI kontemporari. Model bahasa besar yang popular (Contohnya ChatGPT) dan model resapan terpendam (DALL-E dan Resapan Stabil) menunjukkan bagaimana berat sebelah yang jelas berkenaan jantina, etnik dan status sosioekonomi boleh berlaku.

Penyelidik mendapati bahawa gesaan pengguna mudah menghasilkan imej yang mengekalkan stereotaip etnik, jantina dan kelas. Contohnya, gesaan untuk doktor menjana kebanyakannya imej doktor lelaki, yang tidak konsisten dengan realiti kerana kira-kira separuh daripada semua doktor di negara OECD adalah wanita.

Pelaksanaan AI perubatan yang selamat

Penyelesaian untuk mencegah berat sebelah dan diskriminasi bukanlah perkara remeh. Membolehkan kesaksamaan kesihatan dan memupuk keterangkuman dalam kajian klinikal mungkin antara penyelesaian utama untuk memerangi berat sebelah dalam AI perubatan.

Yang menggalakkan, Pentadbiran Makanan dan Ubat-ubatan AS baru-baru ini mencadangkan mewajibkan kepelbagaian dalam ujian klinikal. Cadangan ini mewakili satu langkah ke arah kajian klinikal yang kurang berat sebelah dan berasaskan komuniti.

Satu lagi halangan untuk maju ialah pembiayaan penyelidikan yang terhad. Algoritma AI biasanya memerlukan jumlah data yang banyak, yang mungkin mahal. Adalah penting untuk mewujudkan mekanisme pembiayaan yang dipertingkatkan yang menyediakan penyelidik dengan sumber yang diperlukan untuk mengumpulkan data yang berkaitan secara klinikal yang sesuai untuk aplikasi AI.

Kami juga berpendapat bahawa kami harus sentiasa mengetahui kerja dalaman algoritma AI dan memahami cara ia mencapai kesimpulan dan cadangan mereka. Konsep ini sering dirujuk sebagai "kebolehjelasan" dalam AI. Ia berkaitan dengan idea bahawa manusia dan mesin mesti bekerjasama untuk mendapatkan hasil yang optimum.

Kami lebih suka melihat pelaksanaan ramalan dalam model sebagai "ditambah" daripada kecerdasan "buatan" - algoritma harus menjadi sebahagian daripada proses dan profesion perubatan mesti kekal mengawal pembuatan keputusan.

Selain menggalakkan penggunaan algoritma yang boleh dijelaskan, kami menyokong sains yang telus dan terbuka. Para saintis harus menerbitkan butiran model AI dan metodologi mereka untuk meningkatkan ketelusan dan kebolehulangan.

Apakah yang kita perlukan di Aotearoa New Zealand untuk memastikan pelaksanaan AI yang selamat dalam penjagaan perubatan? Kebimbangan etika AI diketuai terutamanya oleh pakar dalam bidang tersebut. Walau bagaimanapun, peraturan AI yang disasarkan, seperti berasaskan EU Akta Kepintaran Buatan telah dicadangkan, menangani pertimbangan etika ini.

Undang-undang AI Eropah dialu-alukan dan akan melindungi orang yang bekerja dalam "AI selamat". Kerajaan UK baru-baru ini mengeluarkan mereka pendekatan proaktif terhadap peraturan AI, berfungsi sebagai pelan tindakan untuk respons kerajaan yang lain terhadap keselamatan AI.

Di Aotearoa, kami berhujah untuk mengamalkan sikap proaktif dan bukannya reaktif terhadap keselamatan AI. Ia akan mewujudkan rangka kerja etika untuk menggunakan AI dalam penjagaan klinikal dan bidang lain, menghasilkan AI yang boleh ditafsir, selamat dan tidak berat sebelah. Akibatnya, keyakinan kita akan bertambah bahawa teknologi berkuasa ini memberi manfaat kepada masyarakat sambil melindunginya daripada bahaya.

Tentang Pengarang

Mangor Pedersen, Profesor Madya Psikologi dan Neurosains, Universiti Teknologi Auckland

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku berkaitan:

Badan Mengekalkan Skor: Otak Minda dan Badan dalam Penyembuhan Trauma

oleh Bessel van der Kolk

Buku ini meneroka hubungan antara trauma dan kesihatan fizikal dan mental, menawarkan pandangan dan strategi untuk penyembuhan dan pemulihan.

Klik untuk maklumat lanjut atau untuk memesan

Nafas: Sains Baharu Seni yang Hilang

oleh James Nestor

Buku ini meneroka sains dan amalan pernafasan, menawarkan pandangan dan teknik untuk meningkatkan kesihatan fizikal dan mental.

Klik untuk maklumat lanjut atau untuk memesan

The Plant Paradox: Bahaya Tersembunyi dalam Makanan "Sihat" Yang Menyebabkan Penyakit dan Berat Badan

oleh Steven R. Gundry

Buku ini meneroka kaitan antara diet, kesihatan dan penyakit, menawarkan pandangan dan strategi untuk meningkatkan kesihatan dan kesejahteraan keseluruhan.

Klik untuk maklumat lanjut atau untuk memesan

Kod Kekebalan: Paradigma Baharu untuk Kesihatan Sebenar dan Anti-Penuaan Radikal

oleh Joel Greene

Buku ini menawarkan perspektif baharu tentang kesihatan dan imuniti, menggunakan prinsip epigenetik dan menawarkan pandangan serta strategi untuk mengoptimumkan kesihatan dan penuaan.

Klik untuk maklumat lanjut atau untuk memesan

Panduan Lengkap Puasa: Sembuhkan Tubuh Anda Melalui Puasa Selang Selang, Hari Bergantian dan Berpanjangan

oleh Dr. Jason Fung dan Jimmy Moore

Buku ini meneroka sains dan amalan berpuasa yang menawarkan pandangan dan strategi untuk meningkatkan kesihatan dan kesejahteraan keseluruhan.

Klik untuk maklumat lanjut atau untuk memesan