Keluaran chatbot lanjutan SembangGPT pada tahun 2022 membuat semua orang bercakap tentang kecerdasan buatan (AI). Keupayaan canggihnya meningkatkan kebimbangan tentang AI menjadi sangat maju sehingga tidak lama lagi kami tidak akan dapat mengawalnya. Ini malah menyebabkan beberapa pakar dan pemimpin industri memberi amaran bahawa teknologi boleh membawa kepada kepupusan manusia.
Pengulas lain, bagaimanapun, tidak yakin. Noam Chomsky, seorang profesor linguistik, menolak ChatGPT sebagai “plagiarisme berteknologi tinggi".
Selama bertahun-tahun, saya santai tentang prospek kesan AI terhadap kewujudan manusia dan alam sekitar kita. Itu kerana saya selalu menganggapnya sebagai a pembimbing atau penasihat kepada manusia. Tetapi prospek AI membuat keputusan - melaksanakan kawalan eksekutif - adalah perkara lain. Dan ia adalah salah satu yang kini sedang dihiburkan dengan serius.
Salah satu sebab utama kita tidak sepatutnya membiarkan AI mempunyai kuasa eksekutif ialah ia tidak mempunyai emosi sepenuhnya, yang penting untuk membuat keputusan. Tanpa emosi, empati dan kompas moral, anda telah mencipta psikopat yang sempurna. Sistem yang terhasil mungkin sangat pintar, tetapi ia akan kekurangan teras emosi manusia yang membolehkannya mengukur akibat emosi yang berpotensi memusnahkan keputusan yang rasional.
Apabila AI mengambil kawalan eksekutif
Yang penting, kita tidak seharusnya menganggap AI sebagai ancaman wujud jika kita mahu meletakkannya bertanggungjawab ke atas senjata nuklear. Pada asasnya tiada had kepada bilangan kedudukan kawalan yang boleh menyebabkan kerosakan yang tidak dapat dibayangkan.
Pertimbangkan, sebagai contoh, bagaimana AI sudah boleh mengenal pasti dan menyusun maklumat yang diperlukan untuk membina konservatori anda sendiri. Lelaran semasa teknologi boleh membimbing anda dengan berkesan melalui setiap langkah membina dan menghalang banyak kesilapan pemula. Tetapi pada masa hadapan, AI mungkin bertindak sebagai pengurus projek dan menyelaraskan binaan dengan memilih kontraktor dan membayar mereka terus daripada belanjawan anda.
AI sudah digunakan dalam hampir semua domain pemprosesan maklumat dan analisis data - dari memodelkan corak cuaca kepada mengawal kenderaan tanpa pemandu kepada membantu dengan diagnosis perubatan. Tetapi di sinilah masalah bermula - apabila kami membiarkan sistem AI mengambil langkah kritikal daripada peranan penasihat kepada pengurus eksekutif.
Daripada hanya mencadangkan remedi kepada a akaun syarikat, bagaimana jika AI diberi kawalan langsung, dengan keupayaan untuk melaksanakan prosedur untuk memulihkan hutang, membuat pindahan bank dan memaksimumkan keuntungan – tanpa had tentang cara melakukan ini. Atau bayangkan sistem AI bukan sahaja menyediakan a diagnosis berdasarkan X-ray, tetapi diberi kuasa untuk menetapkan rawatan atau ubat secara langsung.
Anda mungkin mula berasa tidak senang tentang senario sedemikian - saya pasti akan melakukannya. Sebabnya mungkin intuisi anda bahawa mesin ini tidak benar-benar mempunyai "jiwa". Mereka hanyalah program yang direka untuk mencerna sejumlah besar maklumat untuk memudahkan data yang kompleks menjadi corak yang lebih mudah, membolehkan manusia membuat keputusan dengan lebih yakin. Mereka tidak - dan tidak boleh - mempunyai emosi, yang berkait rapat dengan deria dan naluri biologi.
Emosi dan akhlak
Kecerdasan emosi ialah keupayaan untuk menguruskan emosi kita untuk mengatasi tekanan, empati, dan berkomunikasi dengan berkesan. Ini boleh dikatakan lebih penting dalam konteks membuat keputusan daripada kecerdasan semata-mata, kerana keputusan yang terbaik tidak selalunya yang paling rasional.
Kemungkinan kecerdasan, keupayaan untuk menaakul dan beroperasi secara logik, boleh dibenamkan ke dalam sistem berkuasa AI supaya mereka boleh membuat keputusan yang rasional. Tetapi bayangkan meminta AI yang berkuasa dengan keupayaan eksekutif menyelesaikan krisis iklim. Perkara pertama yang mungkin diilhamkan untuk dilakukan ialah mengurangkan populasi manusia secara drastik.
Potongan ini tidak memerlukan banyak penjelasan. Kita manusia, hampir mengikut definisi, sumber pencemaran dalam setiap bentuk yang mungkin. Ax kemanusiaan dan perubahan iklim akan diselesaikan. Ia bukan pilihan yang akan diambil oleh pembuat keputusan manusia, seseorang berharap, tetapi AI akan mencari penyelesaiannya sendiri - tidak dapat ditembusi dan tidak dibebani oleh keengganan manusia untuk menyebabkan kemudaratan. Dan jika ia mempunyai kuasa eksekutif, mungkin tiada apa-apa yang menghalangnya daripada meneruskan.
Memberi AI keupayaan untuk mengambil keputusan eksekutif dalam kawalan trafik udara mungkin satu kesilapan. Gorodenkoff / Shutterstock
Senario sabotaj
Bagaimana pula dengan mensabotaj sensor dan monitor mengawal ladang makanan? Ini mungkin berlaku secara beransur-ansur pada mulanya, menolak kawalan hanya melepasi titik kritis supaya tiada manusia menyedari tanaman dikutuk. Di bawah senario tertentu, ini boleh menyebabkan kebuluran dengan cepat.
Sebagai alternatif, bagaimana pula dengan menutup kawalan trafik udara secara global, atau hanya menghempas semua pesawat yang terbang pada satu-satu masa? Kira-kira 22,000 pesawat biasanya berada di udara serentak, yang menambah kepada potensi kematian beberapa juta orang.
Jika anda fikir kita jauh daripada berada dalam situasi itu, fikirkan semula. AI sudah memandu kereta dan menerbangkan pesawat tentera, secara autonomi.
Sebagai alternatif, bagaimana pula dengan menutup akses kepada akaun bank di seluruh wilayah di dunia, mencetuskan kekacauan awam di mana-mana sekali gus? Atau mematikan sistem pemanasan terkawal komputer pada pertengahan musim sejuk, atau sistem penghawa dingin pada puncak musim panas?
Ringkasnya, sistem AI tidak perlu bertanggungjawab ke atas senjata nuklear untuk mewakili ancaman serius kepada manusia. Tetapi semasa kita membincangkan topik ini, jika sistem AI cukup berkuasa dan cukup pintar, ia boleh mencari cara untuk memalsukan serangan ke atas negara dengan senjata nuklear, mencetuskan tindakan balas yang dimulakan oleh manusia.
Bolehkah AI membunuh sejumlah besar manusia? Jawapannya mestilah ya, secara teori. Tetapi ini sebahagian besarnya bergantung kepada manusia yang memutuskan untuk memberikannya kawalan eksekutif. Saya tidak boleh memikirkan apa-apa yang lebih menakutkan daripada AI yang boleh membuat keputusan dan mempunyai kuasa untuk melaksanakannya.
Tentang Pengarang
Guillaume Thierry, Profesor Neurosains Kognitif, Bangor University
Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.
