AI tidak mungkin memperhambakan manusia, tetapi ia boleh mengambil alih banyak aspek kehidupan kita. elenabs/iStock melalui Getty Images

Kebangkitan ChatGPT dan sistem kecerdasan buatan yang serupa telah disertai dengan peningkatan yang mendadak peningkatan kebimbangan tentang AI. Sejak beberapa bulan lalu, eksekutif dan penyelidik keselamatan AI telah menawarkan ramalan, digelar “P(azab),” tentang kebarangkalian bahawa AI akan membawa malapetaka berskala besar.

Kebimbangan memuncak pada Mei 2023 apabila organisasi penyelidikan dan advokasi bukan untung Center for AI Safety dikeluarkan pernyataan satu ayat: "Mengurangkan risiko kepupusan daripada AI harus menjadi keutamaan global di samping risiko berskala masyarakat yang lain, seperti wabak dan perang nuklear." Kenyataan itu ditandatangani oleh ramai pemain utama dalam bidang itu, termasuk pemimpin OpenAI, Google dan Anthropic, serta dua daripada apa yang dipanggil "godfathers" AI: Geoffrey Hinton and Yoshua Bengio.

Anda mungkin bertanya bagaimana ketakutan eksistensial seperti itu sepatutnya berlaku. Satu senario terkenal ialah "pemaksimum klip kertas” eksperimen pemikiran yang diutarakan oleh ahli falsafah Oxford Nick Bostrom. Ideanya ialah sistem AI yang ditugaskan untuk menghasilkan seberapa banyak klip kertas yang mungkin mungkin pergi ke tahap yang luar biasa untuk mencari bahan mentah, seperti memusnahkan kilang dan menyebabkan kemalangan kereta.

A variasi kurang intensif sumber mempunyai AI yang ditugaskan untuk mendapatkan tempahan ke restoran popular yang menutup rangkaian selular dan lampu isyarat untuk menghalang pelanggan lain daripada mendapatkan meja.

Bekalan pejabat atau makan malam, idea asasnya adalah sama: AI pantas menjadi kecerdasan asing, pandai mencapai matlamat tetapi berbahaya kerana ia tidak semestinya sejajar dengan nilai moral penciptanya. Dan, dalam versi yang paling ekstrem, hujah ini berubah menjadi kebimbangan yang jelas tentang AI memperhambakan atau memusnahkan umat manusia.

AI yang membuat klip kertas mengamuk ialah satu varian senario kiamat AI.

Kemudaratan sebenar

Dalam beberapa tahun kebelakangan ini, saya dan rakan sekerja di Pusat Etika Gunaan UMass Boston telah mengkaji kesan penglibatan dengan AI terhadap pemahaman orang ramai tentang diri mereka sendiri, dan saya percaya kebimbangan bencana ini adalah berlebihan dan tersalah arah.

Ya, keupayaan AI untuk mencipta video dan audio palsu mendalam yang meyakinkan adalah menakutkan, dan ia boleh disalahgunakan oleh orang yang mempunyai niat jahat. Malah, itu sudah berlaku: Koperasi Rusia mungkin cuba memalukan pengkritik Kremlin Bill Browder dengan menjeratnya dalam perbualan dengan avatar bekas Presiden Ukraine Petro Poroshenko. Penjenayah siber telah menggunakan pengklonan suara AI untuk pelbagai jenayah – daripada rompakan berteknologi tinggi kepada penipuan biasa.

Sistem membuat keputusan AI yang menawarkan kelulusan pinjaman dan cadangan pengambilan pekerja membawa risiko bias algoritma, memandangkan data latihan dan model keputusan yang mereka jalankan mencerminkan prasangka sosial yang telah lama wujud.

Ini adalah masalah besar, dan ia memerlukan perhatian penggubal dasar. Tetapi mereka telah wujud untuk sementara waktu, dan mereka hampir tidak bencana.

Bukan dalam liga yang sama

Kenyataan daripada Pusat Keselamatan AI menyatukan AI dengan wabak dan senjata nuklear sebagai risiko utama kepada tamadun. Terdapat masalah dengan perbandingan itu. COVID-19 mengakibatkan hampir 7 juta kematian di seluruh dunia, dibawa pada a krisis kesihatan mental yang besar dan berterusan dan dicipta cabaran ekonomi, termasuk kekurangan rantaian bekalan kronik dan inflasi lari.

Senjata nuklear mungkin terbunuh lebih daripada 200,000 orang di Hiroshima dan Nagasaki pada tahun 1945, meragut lebih banyak nyawa akibat kanser pada tahun-tahun berikutnya, menjana kebimbangan yang mendalam selama beberapa dekad semasa Perang Dingin dan membawa dunia ke ambang kehancuran semasa krisis Peluru Berpandu Cuba pada tahun 1962. Mereka juga telah mengubah pengiraan pemimpin negara bagaimana untuk bertindak balas terhadap pencerobohan antarabangsa, seperti yang kini bermain dengan pencerobohan Rusia ke atas Ukraine.

AI hampir tidak mendapat keupayaan untuk melakukan kerosakan seperti ini. Senario klip kertas dan lain-lain seperti itu adalah fiksyen sains. Aplikasi AI sedia ada melaksanakan tugas tertentu dan bukannya membuat pertimbangan yang luas. Teknologinya ialah jauh dari mampu membuat keputusan dan kemudian merancang matlamat dan matlamat bawahan yang diperlukan untuk menutup lalu lintas untuk memberi anda tempat duduk di restoran, atau meletupkan kilang kereta untuk memuaskan kegatalan anda untuk klip kertas.

Teknologi ini bukan sahaja tidak mempunyai kapasiti rumit untuk pertimbangan berbilang lapisan yang terlibat dalam senario ini, teknologi ini juga tidak mempunyai akses autonomi kepada bahagian infrastruktur kritikal kami yang mencukupi untuk mula menyebabkan kerosakan seperti itu.

Apa artinya menjadi manusia

Sebenarnya, terdapat bahaya wujud yang wujud dalam menggunakan AI, tetapi risiko itu wujud dalam pengertian falsafah dan bukannya apokaliptik. AI dalam bentuk semasa boleh mengubah cara orang melihat diri mereka sendiri. Ia boleh merendahkan kebolehan dan pengalaman yang orang anggap penting untuk menjadi manusia.

Sebagai contoh, manusia adalah makhluk yang membuat pertimbangan. Orang ramai secara rasional menimbang butir-butir dan membuat panggilan penghakiman harian di tempat kerja dan semasa masa lapang tentang siapa yang hendak diambil, siapa yang patut mendapatkan pinjaman, apa yang perlu ditonton dan sebagainya. Tetapi semakin banyak penghakiman ini diautomasikan dan dikembangkan kepada algoritma. Apabila itu berlaku, dunia tidak akan berakhir. Tetapi orang secara beransur-ansur akan kehilangan keupayaan untuk membuat pertimbangan ini sendiri. Semakin sedikit daripada mereka yang dibuat orang, semakin teruk mereka berkemungkinan untuk membuatnya.

Atau pertimbangkan peranan peluang dalam kehidupan manusia. Manusia menghargai pertemuan yang kebetulan: bertemu tempat, orang atau aktiviti secara tidak sengaja, tertarik ke dalamnya dan secara retrospektif menghargai peranan kemalangan yang dimainkan dalam penemuan bermakna ini. Tetapi peranan enjin cadangan algoritma adalah untuk kurangkan serendipity macam tu dan menggantikannya dengan perancangan dan ramalan.

Akhir sekali, pertimbangkan keupayaan menulis ChatGPT. Teknologi tersebut sedang dalam proses menghapuskan peranan penulisan tugasan di peringkat pengajian tinggi. Jika ia berlaku, pendidik akan kehilangan alat utama untuk mengajar pelajar cara berfikir secara kritis.

Tidak mati tetapi berkurangan

Jadi, tidak, AI tidak akan meletupkan dunia. Tetapi pelukan yang semakin tidak kritis terhadapnya, dalam pelbagai konteks sempit, bermakna hakisan beransur-ansur beberapa kemahiran terpenting manusia. Algoritma sudah menjejaskan keupayaan orang ramai untuk membuat pertimbangan, menikmati pertemuan yang kebetulan dan mengasah pemikiran kritis.

Spesies manusia akan bertahan dengan kerugian tersebut. Tetapi cara kita sedia ada akan menjadi miskin dalam proses itu. Kebimbangan hebat mengenai bencana AI yang akan datang, ketunggalan, Skynet, atau walau bagaimanapun anda memikirkannya, mengaburkan kos yang lebih halus ini. Ingat baris penutup terkenal TS Eliot tentang “Lelaki Hollow”: “Inilah cara dunia berakhir,” tulisnya, “bukan dengan dentuman tetapi rengekan.”

Tentang Pengarang

Nir Eisikovits, Profesor Falsafah dan Pengarah, Pusat Etika Gunaan, UMass Boston

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.