shutterstock.
Masyarakat barat individualistik dibina berdasarkan idea bahawa tidak ada yang tahu pemikiran, keinginan atau kegembiraan kita lebih baik daripada kita. Oleh itu, kita meletakkan diri kita, bukannya pemerintah, yang bertanggungjawab terhadap kehidupan kita. Kita cenderung bersetuju dengan ahli falsafah Tuntutan Immanuel Kant bahawa tidak ada yang berhak memaksa idea mereka tentang kehidupan yang baik kepada kita.
Kecerdasan buatan (AI) akan mengubahnya. Ia akan mengenal kita lebih baik daripada kita mengenali diri kita sendiri. Kerajaan yang bersenjatakan AI boleh mengaku tahu apa yang sebenarnya diinginkan oleh rakyatnya dan apa yang akan membuat mereka bahagia. Paling baik ia akan menggunakan ini untuk membenarkan paternalisme, paling buruk, totalitarianisme.
Setiap neraka dimulakan dengan janji syurga. Totaliterisme yang dipimpin oleh AI tidak akan berbeza. Kebebasan akan menjadi ketaatan kepada negara. Hanya yang tidak rasional, dengki atau subversif yang ingin memilih jalan mereka sendiri.
Untuk mengelakkan dystopia seperti itu, kita tidak boleh membiarkan orang lain mengetahui lebih banyak tentang diri kita daripada yang kita lakukan. Kita tidak boleh membiarkan jurang pengetahuan diri.
AI yang Maha Melihat
Pada tahun 2019, pelabur jutawan Peter Thiel mendakwa bahawa AI adalah “komunis secara harfiah" Dia menunjukkan bahawa AI membolehkan kuasa pemusat untuk memantau warga dan mengetahui lebih banyak tentang mereka daripada yang mereka tahu tentang diri mereka sendiri. China, Thiel menyatakan, dengan bersemangat merangkul AI.
Kami sudah mengetahui potensi AI menyokong totalitarianisme dengan menyediakan sistem pengawasan dan kawalan Orwellian. Tetapi AI juga memberikan senjata filosofis kepada totaliter. Selagi kita mengenali diri kita lebih baik daripada pemerintah, liberalisme dapat terus menghindarkan calon totaliter.
Tetapi AI telah mengubah permainan. Syarikat teknologi besar mengumpulkan sejumlah besar data mengenai tingkah laku kita. Algoritma pembelajaran mesin menggunakan data ini untuk mengira bukan hanya apa yang akan kita lakukan, tetapi siapa kita.
hari ini, AI boleh meramalkan filem apa yang akan kita sukai, berita apa yang ingin kita baca, dan siapa yang kita mahu berkawan di Facebook. Ia dapat meramalkan sama ada pasangan akan tinggal bersama dan jika kita mahu cubaan membunuh diri. Dari suka Facebook kami, AI boleh meramalkan pandangan agama, politik, keperibadian, kepandaian, penggunaan dadah dan kebahagiaan kita.
Ketepatan ramalan AI hanya akan bertambah baik. Pada masa depan yang tidak terlalu jauh, sebagai penulis Yuval noah harari telah mencadangkan, AI mungkin memberitahu kita siapa kita sebelum kita sendiri tahu.
Perkembangan ini mempunyai implikasi politik seismik. Sekiranya pemerintah dapat mengenali kita lebih baik daripada yang kita dapat, pembenaran baru terbuka untuk campur tangan dalam kehidupan kita. Mereka akan menzalimi kita atas nama kebaikan kita sendiri.
Kebebasan melalui kezaliman
Ahli falsafah Yesaya Berlin meramalkan ini pada tahun 1958. Dia mengenal pasti dua jenis kebebasan. Satu jenis, dia memberi amaran, akan membawa kepada kezaliman.
Kebebasan negatif adalah "kebebasan dari". Ini adalah kebebasan dari campur tangan orang lain atau pemerintah dalam urusan anda. Kebebasan negatif tidak ada orang lain yang dapat menahan anda, selagi anda tidak melanggar hak orang lain.
Sebaliknya, kebebasan positif adalah "kebebasan untuk". Merupakan kebebasan untuk menguasai diri sendiri, kebebasan untuk memenuhi keinginan sebenar, kebebasan untuk menjalani kehidupan yang rasional. Siapa yang tidak mahu ini?
Tetapi bagaimana jika orang lain mengatakan bahawa anda tidak bertindak untuk "kepentingan sejati" anda, walaupun mereka tahu bagaimana anda boleh. Sekiranya anda tidak akan mendengar, mereka mungkin memaksa anda untuk bebas - memaksa anda untuk "kebaikan anda sendiri". Ini adalah salah satu idea paling berbahaya yang pernah difikirkan. Ia membunuh puluhan juta orang di Kesatuan Soviet Stalin and Mao China.
Pemimpin Komunis Rusia, Lenin, dilaporkan mengatakan bahawa kapitalis akan menjual tali yang akan digantungnya. Peter Thiel telah berpendapat bahawa, dalam AI, firma teknologi kapitalis di Silicon Valley telah menjual komunisme sebagai alat yang mengancam untuk merosakkan masyarakat kapitalis demokratik. AI adalah tali Lenin.
Berjuang untuk diri kita sendiri
Kita hanya boleh mencegah distopia seperti itu jika tidak ada yang dibenarkan untuk mengenali kita lebih baik daripada kita mengenali diri kita sendiri. Kita tidak boleh pernah sentimental terhadap orang yang mencari kuasa seperti kita dengan niat baik. Dari segi sejarah, ini hanya berakhir dengan malapetaka.
Salah satu cara untuk mengelakkan jurang pengetahuan diri adalah dengan meningkatkan perisai privasi kita. Thiel, yang melabel AI sebagai komunis, berpendapat bahawa “crypto adalah libertarian" Cryptocurrency boleh menjadi "membolehkan privasi" Privasi mengurangkan kemampuan orang lain untuk mengenali kita dan kemudian menggunakan pengetahuan ini untuk memanipulasi kita untuk keuntungan mereka sendiri.
Namun mengenali diri kita dengan lebih baik melalui AI menawarkan faedah yang hebat. Kita mungkin dapat menggunakannya untuk lebih memahami apa yang akan membuat kita bahagia, sihat dan kaya. Ia boleh membantu panduan pilihan kerjaya kita. Secara lebih umum, AI berjanji untuk mewujudkan pertumbuhan ekonomi Bahawa menjauhkan kita dari kerongkong masing-masing.
Masalahnya ialah bukan AI meningkatkan pengetahuan diri kita. Masalahnya ialah perbezaan kuasa dalam apa yang diketahui mengenai kita. Pengetahuan tentang kita secara eksklusif di tangan orang lain adalah kuasa mengatasi kita. Tetapi pengetahuan tentang diri kita sendiri adalah kekuatan untuk kita.
Sesiapa sahaja yang memproses data kami untuk mencipta pengetahuan tentang kita harus diwajibkan secara sah untuk memberikan kembali pengetahuan itu kepada kita. Kita perlu mengemas kini idea “tiada tentang kita tanpa kita"Untuk usia AI.
Apa yang AI memberitahu kita tentang diri kita adalah untuk kita mempertimbangkan untuk menggunakan, bukan untuk orang lain mendapat keuntungan dari penyalahgunaan. Hanya boleh ada satu tangan di jiwa kita. Dan itu mesti menjadi milik kita.
Tentang Pengarang
Simon McCarthy-Jones, Profesor Madya dalam Psikologi Klinikal dan Neuropsychologi, Trinity College Dublin
Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.
Buku berkaitan:
Mengenai Kezaliman: Dua Puluh Pengajaran dari Abad Kedua Puluh
oleh Timothy Snyder
Buku ini menawarkan pengajaran daripada sejarah untuk memelihara dan mempertahankan demokrasi, termasuk kepentingan institusi, peranan individu warganegara, dan bahaya autoritarianisme.
Klik untuk maklumat lanjut atau untuk memesan
Masa Kita Sekarang: Kuasa, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang ahli politik dan aktivis, berkongsi visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktikal untuk penglibatan politik dan mobilisasi pengundi.
Klik untuk maklumat lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini mengkaji tanda-tanda amaran dan punca kerosakan demokrasi, menggunakan kajian kes dari seluruh dunia untuk menawarkan pandangan tentang cara menjaga demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Rakyat, No: Sejarah Ringkas Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Syarikat dan mengkritik ideologi "anti-populis" yang dihujahnya telah membantutkan pembaharuan dan kemajuan demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Bagaimana Ia Berfungsi, Mengapa Ia Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Fikirkan
oleh David Litt
Buku ini menawarkan gambaran keseluruhan demokrasi, termasuk kekuatan dan kelemahannya, dan mencadangkan pembaharuan untuk menjadikan sistem lebih responsif dan bertanggungjawab.
