Imej oleh Susan Cipriano
Daripada Editor:
Seperti yang diserlahkan dalam artikel ini, pembangunan kempen politik yang dipacu AI, seperti mesin hipotesis yang dipanggil Clogger, boleh menjejaskan integriti pilihan raya secara mendalam. Dengan memanfaatkan automasi, pemesejan yang disesuaikan dan pembelajaran pengukuhan, mesin ini berpotensi untuk memanipulasi dan mengubah tingkah laku pengundi secara besar-besaran.
Dalam era di mana kecerdasan buatan (AI) berkembang pesat, kita mesti sentiasa berwaspada terhadap potensi ancaman yang ditimbulkannya kepada proses demokrasi kita. Kemunculan kempen yang dipacu AI mencabar intipati demokrasi. Daripada pilihan raya ditentukan oleh kuasa idea, cadangan dasar, dan pilihan pengundi yang tulen, mereka boleh dipengaruhi oleh mesin yang tertumpu semata-mata kepada kemenangan. Kandungan yang berlaku akan datang daripada model bahasa AI tanpa mengambil kira kebenaran atau prinsip politik. Pada dasarnya, keputusan pilihan raya akan ditentukan oleh kecerdasan buatan, menghakis proses demokrasi.
Untuk mengelakkan kebangkitan "klogokrasi" dan kehilangan kuasa rakyat, adalah penting untuk kita mengambil tindakan. Perlindungan privasi yang dipertingkatkan dan undang-undang privasi data yang kukuh boleh membantu mengehadkan akses mesin AI kepada data peribadi, mengurangkan keberkesanannya dalam menyasarkan dan memanipulasi individu. Suruhanjaya pilihan raya juga harus mempertimbangkan untuk melarang atau mengawal ketat sistem AI yang direka untuk mempengaruhi pengundi. Melaksanakan peraturan yang memerlukan penafian yang jelas apabila mesej yang dijana AI digunakan dalam kempen politik. Ini boleh memberikan ketelusan dan membantu pengundi membuat keputusan termaklum.
Adalah penting untuk kita menangani cabaran ini secara proaktif dan memastikan bahawa kuasa AI dimanfaatkan secara bertanggungjawab untuk menegakkan prinsip demokrasi. Dengan menjaga integriti pilihan raya dan melindungi kebebasan memilih, kita boleh mengemudi kerumitan AI dan memelihara asas tadbir urus demokrasi.
Bagaimana AI boleh mengambil alih pilihan raya - dan menjejaskan demokrasi
Ditulis oleh Archon Fung, Profesor Kewarganegaraan dan Pemerintahan Sendiri, Sekolah Harvard Kennedy and Lawrence Lessig, Profesor Undang-undang dan Kepimpinan, Universiti Harvard
Bolehkah organisasi menggunakan model bahasa kecerdasan buatan seperti ChatGPT untuk mendorong pengundi berkelakuan dengan cara tertentu?
Sen. Josh Hawley bertanyakan kepada Ketua Pegawai Eksekutif OpenAI Sam Altman soalan ini dalam a 16 Mei 2023, pendengaran Senat AS pada kecerdasan buatan. Altman menjawab bahawa dia sememangnya bimbang bahawa sesetengah orang mungkin menggunakan model bahasa untuk memanipulasi, memujuk dan terlibat dalam interaksi satu lawan satu dengan pengundi.
Altman tidak menjelaskan secara terperinci, tetapi dia mungkin memikirkan sesuatu senario ini. Bayangkan tidak lama lagi, ahli teknologi politik membangunkan mesin yang dipanggil Clogger - kempen politik dalam kotak hitam. Clogger tidak henti-henti mengejar hanya satu objektif: untuk memaksimumkan peluang calonnya – kempen yang membeli perkhidmatan Clogger Inc. – diguna pakai dalam pilihan raya.
Walaupun platform seperti Facebook, Twitter dan YouTube menggunakan bentuk AI untuk menarik pengguna menghabiskan lebih banyak masa di tapak mereka, AI Clogger akan mempunyai objektif yang berbeza: untuk mengubah tingkah laku pengundian orang ramai.
Bagaimana Clogger akan berfungsi
Sebagai saintis politik dan sarjana undang-undang yang mengkaji persimpangan teknologi dan demokrasi, kami percaya bahawa sesuatu seperti Clogger boleh menggunakan automasi untuk meningkatkan skala secara mendadak dan berpotensi keberkesanan manipulasi tingkah laku dan teknik penyasaran mikro bahawa kempen politik telah digunakan sejak awal tahun 2000-an. Sama seperti pengiklan menggunakan sejarah penyemakan imbas dan media sosial anda untuk menyasarkan iklan komersial dan politik secara individu sekarang, Clogger akan memberi perhatian kepada anda – dan ratusan juta pengundi lain – secara individu.
Ia akan menawarkan tiga kemajuan ke atas manipulasi tingkah laku algoritma terkini yang terkini. Pertama, model bahasanya akan menghasilkan mesej — teks, media sosial dan e-mel, mungkin termasuk imej dan video — disesuaikan untuk anda secara peribadi. Walaupun pengiklan secara strategik meletakkan bilangan iklan yang agak kecil, model bahasa seperti ChatGPT boleh menjana mesej unik yang tidak terkira banyaknya untuk anda secara peribadi – dan berjuta-juta untuk orang lain – sepanjang kempen.
Kedua, Clogger akan menggunakan teknik yang dipanggil pembelajaran tetulang untuk menjana berturut-turut mesej yang menjadi semakin berkemungkinan mengubah undi anda. Pembelajaran pengukuhan ialah pendekatan pembelajaran mesin, percubaan dan kesilapan di mana komputer mengambil tindakan dan mendapat maklum balas tentang kerja yang lebih baik untuk mempelajari cara mencapai objektif. Mesin yang boleh bermain Go, Catur dan banyak permainan video lebih baik daripada manusia mana pun telah menggunakan pembelajaran pengukuhan.
Bagaimana pembelajaran peneguhan berfungsi.
Ketiga, sepanjang kempen, mesej Clogger boleh berkembang untuk mengambil kira respons anda terhadap penghantaran sebelumnya mesin dan perkara yang telah dipelajari tentang mengubah fikiran orang lain. Clogger akan dapat meneruskan "perbualan" dinamik dengan anda - dan berjuta-juta orang lain - dari semasa ke semasa. Mesej Clogger akan serupa dengan iklan yang mengikuti anda merentasi laman web dan media sosial yang berbeza.
Sifat AI
Tiga lagi ciri - atau pepijat - patut diberi perhatian.
Pertama, mesej yang dihantar oleh Clogger mungkin berunsur politik atau tidak. Satu-satunya matlamat mesin adalah untuk memaksimumkan bahagian undi, dan ia mungkin akan merangka strategi untuk mencapai matlamat ini yang tidak pernah difikirkan oleh manusia yang berkempen.
Satu kemungkinan ialah menghantar maklumat pengundi lawan yang berkemungkinan tentang keghairahan bukan politik yang mereka miliki dalam sukan atau hiburan untuk menguburkan mesej politik yang mereka terima. Satu lagi kemungkinan ialah menghantar mesej yang tidak masuk akal – contohnya iklan inkontinens – bertepatan dengan pemesejan pihak lawan. Dan satu lagi adalah memanipulasi kumpulan rakan media sosial pengundi untuk memberi pengertian bahawa kalangan sosial mereka menyokong calonnya.
Kedua, Clogger tidak mengambil kira kebenaran. Sesungguhnya, ia tidak mempunyai cara untuk mengetahui apa yang benar atau salah. Model bahasa "halusinasi" tidak menjadi masalah untuk mesin ini kerana objektifnya adalah untuk menukar undi anda, bukan untuk memberikan maklumat yang tepat.
Ketiga, kerana ia adalah a kotak hitam jenis kecerdasan buatan, orang ramai tidak mempunyai cara untuk mengetahui strategi yang digunakannya.
Bidang AI yang boleh dijelaskan bertujuan untuk membuka kotak hitam bagi banyak model pembelajaran mesin supaya orang ramai dapat memahami cara ia berfungsi.
Klogokrasi
Jika kempen presiden Republikan menggunakan Clogger pada 2024, kempen Demokrat mungkin akan terpaksa bertindak balas dalam bentuk yang serupa, mungkin dengan mesin yang serupa. Panggil ia Dogger. Jika pengurus kempen berpendapat bahawa mesin ini berkesan, pertandingan presiden mungkin berlaku kepada Clogger lwn. Dogger, dan pemenangnya ialah pelanggan mesin yang lebih berkesan.
Para saintis politik dan pakar akan mempunyai banyak perkara untuk dikatakan tentang mengapa satu atau yang lain AI berjaya, tetapi mungkin tiada siapa yang benar-benar tahu. Presiden akan dipilih bukan kerana cadangan dasar atau idea politiknya meyakinkan lebih ramai rakyat Amerika, tetapi kerana dia mempunyai AI yang lebih berkesan. Kandungan yang memenangi hari itu akan datang daripada AI yang tertumpu semata-mata pada kemenangan, tanpa idea politiknya sendiri, dan bukannya daripada calon atau parti.
Dalam pengertian yang sangat penting ini, sebuah jentera akan memenangi pilihan raya dan bukannya seorang. Pilihan raya tidak lagi demokratik, walaupun semua aktiviti biasa demokrasi - ucapan, iklan, mesej, pengundian dan pengiraan undi - telah berlaku.
Presiden yang dipilih AI kemudiannya boleh pergi ke salah satu daripada dua cara. Dia boleh menggunakan mantel pilihan raya untuk meneruskan dasar parti Republikan atau Demokrat. Tetapi kerana idea parti mungkin tidak mempunyai kaitan dengan mengapa orang mengundi seperti yang mereka lakukan – Clogger dan Dogger tidak mengambil berat tentang pandangan dasar – tindakan presiden tidak semestinya mencerminkan kehendak pengundi. Pengundi akan dimanipulasi oleh AI dan bukannya memilih pemimpin dan dasar politik mereka secara bebas.
Satu lagi laluan adalah untuk presiden meneruskan mesej, tingkah laku dan dasar yang mesin ramalkan akan memaksimumkan peluang pemilihan semula. Di jalan ini, presiden tidak akan mempunyai platform atau agenda tertentu selain mengekalkan kuasa. Tindakan presiden, dipandu oleh Clogger, adalah tindakan yang paling mungkin untuk memanipulasi pengundi daripada memenuhi kepentingan sebenar mereka atau malah ideologi presiden sendiri.
Mengelakkan Clogokrasi
Adalah mungkin untuk mengelakkan manipulasi pilihan raya AI jika calon, kempen dan perunding semuanya bersumpah untuk menggunakan AI politik tersebut. Kami percaya itu tidak mungkin. Sekiranya kotak hitam berkesan dari segi politik dibangunkan, godaan untuk menggunakannya hampir tidak dapat dilawan. Sesungguhnya, perunding politik mungkin melihat menggunakan alat ini seperti yang diperlukan oleh tanggungjawab profesional mereka untuk membantu calon mereka menang. Dan apabila seorang calon menggunakan alat yang begitu berkesan, pihak lawan sukar dijangka untuk menentang dengan melucutkan senjata secara unilateral.
Perlindungan privasi yang dipertingkatkan akan membantu. Clogger akan bergantung pada akses kepada sejumlah besar data peribadi untuk menyasarkan individu, mencipta mesej yang disesuaikan untuk memujuk atau memanipulasi mereka, dan menjejaki dan menyasarkan semula mereka sepanjang kempen. Setiap maklumat yang syarikat atau penggubal dasar menafikan mesin akan menjadikannya kurang berkesan.
Undang-undang privasi data yang kukuh boleh membantu mengelakkan AI daripada menjadi manipulatif.
Penyelesaian lain terletak pada suruhanjaya pilihan raya. Mereka boleh cuba mengharamkan atau mengawal selia mesin ini dengan teruk. Ada perdebatan sengit tentang sama ada sedemikian ucapan "replika"., walaupun ia bersifat politik, boleh dikawal. Tradisi kebebasan bersuara yang melampau AS menyebabkan ramai ahli akademik terkemuka mengatakan ia tidak boleh.
Tetapi tiada sebab untuk memanjangkan perlindungan Pindaan Pertama secara automatik kepada produk mesin ini. Negara mungkin memilih untuk memberikan hak kepada mesin, tetapi itu harus menjadi keputusan berdasarkan cabaran hari ini, bukan andaian yang salah bahawa pandangan James Madison pada tahun 1789 bertujuan untuk digunakan untuk AI.
Pengawal selia Kesatuan Eropah bergerak ke arah ini. Pembuat dasar menyemak draf Akta Kepintaran Buatan Parlimen Eropah untuk menetapkan "sistem AI untuk mempengaruhi pengundi dalam kempen" sebagai "berisiko tinggi" dan tertakluk kepada penelitian kawal selia.
Satu langkah yang lebih selamat dari segi perlembagaan, jika lebih kecil, sudah diterima pakai sebahagiannya oleh Pengawal selia internet Eropah dan dalam California, adalah untuk melarang bot daripada menganggap diri mereka sebagai manusia. Sebagai contoh, peraturan mungkin memerlukan mesej kempen disertakan dengan penafian apabila kandungan yang terkandung di dalamnya dihasilkan oleh mesin dan bukannya manusia.
Ini akan menjadi seperti keperluan penafian pengiklanan - "Dibayar oleh Jawatankuasa Sam Jones untuk Kongres" - tetapi diubah suai untuk mencerminkan asal AInya: "Iklan yang dijana AI ini telah dibayar oleh Jawatankuasa Sam Jones untuk Kongres." Versi yang lebih kukuh mungkin memerlukan: "Mesej yang dijana AI ini dihantar kepada anda oleh Sam Jones untuk Jawatankuasa Kongres kerana Clogger telah meramalkan bahawa berbuat demikian akan meningkatkan peluang anda untuk mengundi Sam Jones sebanyak 0.0002%. Sekurang-kurangnya, kami percaya pengundi berhak mengetahui bila bot yang bercakap dengan mereka, dan mereka juga harus tahu sebabnya.
Kemungkinan sistem seperti Clogger menunjukkan bahawa laluan ke arah ketidakupayaan kolektif manusia mungkin tidak memerlukan manusia super kecerdasan am buatan. Ia mungkin hanya memerlukan juru kempen dan perunding yang terlalu bersemangat yang mempunyai alatan baharu yang berkuasa yang boleh menekan butang berjuta-juta orang dengan berkesan.
Mengenai Pengarang
Archon Fung, Profesor Kewarganegaraan dan Pemerintahan Sendiri, Sekolah Harvard Kennedy and Lawrence Lessig, Profesor Undang-undang dan Kepimpinan, Universiti Harvard
Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.
Tambahan Editor: Potensi AI untuk mengambil alih pilihan raya dan menjejaskan demokrasi adalah kebimbangan mendesak yang menuntut perhatian kita. Seperti yang telah diketengahkan oleh artikel ini, kebangkitan kempen politik dipacu AI seperti Clogger boleh membentuk semula hasil pilihan raya, dengan mesin mempengaruhi tingkah laku pengundi pada skala yang belum pernah berlaku sebelum ini. Akibat daripada peralihan sedemikian akan menjadi jauh, dengan pilihan raya ditentukan bukan oleh kehendak rakyat tetapi oleh keberkesanan manipulasi AI.
Untuk mengelakkan kehilangan kuasa rakyat ini dan menjaga demokrasi, kita mesti mengambil langkah proaktif. Perlindungan privasi dan peraturan yang teguh yang mengehadkan pengaruh sistem AI dalam pilihan raya adalah penting. Dengan memastikan ketelusan, menguatkuasakan penafian yang jelas untuk kandungan yang dijana AI, dan menggalakkan penggunaan AI yang bertanggungjawab, kami dapat menegakkan integriti proses demokrasi dan melindungi nilai asas masyarakat kita.
Adalah penting untuk kita terus berwaspada dan bekerja secara kolektif untuk mengharungi cabaran yang ditimbulkan oleh AI dalam pilihan raya. Dengan berbuat demikian, kita boleh mengekalkan cita-cita demokrasi yang menyokong masyarakat kita dan menjamin masa depan di mana kuasa teknologi sejajar dengan kepentingan dan aspirasi rakyat.
Buku berkaitan:
Mengenai Kezaliman: Dua Puluh Pengajaran dari Abad Kedua Puluh
oleh Timothy Snyder
Buku ini menawarkan pengajaran daripada sejarah untuk memelihara dan mempertahankan demokrasi, termasuk kepentingan institusi, peranan individu warganegara, dan bahaya autoritarianisme.
Klik untuk maklumat lanjut atau untuk memesan
Masa Kita Sekarang: Kuasa, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang ahli politik dan aktivis, berkongsi visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktikal untuk penglibatan politik dan mobilisasi pengundi.
Klik untuk maklumat lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini mengkaji tanda-tanda amaran dan punca kerosakan demokrasi, menggunakan kajian kes dari seluruh dunia untuk menawarkan pandangan tentang cara menjaga demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Rakyat, No: Sejarah Ringkas Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Syarikat dan mengkritik ideologi "anti-populis" yang dihujahnya telah membantutkan pembaharuan dan kemajuan demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Bagaimana Ia Berfungsi, Mengapa Ia Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Fikirkan
oleh David Litt
Buku ini menawarkan gambaran keseluruhan demokrasi, termasuk kekuatan dan kelemahannya, dan mencadangkan pembaharuan untuk menjadikan sistem lebih responsif dan bertanggungjawab.
