Gergasi teknologi AS Microsoft telah bekerjasama dengan universiti tentera China untuk membina sistem perisikan buatan yang berpotensi meningkatkan keupayaan pengawasan dan penapisan kerajaan. Dua Senator AS dikecam secara terbuka perkongsian itu, tetapi apa yang Teknologi Pertahanan Kebangsaan Universiti China mahu dari Microsoft bukan satu-satunya kebimbangan.

As menunjukkan penyelidikan saya, kemunculan penindasan digital sangat menjejaskan hubungan antara warganegara dan negeri. Teknologi baru menyatupadukan kerajaan dengan keupayaan yang tidak pernah berlaku sebelum ini untuk memantau, mengesan dan mengesan individu individu. Malah kerajaan di demokrasi dengan tradisi kuat peraturan perundangan mendapati diri mereka tergoda untuk menyalahgunakan kebolehan baru ini.

Di negeri-negeri dengan institusi yang tidak dapat dipertikaikan dan pelanggaran hak asasi manusia yang kerap, Sistem AI kemungkinan besar akan menyebabkan kerosakan yang lebih besar. China adalah contoh yang menonjol. Kepimpinannya dengan penuh semangat memeluk teknologi AI, dan telah menubuhkan dunia paling canggih negeri pengawasan in Wilayah Xinjiang, menjejaki pergerakan harian rakyat dan menggunakan telefon pintar.

Eksploitasi teknologi ini membentangkan model penyejukan untuk rakan-rakan autokrat dan menimbulkan ancaman langsung untuk membuka masyarakat demokratik. Walaupun tidak ada bukti bahawa kerajaan-kerajaan lain telah mereplikasi tahap pengawasan AI ini, syarikat-perusahaan Cina secara aktif mengeksport teknologi asas yang sama di seluruh dunia.

Meningkatkan pergantungan pada alat AI di AS

Sistem perisikan buatan di mana-mana di dunia moden, membantu menjalankan telefon pintar, enjin carian internet, pembantu suara digital dan beratur filem Netflix. Ramai orang tidak sedar berapa cepat AI berkembang, terima kasih kepada jumlah data yang semakin meningkat untuk dianalisis, meningkatkan algoritma dan cip komputer canggih.

Sebaik sahaja maklumat lebih lanjut tersedia dan analisis menjadi lebih mudah, kerajaan berminat - dan bukan sekadar autoritarian. Di AS, misalnya, 1970s melihat wahyu bahawa agensi-agensi kerajaan - seperti FBI, CIA dan NSA - telah menubuhkan rangkaian pengawasan domestik yang luas untuk memantau dan mengganggu penunjuk perasaan hak asasi, aktivis politik dan kumpulan-kumpulan Native American. Isu-isu ini tidak hilang: Teknologi digital hari ini telah memperdalam keupayaan lebih banyak agensi untuk melakukan pengawasan yang lebih mengganggu.

Bagaimana algoritma yang agak diramal di mana polis harus paling terfokus? Arnout de Vries

Sebagai contoh, polis AS telah dengan pantas memeluk teknologi AI. Mereka telah mula menggunakan perisian yang bertujuan untuk meramalkan di mana jenayah akan berlaku untuk menentukan di mana untuk menghantar pegawai di rondaan. Mereka juga menggunakan pengecaman wajah and Analisis DNA dalam siasatan jenayah. Tetapi analisis sistem ini menunjukkan data di mana sistem tersebut dilatih selalunya berat sebelah, membawa kepada hasil yang tidak adil, Seperti dengan salah menentukan bahawa orang Afrika Afrika lebih cenderung untuk melakukan jenayah daripada kumpulan lain.

AI pengawasan di seluruh dunia

Di negara-negara autoritarian, sistem AI boleh secara langsung menyerang kawalan dan pengawasan dalam negeri, membantu Pasukan keselamatan dalaman memproses sejumlah besar maklumat - termasuk jawatan media sosial, mesej teks, e-mel dan panggilan telefon - lebih cepat dan cekap. Polis boleh mengenal pasti trend sosial dan orang tertentu yang mungkin mengancam rejim berdasarkan maklumat yang ditemui oleh sistem ini.

Sebagai contoh, kerajaan China telah menggunakan AI dalam tindakan keras secara luas di rantau yang menjadi etnik minoriti di China. Sistem pengawasan di Xinjiang dan Tibet telah digambarkan sebagai "Orwellian"Usaha ini telah dimasukkan sampel DNA mandatori, Pemantauan rangkaian Wi-Fi dan kamera pengiktirafan wajah yang meluas, semuanya bersambung dengan platform analisis data bersepadu. Dengan bantuan sistem ini, pihak berkuasa China mempunyai, menurut Jabatan Negara AS, "sewenang-wenangnya ditahan" antara 1 dan 2 juta orang.

My penyelidikan melihat negara-negara 90 di seluruh dunia dengan jenis kerajaan mulai dari autoritarian tertutup kepada demokrasi yang cacat, termasuk Thailand, Turki, Bangladesh dan Kenya. Saya telah mendapati bahawa syarikat-syarikat China mengeksport teknologi pengawasan AI sekurang-kurangnya 54 dari negara-negara ini. Sering kali, teknologi ini dibungkus sebagai sebahagian daripada perdana China Inisiatif Belt dan Jalan, yang membiayai rangkaian jalan raya, kereta api, saluran paip tenaga dan rangkaian telekomunikasi yang luas berkhidmat 60% penduduk dunia dan ekonomi yang menghasilkan 40% daripada KDNK global.

Sebagai contoh, syarikat-syarikat Cina suka Huawei dan ZTE sedang membina "bandar pintar" di Pakistan, di Filipina and Kenya, yang menampilkan teknologi pengawasan terbina dalam yang luas. Sebagai contoh, Huawei telah dilengkapi Bonifacio Global City di Filipina dengan kamera bersambung internet definisi tinggi yang menyediakan "24 / 7 pengawasan keselamatan pintar dengan analisis data untuk mengesan jenayah dan membantu menguruskan lalu lintas. "

Bonifacio Global City di Filipina mempunyai banyak peralatan pengawasan tertanam. alveo land / Wikimedia Commons

Hikvision, Yitu and SenseTime sedang membekalkan kamera pengiktirafan wajah yang canggih untuk digunakan di tempat-tempat seperti Singapura - yang mengumumkan penubuhan program pengawasan dengan Kamera 110,000 dipasang pada jawatan lampu di sekitar bandaraya. Zimbabwe sedang mencipta pangkalan data imej negara yang boleh digunakan untuk pengiktirafan muka.

Walau bagaimanapun, menjual peralatan canggih untuk keuntungan adalah berbeza daripada berkongsi teknologi dengan tujuan geopolitik yang jelas. Keupayaan baru ini boleh menanam benih untuk pengawasan global: Oleh kerana kerajaan semakin bergantung kepada teknologi China untuk menguruskan populasi mereka dan mengekalkan kuasa, mereka akan menghadapi tekanan yang lebih besar untuk diselaraskan dengan agenda China. Tetapi pada masa ini ternyata motif utama China adalah untuk menguasai pasaran untuk teknologi baru dan membuat banyak wang dalam proses itu.

AI dan disinformation

Di samping menyediakan keupayaan pengawasan yang baik menyapu dan halus, AI dapat membantu pemerintah menindas memanipulasi maklumat yang ada dan menyebarkan maklumat yang salah. Kempen ini boleh diautomatikasikan atau dibantu oleh automasi, dan digunakan mesej yang diperibadikan diarahkan pada - atau terhadap - orang tertentu atau kumpulan.

AI juga menyokong teknologi yang sering dipanggil "deepfake, "Di mana membuat algoritma video realistik dan pemalsuan audio. Muddying perairan antara kebenaran dan fiksyen boleh menjadi berguna dalam pilihan raya yang ketat, apabila satu calon boleh membuat video palsu yang menunjukkan lawan melakukan dan mengatakan perkara-perkara yang tidak pernah benar-benar berlaku.

Video inframerah awal menunjukkan beberapa bahaya teknologi canggih.

{vembed Y = cQ54GDm1eL0}

Pada pandangan saya, pembuat dasar dalam demokrasi perlu berfikir dengan teliti mengenai risiko sistem AI kepada masyarakat mereka sendiri dan kepada orang yang hidup di bawah rejim autoritarian di seluruh dunia. Persoalan kritikal ialah berapa banyak negara akan mengamalkan model pengawasan digital China. Tetapi ia bukan hanya negara-negara autoritarian yang merasakan tarikan. Dan juga bukan hanya syarikat China yang menyebarkan teknologi: Banyak syarikat AS, termasuk Microsoft, tetapi IBM, Cisco dan Thermo Fisher juga, telah memberikan keupayaan yang canggih kepada kerajaan jahat. Penyalahgunaan AI tidak terhad kepada negara-negara autokratik.

Tentang Pengarang

Steven Feldstein, Ketua Gereja Hal Ehwal Awam & Gereja Bethine & Profesor Madya, Sekolah Perkhidmatan Awam, Boise State University

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku-buku yang berkaitan

at InnerSelf Market dan Amazon