Pembahagian Digital Baharu Antara Orang yang Memilih Daripada Algoritma Dan Orang Yang Tidak

Pembahagian Digital Baharu Antara Orang yang Memilih Daripada Algoritma Dan Orang Yang Tidak Adakah anda tahu apa yang berlaku apabila anda berkongsi data anda? mtkang / shutterstock.com

Setiap aspek kehidupan dapat dipandu oleh algoritma kecerdasan buatan - dari memilih laluan apa yang akan diambil untuk perjalanan pagi anda, untuk memutuskan siapa yang akan mengambil tarikh, kepada perkara-perkara yang berkaitan dengan undang-undang dan perundangan yang rumit seperti perletakan ramalan.

Syarikat-syarikat berteknologi tinggi seperti Google dan Facebook menggunakan AI untuk mendapatkan pandangan tentang data pelanggan terperinci mereka. Ini membolehkan mereka mengewangkan keutamaan kolektif pengguna melalui amalan seperti penyasaran mikro, strategi yang digunakan oleh pengiklan untuk menyasarkan pengguna tertentu.

Pada masa yang sama, ramai orang kini mempercayai platform dan algoritma lebih daripada kerajaan mereka sendiri dan masyarakat sivik. Kajian 2018 Oktober mencadangkan bahawa orang menunjukkan "penghargaan algoritma, "Setakat mana mereka akan bergantung pada nasihat lebih banyak apabila mereka menganggapnya dari algoritma daripada daripada manusia.

Pada masa lalu, pakar teknologi bimbang tentang a "Digital divide" antara mereka yang boleh mengakses komputer dan internet dan mereka yang tidak boleh. Isi rumah yang kurang mendapat akses kepada teknologi digital adalah kelemahan dalam keupayaan mereka untuk mendapatkan wang dan mengumpul kemahiran.

Tetapi, sebagai peranti digital berkembang, pembahagian tidak lagi hanya mengenai akses. Bagaimanakah orang menangani kelebihan maklumat dan kebanyakan keputusan algoritma yang menyerap setiap aspek kehidupan mereka?

Pengguna yang lebih bijak menjauhkan diri dari peranti dan menjadi sedar tentang bagaimana algoritma menjejaskan kehidupan mereka. Sementara itu, pengguna yang mempunyai maklumat kurang bergantung pada algoritma untuk membimbing keputusan mereka.

ketidaksamaan Sekiranya anda tetap bersambung - atau cabut plag? pryzmat / shutterstock.com


Dapatkan yang terbaru dari InnerSelf


Sos rahsia di belakang kecerdasan buatan

Sebab utama pembahagian digital baru, pada pendapat saya sebagai seseorang yang mengkaji sistem maklumat, itu begitu ramai orang memahami bagaimana algoritma berfungsi. Bagi majoriti pengguna, algoritma dilihat sebagai kotak hitam.

Algoritma AI mengambil data, sesuai dengan model matematik dan meletakkan ramalan, mulai dari lagu apa yang anda mungkin nikmati kepada berapa tahun yang dibelanjakan seseorang di penjara. Model-model ini dibangunkan dan ditapis berdasarkan data lepas dan kejayaan model sebelumnya. Kebanyakan orang - kadang kala pereka algoritma itu sendiri - tidak tahu apa yang masuk ke dalam model.

Penyelidik telah lama bimbang mengenai keadilan algoritma. Sebagai contoh, alat merekrut AI berasaskan Amazon ternyata memecat calon wanita. Sistem Amazon secara eksklusif mengekstrak kata-kata jantina yang tersirat - kata-kata yang lelaki lebih cenderung untuk digunakan dalam ucapan setiap hari, seperti "dilaksanakan" dan "ditangkap."

Kajian lain telah menunjukkan bahawa algoritma kehakiman adalah bersifat perkauman, menyalahkan defendan hitam yang buruk untuk lebih lama daripada yang lain.

Sebagai sebahagian daripada Peraturan Perlindungan Data Umum yang diluluskan baru-baru ini di Kesatuan Eropah, orang ramai mempunyai "Hak penjelasan" daripada kriteria yang digunakan oleh algoritma dalam keputusan mereka. Perundangan ini merawat proses pengambilan keputusan algoritma seperti buku resipi. Pemikiran itu mengatakan bahawa jika anda memahami resipi, anda boleh memahami bagaimana algoritma itu mempengaruhi kehidupan anda.

Sementara itu, beberapa penyelidik AI telah menolak untuk algoritma yang ada adil, bertanggungjawab dan telus, Serta boleh difahami, bermakna mereka harus mencapai keputusan mereka melalui proses yang dapat dipahami dan dipercayai oleh manusia.

Apa kesan ketelusan? In satu kajian, pelajar digred oleh algoritma dan memberikan penjelasan yang berbeza tentang bagaimana skor rakan sebaya mereka diselaraskan untuk mendapatkan gred akhir. Para pelajar dengan penjelasan yang lebih telus benar-benar percaya algoritma kurang. Ini, sekali lagi, mencadangkan pembahagian digital: Kesedaran algoritma tidak membawa kepada keyakinan yang lebih dalam sistem.

Tetapi ketelusan bukanlah ubat penawar. Walaupun proses keseluruhan algoritma dilukis, butiran mungkin masih terlalu rumit untuk pengguna memahami. Ketelusan akan membantu hanya pengguna yang cukup canggih untuk memahami algoritma selok-belok.

Sebagai contoh, di 2014, Ben Bernanke, bekas ketua Rizab Persekutuan, pada mulanya menafikan pembiayaan gadai janji oleh sistem automatik. Kebanyakan individu yang memohon untuk membiayai semula gadai janji itu tidak akan memahami bagaimana algoritma mungkin menentukan kelayakan kredit mereka.

ketidaksamaan Apa yang dikatakan algoritma untuk dilakukan hari ini? Maria Savenko / shutterstock.com

Memilih ekosistem maklumat baru

Walaupun algoritma mempengaruhi banyak nyawa orang, hanya sebahagian kecil peserta yang cukup canggih untuk terlibat sepenuhnya bagaimana algoritma menjejaskan kehidupan mereka.

Tidak banyak statistik tentang bilangan orang yang mengetahui algoritma. Kajian telah menemui bukti kebimbangan algoritma, yang membawa kepada ketidakseimbangan kuasa yang mendalam antara platform yang menggunakan algoritma dan pengguna yang bergantung kepada mereka.

Satu kajian penggunaan Facebook mendapati bahawa apabila para peserta dimaklumkan tentang algoritma Facebook untuk mengendalikan suapan berita, kira-kira 83% peserta mengubahsuai tingkah laku mereka untuk cuba memanfaatkan algoritma, manakala sekitar 10% menurunkan penggunaan Facebook mereka.

Laporan 2018 November dari Pusat Penyelidikan Pew mendapati bahawa majoriti orang ramai mempunyai kebimbangan yang ketara mengenai penggunaan algoritma untuk kegunaan tertentu. Ia mendapati bahawa 66% menyangka ia tidak adil bagi algoritma untuk mengira skor kewangan peribadi, manakala 57% mengatakan perkara yang sama mengenai pemeriksaan resume automatik.

Sebilangan kecil individu menjalankan beberapa kawalan ke atas bagaimana algoritma menggunakan data peribadi mereka. Sebagai contoh, platform Hu-Manity membolehkan pengguna pilihan untuk mengawal berapa banyak data mereka dikumpulkan. Ensiklopedia dalam talian Everipedia menawarkan pengguna keupayaan untuk menjadi pemegang kepentingan dalam proses pengunduran, yang bermaksud bahawa pengguna juga boleh mengawal bagaimana maklumat diagregatkan dan disajikan kepada mereka.

Walau bagaimanapun, sebahagian besar platform tidak memberikan kelonggaran sedemikian kepada pengguna akhir mereka atau hak untuk memilih bagaimana algoritma menggunakan keutamaan mereka dalam mengendalikan suapan berita mereka atau mengesyorkan mereka kandungan. Sekiranya terdapat pilihan, pengguna mungkin tidak tahu mengenainya. Mengenai 74% pengguna Facebook berkata dalam tinjauan bahawa mereka berada tidak menyedari bagaimana platform menyifatkan kepentingan peribadi mereka.

Pada pandangan saya, literasi digital yang baru tidak menggunakan komputer atau berada di internet, tetapi memahami dan menilai akibat dari gaya hidup yang sentiasa dipasangkan.

Gaya hidup ini mempunyai kesan yang bermakna bagaimana orang berinteraksi dengan orang lain; keupayaan mereka untuk perhatikan maklumat baru; dan seterusnya kerumitan proses membuat keputusan mereka.

Peningkatan kecemasan algoritmik juga boleh dicerminkan oleh peralihan selari dalam ekonomi. Sekumpulan kecil individu menangkap keuntungan dari automasi, sementara ramai pekerja berada di a kedudukan yang tidak menentu.

Memilih daripada kurasi algoritma adalah kemewahan - dan pada suatu hari menjadi lambang kemewahan yang terdapat hanya beberapa pilihan. Persoalannya ialah apa yang akan di ukur oleh orang-orang di sebelah yang salah dari jurang digital.

Tentang Pengarang

Anjana Susarla, Profesor Madya Sistem Maklumat, Michigan State University

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku-buku yang berkaitan

{amazonWS: searchindex = Books; keywords = digital divide; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf pada

icon-facebooktwitter-iconrss-icon

Dapatkan Yang Terbaru Dengan E-mel

{Emailcloak = mati}