Shutterstock.

Sama ada anda menyedari atau bersetuju dengannya, data besar boleh menjejaskan anda dan bagaimana anda menjalani hidup anda. Data yang kami buat ketika menggunakan media sosial, melayari internet dan memakai tracker kecergasan semua dikumpulkan, dikategorikan dan digunakan oleh perniagaan and Negeri untuk membuat profil kami. Profil ini kemudiannya digunakan untuk menyasarkan iklan untuk produk dan perkhidmatan kepada mereka yang paling mungkin membelinya, atau untuk memaklumkan keputusan kerajaan.

Data besar membolehkan negara dan syarikat mengakses, menggabungkan dan menganalisis maklumat kami dan membina mendedahkan - tetapi tidak lengkap dan berpotensi tidak tepat - profil kehidupan kita. Mereka berbuat demikian dengan mengenal pasti korelasi dan corak dalam data tentang kami, dan orang yang mempunyai profil serupa kepada kami, untuk membuat ramalan mengenai apa yang mungkin kami lakukan.

Tetapi hanya kerana analitik data besar berdasarkan algoritma dan statistik, tidak bermakna bahawa mereka tepat, bersikap neutral atau semulajadi. Dan sementara data besar dapat memberi gambaran tentang kelakuan kumpulan, ini tidak semestinya cara yang boleh dipercayai untuk menentukan tingkah laku individu. Malah, kaedah ini boleh buka pintu untuk diskriminasi and mengancam hak asasi manusia - mereka juga boleh bekerja dengan anda. Berikut adalah empat contoh di mana analisis data besar boleh menyebabkan ketidakadilan.

1. Mengira skor kredit

Data besar boleh digunakan untuk membuat keputusan mengenai kelayakan kredit, memberi kesan sama ada anda diberi gadai janji, atau seberapa tinggi anda insurans kereta premium mestilah. Keputusan ini boleh dimaklumkan oleh anda jawatan media sosial dan data dari apl lain, yang diambil untuk menunjukkan tahap risiko atau kebolehpercayaan anda.

Tetapi data seperti latar belakang pendidikan anda atau di mana anda tinggal mungkin tidak relevan atau boleh dipercayai untuk penilaian tersebut. Data jenis ini boleh bertindak sebagai proksi untuk status kaum atau sosioekonomi, dan menggunakannya untuk membuat keputusan tentang risiko kredit boleh menyebabkan diskriminasi.

2. Carian pekerjaan

Data besar boleh digunakan untuk menentukan yang melihat iklan pekerjaan atau mendapat senarai pendek untuk temuduga. Iklan pekerjaan boleh disasarkan pada kumpulan umur tertentu, seperti 25 hingga 36 tahun, yang tidak termasuk pekerja muda dan lebih tua daripada melihat pos pekerjaan tertentu dan membentangkan risiko diskriminasi umur.

Automasi juga digunakan untuk membuat penapisan, penyusun dan kedudukan calon lebih efisien. Tetapi proses pemeriksaan ini boleh mengecualikan orang berdasarkan petunjuk seperti jarak perjalanan mereka. Majikan mungkin menganggap bahawa mereka yang berulang-alik lebih lama berkemungkinan kekal dalam pekerjaan jangka panjang, tetapi ini sebenarnya boleh membezakan terhadap orang yang tinggal jauh dari pusat bandar kerana lokasi perumahan yang mampu dimiliki.

3. Keputusan parol dan ikat jamin

Di AS dan UK, model penilaian risiko data besar digunakan untuk membantu para pegawai memutuskan sama ada orang diberikan parol atau ikat jamin, atau dirujuk program pemulihan. Mereka juga boleh digunakan untuk menilai berapa banyak risiko pesalah yang dibebankan kepada masyarakat, yang merupakan salah satu faktor yang boleh dipertimbangkan oleh hakim apabila memutuskan panjang hukuman.

Tidak jelas apa data yang digunakan untuk membantu membuat penilaian ini, tetapi sebagai langkah ke arah kepolisian digital mengumpulkan laju, semakin banyak kemungkinan program-program ini akan menggabungkan maklumat sumber terbuka seperti aktiviti medial sosial - jika mereka tidak.

Penilaian ini mungkin bukan hanya melihat profil seseorang, tetapi juga bagaimana perbandingannya dengan orang lain. Ada beberapa pasukan polis secara sejarah lebih diperiksa komuniti minoriti tertentu, yang membawa kepada jumlah yang tidak seimbang dari insiden jenayah yang dilaporkan. Jika data ini dimasukkan ke dalam algoritma, ia akan memesongkan model penilaian risiko dan mengakibatkan diskriminasi yang secara langsung mempengaruhi hak seseorang untuk kebebasan.

4. Permohonan visa menilai

Tahun lepas, Agensi Penguatkuasa Imigresen dan Kastam Amerika Syarikat (ICE) mengumumkan bahawa mereka mahu memperkenalkan "pemeriksaan visa melampau"Program. Ia akan secara automatik dan mengimbas akaun media sosial secara berterusan, untuk menilai sama ada pemohon akan membuat "sumbangan positif" ke Amerika Syarikat, dan sama ada sebarang isu keselamatan negara mungkin timbul.

Disamping membentangkan risiko kepada kebebasan berfikir, pendapat, ungkapan dan persatuan, terdapat risiko yang ketara bahawa program ini akan mendiskriminasi orang-orang tertentu dari negara atau agama. Commentators mencirikannya sebagai "larangan Muslim oleh algoritma".

Program ini baru-baru ini ditarik balik, dilaporkan atas dasar bahawa "tidak ada perisian 'out-of-the-box' yang dapat memberikan kualiti pemantauan yang dikehendaki oleh agensi itu". Tetapi termasuk matlamat tersebut dalam dokumen perolehan boleh mencipta insentif yang tidak baik untuk industri teknologi untuk membangunkan program yang disifatkan oleh reka bentuk.

Tidak ada soalan bahawa analisis data besar berfungsi dengan cara yang boleh menjejaskan peluang individu dalam kehidupan. Tetapi kekurangan ketelusan tentang bagaimana data yang besar dikumpulkan, digunakan dan dikongsi membuat sukar bagi orang untuk mengetahui maklumat yang digunakan, bagaimana, dan kapan. Analisis data yang besar hanya terlalu rumit bagi individu untuk dapat melindungi data mereka daripada penggunaan yang tidak sesuai. Sebaliknya, negeri dan syarikat mesti membuat dan mematuhi peraturan-peraturan untuk memastikan penggunaan data besar mereka tidak membawa kepada diskriminasi.

Mengenai Pengarang

Lorna McGregor, Pengarah, Pusat Hak Asasi Manusia, PI dan Pengarah Bersama, ESRC Hak Asasi Manusia, Data Besar dan Teknologi, Universiti Essex; Daragh Murray, Pensyarah Undang-undang Hak Asasi Antarabangsa di Sekolah Undang-undang Essex, Universiti Essex, dan Vivian Ng, Penyelidik Kanan dalam Hak Asasi Manusia, Universiti Essex

Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.

Buku oleh ini

Tentang Pengarang

at

Terima kasih kerana melawat InnerSelf.com, mana ada 20,000 + rencana mengubah hidup yang mempromosikan "Sikap Baharu dan Kemungkinan Baharu." Semua artikel diterjemahkan ke dalam 30+ bahasa. Langgan kepada Majalah InnerSelf, diterbitkan setiap minggu, dan Inspirasi Harian Marie T Russell. lahirnya Magazine telah diterbitkan sejak tahun 1985.