Etika data kini menjadi sebab utama.

"Etika dan privasi digital" ditayangkan kepada syarikat penyelidikan dan penasihat Gartner Sepuluh tren teknologi strategik untuk 2019. Sebelum itu ia hampir tidak dibangkitkan.

Pada tahun lalu kerajaan, syarikat and dasar dan teknologi berfikir tangki telah diterbitkan etika data panduan. Keseluruhan kohort etika data pakar telah berlaku secara ajaib.

Kenapa minat ini mendadak dalam etika data? Apakah etika data? Kepentingan siapa pedoman yang direka untuk berkhidmat?

Untuk memahami apa yang sedang berlaku, perlu mengambil langkah ke belakang dan melihat bagaimana landskap maklumat telah dibentangkan.

Gambar yang muncul adalah kekebalan industri dari kekangan peraturan yang berlaku kepada orang lain.

Kesannya telah hilang

Sepanjang beberapa tahun kebelakangan, industri maklumat telah kehilangan kilauannya.

. Wahyu Snowden, yang Skandal Cambridge Analytica, media sosial yang membolehkan ucapan benci, yang penyerangan maklumat dan peranannya dalam melemahkan institusi demokrasi semua telah menyumbang.

Model perniagaan yang mengewangkan maklumat peribadi untuk menjual iklan kini dilihat sebagai tawar faustian - mungkin pengorbanan itu tidak berbaloi. Dari 2017 ke 2018 terdapat a 6% penurunan pengguna Facebook di Amerika Syarikat dalam pasaran lama 12-34 tahun yang lumayan.

Kebimbangan ini telah menyebabkan panggilan untuk peraturan. Tetapi ini telah berjuang untuk mendapatkan daya tarikan terhadap ortodoksi pengawalseliaan yang lazim untuk sektor teknologi. Ini bermula dari Al Gore lima prinsip untuk membolehkan apa yang kemudian disebut "superhighway maklumat global."

Prinsip tiga adalah bahawa dasar pengawalseliaan akan "mewujudkan rangka kerja pengawalseliaan yang fleksibel yang dapat seiring dengan perubahan teknologi dan pasaran yang pesat". Ini adalah kod untuk tiada peraturan, atau peraturan diri. Di Australia ia dikenali sebagai Peraturan "sentuhan cahaya".

Teknologi besar bertindak balas dengan penipuan peraturan, yang sebahagian besarnya dibebaskan dari kebimbangan umum tentang ekonomi "lama" seperti perlindungan pengguna atau liabiliti produk atau undang-undang persaingan atau, khususnya, privasi maklumat.

Lingkaran dekat

Eropah tidak pernah menggunakan pendekatan laissez-faire ini sepenuhnya. Privasi maklumat sentiasa tinggi pada agendanya, memuncak dalam Peraturan Perlindungan Data Umum 2018 (GDPR). Ini memberikan individu di Kesatuan Eropah dengan hak perlindungan data yang paling komprehensif di dunia. Hak-hak mempunyai jangkauan luar wilayah, melibatkan pengawasan peraturan, dan mempekerjakan denda saman besar-besaran mata. Bidang kuasa lain mula mengikuti.

Secara selari, pengawal selia dari disiplin lain mula dilingkari. Pengawal selia anti-amanah mencari lagi pada monopoli maklumat dan penggunaan kuasa pasaran yang besar untuk menyekat persaingan.

Di Australia, ACCC telah meminta a pihak berkuasa kawal selia baru untuk memantau dan menyiasat kesan algoritma mengenai kedudukan berita dan kandungan kewartawanan.

Laporan Pilihan UK untuk Komunikasi mengenai Kawalan di Dunia Digital telah mengesyorkan Pihak Berkuasa Digital baru untuk mengawasi peraturan "terfragmentasi" persekitaran digital sekitar sepuluh prinsip peraturan, dengan menyatakan bahawa "regulasi elit [[s] oleh platform dalam talian jelas gagal". Pengawal selia hak asasi manusia meneliti peranan algoritma dalam mewujudkan dan mengukuhkan diskriminasi.

Data bermakna wang

Teknologi besar tidak mahu dikawal. Ia tidak mahu keupayaan tanpa had untuk menuai maklumat peribadi untuk disekat atau bagi perlindungan jenis GDPR untuk menjadi norma global. Maklumat peribadi adalah bahan mentah untuk algoritma yang membolehkannya memungut perhatian kita.

Bagi industri yang membanggakan diri sebagai "mengganggu", kegelisahan terbesar teknologi adalah untuk menghalang persekitaran peraturan yang mengetatkan agar tidak terganggu. Etika data adalah salah satu cara yang telah dibangunkan untuk melawan peraturan. Ia berbuat demikian dengan memperuntukkan kebaikan yang berkaitan dengan etika tetapi dengan mengosongkan kandungan atau akibatnya.

Mengambil Prinsip Google untuk AI. (AI adalah kepintaran buatan). Ini adalah:

• berfaedah secara sosial
• elakkan daripada membuat atau menguatkan berat sebelah tidak adil
• dibina dan diuji untuk keselamatan
• bertanggungjawab kepada orang ramai
• menggabungkan prinsip reka bentuk privasi
• menegakkan standard kecemerlangan saintifik yang tinggi
• disediakan untuk kegunaan yang sesuai dengan prinsip ini.

"Prinsip-prinsip" ini sangat mirip dengan homilies yang sangat baik yang diterbitkan di Instagram yang mendesak kita untuk "bersikap baik kepada satu sama lain" atau tidak untuk "membiarkan matahari turun atas kemarahan kita", dan kira-kira berguna.

Betul ke? Tembakan skrin ditangkap Mac 28 2019

Letakkan ujian

Mari kita uji salah satu prinsip Google, "bertanggungjawab kepada orang".

Terdapat beberapa lapisan kekaburan di sini. Adakah maksud algoritma AI Google harus bertanggungjawab kepada "orang" pada umumnya, "orang" Google, atau "orang" orang lain seperti pengatur bebas?

Jika yang terakhir, adakah Google akan menyediakan algoritma untuk analisis, membetulkan apa-apa kesilapan, dan membayar pampasan untuk apa-apa kemudaratan yang disebabkan?

Sekiranya algoritma AI Google kesilapan menyimpulkan saya pengganas dan kemudian lulus maklumat ini kepada agensi keselamatan nasional yang menggunakan maklumat itu untuk menangkap saya, memaksa saya tidak berkomunikasi dan menyoal saya, akan Google bertanggungjawab atas kecuaiannya atau kerana menyumbang kepada penjara saya yang salah? Bagaimanakah ia akan bertanggungjawab? Jika saya tidak berpuas hati dengan akauntabiliti versi Google, kepada siapa saya merayu keadilan?

Etika berguna melibatkan akauntabiliti

Etika berkenaan dengan prinsip moral yang mempengaruhi bagaimana individu membuat keputusan dan bagaimana mereka menjalani kehidupan mereka.

Etika telah dikaji dan dibahaskan selama beberapa tahun. Di dalam tradisi barat, etika dapat dikesan semula Socrates. Mereka termasuk kedudukan falsafah seperti etika deontologi (kewajipan berasaskan), konsekuensialisme, utilitarianisme dan eksistensialisme, untuk menamakan tetapi beberapa. Tidak mengejutkan, tiada satu pun yang menghasilkan jawapan yang sama dengan soalan tentang apa yang mesti dilakukan oleh individu dalam keadaan tertentu.

"Etika yang diterapkan" bertujuan untuk membawa prinsip-prinsip etika untuk menanggung situasi kehidupan sebenar. Terdapat banyak contoh.

Etika sektor awam dikawal oleh undang-undang. Terdapat akibat bagi mereka yang melanggarnya, termasuk langkah disiplin, penamatan pekerjaan dan kadang-kadang hukuman jenayah. Untuk menjadi seorang peguam, saya terpaksa memberikan keterangan kepada mahkamah bahawa saya seorang "orang yang layak dan tepat". Untuk meneruskan amalan, saya dikehendaki mematuhi keperluan terperinci yang ditetapkan dalam Peraturan Menjalankan Peguamcara Australia. Jika saya melanggar mereka, ada kesannya.

Ciri-ciri etika yang diterapkan adalah bahawa mereka adalah khusus, terdapat gelung maklum balas, panduan yang tersedia, mereka tertanam dalam budaya organisasi dan profesional, terdapat pengawasan yang betul, ada akibat apabila mereka dilanggar dan terdapat mekanisme penguatkuasaan bebas dan remedi sebenar . Mereka adalah sebahagian daripada alat kawal selia dan bukan hanya "merasakan" kenyataan.

Feelgood, prinsip etika data peringkat tinggi tidak sesuai untuk tujuan mengawal selia teknologi besar. Etika yang dipakai mungkin mempunyai peranan untuk bermain tetapi kerana mereka adalah pendudukan atau disiplin khusus mereka tidak boleh dipercayai untuk melakukan semua, atau bahkan kebanyakannya, mengangkat berat.

Kerosakan yang dikaitkan dengan teknologi besar hanya dapat ditangani oleh peraturan yang tepat.

Tentang Pengarang

David Watts, Profesor Undang-undang dan Dasar Maklumat, La Trobe University

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku berkaitan:

at InnerSelf Market dan Amazon