Mengapa Ini Kesilapan Untuk Merayakan Keruntuhan Pada Laman Web Hate

Mengapa Ini Kesilapan Untuk Merayakan Keruntuhan Pada Laman Web Hate Syarikat-syarikat swasta mengawal benci dalam talian tanpa pengawasan atau peraturan bebas, yang mempunyai implikasi serius dan menimbulkan risiko untuk hak asasi manusia dan kebebasan. (Shutterstock)

Perarakan obor yang dinyalakan oleh supremacists putih bersenjata baru-baru ini di Charlottesville, Va., Terus menjana perdebatan tentang bagaimana kumpulan kebencian harus diatur. Di tengah tekanan awam yang semakin meningkat berikutan perarakan, syarikat internet bergegas untuk melepaskan diri dari laman web platform mereka yang menyokong ucapan ganas yang ganas.

GoDaddy menamatkan perkhidmatan domainnya ke laman web neo-Nazi The Daily Stormer, seperti yang dilakukan Google. Cloudflare, sebuah syarikat yang melindungi laman web daripada serangan dalam talian, juga diharamkan laman web yang membenci dari platformnya. Rusia memerintahkan laman web itu dihalang dari menjadi tuan rumah di negara ini.

Penyelidikan saya dan buku saya Chokepoints: Peraturan Swasta Global di Internet menunjukkan bahawa banyak syarikat internet telah menghilangkan kandungan dan larangan pengguna "secara sukarela" - iaitu, tanpa undang-undang atau proses kehakiman. Pengantara utama termasuk Google, PayPal, GoDaddy, Twitter dan Facebook secara sukarela mengkritik platform mereka untuk kandungan penyalahgunaan seksual kanak-kanak, ekstremisme dan perdagangan haram dalam barangan tiruan.

Ramai orang memahami bahawa usaha ini menghalang percakapan benci dan kandungan lain yang tidak menyenangkan. Walau bagaimanapun, usaha syarikat internet sebagai pengawal selia de facto menimbulkan persoalan yang serius: Bagaimana kandungan dalam talian dikawal selia? Oleh siapa?

Saya tidak menyokong supremacists putih dan saya tidak berdebat terhadap beberapa keperitan ucapan sedemikian. Sebaliknya, saya mengatakan bahawa kita perlu mempertimbangkan dengan serius bagaimana mengawal kandungan dalam talian kerana kes seterusnya mungkin tidak begitu jelas.

Terdapat masalah besar dengan bergantung kepada syarikat-syarikat yang berkuasa untuk polis di internet kerana amalan penguatkuasaan mereka bermasalah dan tidak mudah untuk menafsirkan sewenang-wenangnya.

Dilarasi terlebih dahulu

Berbeza dengan penyokong syarikat internet untuk penentangan mereka terhadap Daily Stormer, Ketua Pegawai Eksekutif Cloudflare, Matthew Prince, menawarkan perspektif yang berwaspada, memberi amaran bahawa menarik balik perkhidmatan daripada kumpulan kebencian sebagai tindak balas terhadap tekanan awam menetapkan pendahuluan yang mengganggu dalam mengesan ucapan dalam talian .

Didalam blog post menjelaskan tindakan Cloudflare terhadap Daily Stormer, Putera berhujah bahawa syarikat menganggap proses yang sewajarnya sebagai "prinsip yang lebih penting" daripada kebebasan bersuara. Proses yang sewajarnya, katanya, bermakna bahawa "anda harus dapat mengetahui peraturan sistem yang akan diikuti jika anda mengambil bahagian dalam sistem itu." Pernyataan ini tepat menangkap masalah yang wujud dengan perantara yang berfungsi sebagai pengawalseliaan kandungan dan tingkah laku dalam talian secara de facto.

Awal tahun ini, Pekerja Shopify dan beratus-ratus beribu-ribu orang menggesa dan petisyen platform perdagangan dalam talian untuk menghentikan hosting kedai internet Breitbart Media yang jauh sebelah kanan. Pengerusi eksekutif semula Stephen Bannon panggilan Breitbart "platform untuk alt kanan." Apa yang disebut "alt-kanan" - istilah yang dipopularkan oleh Richard Bertrand Spencer - merangkumi gabungan ideologi konservatif supremacist putih, separatis, neo-Nazi, fasis, perkauman, anti-Semitik, Islamophobik dan populis putih.

CEO Shopify Tobias Lütke berkata beliau mempertahankan ucapan bebas kerana syarikat Ottawa terus menjadi tuan rumah kedai online Breitbart di bawah ancaman pekerja meletak jawatan. Selepas orang ramai tekanan dan kempen akar umbi yang digelar #DeleteShopify membawa kepada pengawasan yang mendedahkan lebih banyak perniagaan yang dipersoalkan, Shopify adalah dipaksa untuk mengguna pakai "Dasar penggunaan yang boleh diterima."

Contoh-contoh yang berbeza dari The Daily Stormer dan penghapusannya oleh syarikat internet, dan sokongan padu Shopify untuk Breitbart, menunjukkan keterlaluan dilema yang hanya menjanjikan untuk dipergiat.

Dasar sewenang-wenang, peraturan

Pengantara internet berpotensi untuk menjadi pengawal selia yang kuat dalam pelbagai isu kerana mereka boleh bertindak pantas dan tanpa perintah mahkamah. Yang penting, mereka mempunyai latitud untuk menapis sebarang kandungan atau larangan pengguna di bawah perjanjian perkhidmatan mereka.

PayPal berhak untuk menamatkan perkhidmatannya kepada pengguna "untuk sebarang sebab dan pada bila-bila masa, "Bahasa yang digema dalam perjanjian perkhidmatan yang paling perantara. Oleh itu, kapasiti untuk peraturan sewenang-wenangnya dipanggang menjadi peraturan dalaman perantara.

Putera memberi amaran bahawa tindakan Cloudflare terhadap Daily Stormer menetapkan pendahuluan kepada perantara polis tanpa arahan mahkamah yang mengharuskan mereka berbuat demikian.

Pengantara ini sering bertindak atas perintah kerajaan yang lebih suka syarikat menjadi muka umum (tetapi tidak dapat dipertanyakan) peraturan Internet. Tetapi firma-firma tersebut umumnya tidak lengkap untuk membezakan kesahihan daripada menyalahi undang-undang, menyebabkan penyingkiran salah dan tersilap menyasarkan kelakuan yang sah.

Sama-sama bermasalah: Proses penguatkuasaan pengantara sering menjadi legasi kerana moderator kandungan mereka sewenang-wenangnya mentafsirkan peraturan dalaman yang rumit dan cepat mereka berubah. Masalah-masalah ini dikomersialkan oleh penggunaan alat-alat automatik yang semakin banyak untuk mengenal pasti dan mengalihkan kandungan bermasalah pada platform mereka.

Terdapat juga kebimbangan mengenai apa yang dipanggil misi-mimbar ketika peraturan pertama kali digubal terhadap penyalahgunaan kanak-kanak atau keganasan - pemangkin yang patut diberi perhatian untuk tindakan penguatkuasaan - kemudiannya digunakan untuk isu-isu lain yang kurang berbahaya, seperti pengunduran tanpa izin kandungan berhak cipta.

Masa depan Dystopian ada di sini

Usaha pengawalseliaan biasanya berkembang dari menyensor ucapan ganas terhadap ucapan lain yang mungkin dianggap kontroversial oleh beberapa orang, seperti halnya Black Lives Matter. Begitu juga, kerajaan di seluruh dunia sentiasa memberi tekanan kepada pengantara penapisan dan trek pengkritik dan lawan politik.

Apabila perantara utama menjadi pengawal selia yang bertanggungjawab untuk mengawasi kandungan bagi pihak kerajaan atau sebagai tindak balas terhadap protes berprofil tinggi, kuasa mereka sudah semakin meningkat. Syarikat internet berasaskan AS sudah menguasai banyak sektor industri, termasuk pencarian, pengiklanan, pendaftaran domain, pembayaran dan media sosial. Putera Cloudflare dengan betul memberi amaran bahawa dengan bergantung kepada "beberapa rangkaian gergasi", "sebilangan kecil syarikat akan menentukan besarnya apa yang boleh dan tidak boleh dalam talian."

Masa depan dystopian ini sudah ada di sini.

Takdir Daily Stormer pasti membuat dunia menjadi tempat yang lebih baik. Tetapi adakah kita benar-benar mahu syarikat seperti Facebook dan Twitter memutuskan - secara bebas, sewenang-wenangnya dan rahsia - apa kandungan yang boleh kita akses dan kongsi?

Memandangkan masalah-masalah yang seolah-olah sukar dikawal, apa yang boleh kita lakukan? Pertama, kita harus mengelak daripada mengawal selia protes atau tekanan media. Sebaliknya, kita memerlukan satu set peraturan yang jelas untuk membolehkan perantara bertindak balas secara konsisten, telus dan dengan hormat terhadap proses yang sewajarnya, sebagai Putera disyorkan.

Kerajaan perlu menjelaskan sifat dan, yang penting, batasan tanggungjawab pengawalseliaan pengantara. Akhirnya, kita mesti berhenti mentadbir sebagai tindak balas terhadap krisis tertentu - apa yang disebut "berita palsu," kumpulan keganasan dan kebencian - dan sebaliknya berfikir secara kritikal tentang bagaimana kita boleh dan harus memerintah internet.Perbualan

Tentang Pengarang

Natasha Tusikov, Penolong Profesor, Kriminologi, Jabatan Sains Sosial, York University, Kanada

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku-buku yang berkaitan

{amazonWS: searchindex = Books; keywords = hate speech; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf pada

icon-facebooktwitter-iconrss-icon

Dapatkan Yang Terbaru Dengan E-mel

{Emailcloak = mati}