Facebook buat pertama kalinya menyediakan data yang ada pada skala komen yang menyakitkan hati diposkan ke laman webnya. Ini mungkin telah dilakukan di bawah tekanan yang semakin meningkat oleh organisasi untuk syarikat media sosial untuk menjadi lebih banyak telus mengenai penyalahgunaan dalam talian, atau untuk mendapatkan kredibiliti selepas Skandal data Cambridge Analytica. Sama ada cara, angka-angka tidak dibuat untuk membaca yang menyenangkan.
In tempoh enam bulan dari Oktober 2017 hingga Mac 20178, gambar 21m yang jelas secara eksplisit, jawatan 3.5m yang ganas dan bentuk ucapan kebencian 2.5m dikeluarkan dari laman webnya. Angka-angka ini membantu mendedahkan beberapa mata yang menarik.
Seperti yang dijangkakan, data menunjukkan bahawa masalah semakin buruk. Sebagai contoh, antara Januari dan Mac adalah dianggarkan bahawa untuk setiap mesej 10,000 dalam talian, antara 22 dan 27 mengandungi keganasan grafik, naik dari 16 ke 19 dalam tiga bulan sebelumnya. Ini memberi kelegaan tajam hakikat bahawa di UK, pendakwaan untuk penyalahgunaan dalam talian telah berkurangan, seperti yang ditunjukkan dalam graf di bawah.
Namun apa yang Facebook tidak memberitahu kita sama pentingnya.
Rangkaian sosial telah di bawah tekanan yang semakin meningkat untuk memerangi penyalahgunaan di tapaknya, khususnya, penyingkiran propaganda pengganas selepas kejadian seperti serangan 2017 Westminster dan pengeboman Manchester Arena. Di sini, syarikat telah proaktif. Antara Januari dan Mac 2018, Facebook mengeluarkan mesej 1.9m yang menggalakkan propaganda pengganas, peningkatan komen 800,000 berbanding tiga bulan sebelumnya. Sejumlah 99.5% dari mesej ini terletak dengan bantuan teknologi maju.
Pada pandangan pertama, ia kelihatan seperti Facebook telah berjaya membangunkan perisian yang boleh mengeluarkan kandungan ini dari pelayannya. Tetapi Facebook belum mengeluarkan angka menunjukkan bagaimana pengganas yang berleluasa propaganda ada di tapaknya. Oleh itu, kita benar-benar tidak tahu bagaimana perisian ini berjaya.
Mengeluarkan jawatan ganas
Facebook juga menggunakan teknologi untuk membantu penyingkiran keganasan grafik dari laman webnya. Antara kedua-dua tempoh tiga bulan terdapat kenaikan 183% dalam jumlah jawatan yang dibuang yang dilabel ganas ganas. Sebanyak 86% daripada komen ini dibenderakan oleh sistem komputer.
Tetapi kita juga tahu bahawa angka Facebook juga menunjukkan bahawa sehingga 27 daripada setiap komen 10,000 yang membuatnya melewati teknologi pengesanan mengandungi keganasan grafik. Itu tidak terdengar seperti banyak tetapi ia bernilai mengingati bilangan jumlah komen yang disiarkan ke laman web oleh lebih daripada 2 bilion pengguna aktif. Satu anggaran mencadangkan bahawa komen 510,000 disiarkan setiap minit. Jika tepat, itu bermakna komen-komen ganas 1,982,880 diposting setiap jam 24.
Untuk membuat kegagalan dalam perisian pengesanannya, Facebook, seperti rangkaian sosial yang lain, telah bertahun-tahun bergantung kepada peraturan kendiri, dengan pengguna digalakkan untuk laporkan komen mereka percaya tidak sepatutnya di laman web ini. Sebagai contoh, antara Januari dan Mac 2018, Facebook mengeluarkan komen 2.5m yang dianggap sebagai ucapan benci, namun hanya 950,000 (38%) mesej-mesej ini telah ditandai oleh sistemnya. The lain 62% dilaporkan oleh pengguna. Ini menunjukkan bahawa teknologi Facebook gagal memadamkan kebencian secara memadai pada rangkaiannya, walaupun kebimbangan semakin meningkat bahawa laman rangkaian sosial sedang memacu benci kejahatan di dunia nyata.
Berapa banyak komen dilaporkan?
Ini membawa kami kepada angka penting lain yang tidak termasuk dalam data yang dikeluarkan oleh Facebook: jumlah ulasan yang dilaporkan oleh pengguna. Memandangkan ini adalah mekanisme asas dalam menangani penyalahgunaan dalam talian, jumlah laporan yang dibuat kepada syarikat itu hendaklah disediakan secara terbuka. Ini akan membolehkan kita memahami sejauhmana komentar kasar yang dibuat dalam talian, sambil menjelaskan jumlah mesej Facebook tidak dikeluarkan dari laman web ini.
Keputusan Facebook untuk melepaskan data yang mendedahkan skala penyalahgunaan di laman webnya adalah langkah ke hadapan yang penting. Sebaliknya, Twitter diminta mendapatkan maklumat yang serupa tetapi ditolak untuk melepaskannya, mendakwa ia akan mengelirukan. Jelas, tidak semua komen yang ditandai oleh pengguna laman rangkaian sosial akan melanggar terma dan syaratnya. Tetapi kegagalan Twitter untuk melepaskan maklumat ini menunjukkan syarikat itu tidak bersedia untuk mendedahkan skala penyalahgunaan di tapaknya sendiri.
Walau bagaimanapun, walaupun Facebook masih mempunyai banyak cara untuk mencapai ketelusan keseluruhan. Sebaik-baiknya, semua laman rangkaian sosial akan melepaskan laporan tahunan tentang bagaimana mereka menangani penyalahgunaan dalam talian. Ini akan membolehkan pengawal selia dan orang ramai memegang firma-firma secara lebih langsung untuk menjelaskan kegagalan untuk menghapuskan penyalahgunaan dalam talian dari pelayan mereka.
Walau bagaimanapun, walaupun Facebook masih mempunyai banyak cara untuk mencapai ketelusan keseluruhan. Sebaik-baiknya, semua laman rangkaian sosial akan melepaskan laporan tahunan tentang bagaimana mereka menangani penyalahgunaan dalam talian. Ini akan membolehkan pengawal selia dan orang ramai memegang firma-firma secara lebih langsung untuk menjelaskan kegagalan untuk menghapuskan penyalahgunaan dalam talian dari pelayan mereka.Tentang Pengarang
Laura Bliss, calon PhD dalam undang-undang media sosial, Edge Hill University
Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.
Buku berkaitan:
at InnerSelf Market dan Amazon
