Bolehkah Teknologi Simpan Kami Dari Misinformasi Pada Media Sosial?

Bolehkah Teknologi Simpan Kami Dari Misinformasi Pada Media Sosial?

Jika anda mendapat berita anda dari media sosial, sebagai kebanyakan orang Amerika, anda terdedah kepada dos harian palsu, khabar angin, teori konspirasi dan berita yang mengelirukan. Apabila ia bercampur dengan maklumat yang boleh dipercayai dari sumber-sumber yang jujur, kebenaran boleh menjadi sangat sukar untuk dilihat.

Malah, analisis data penyelidikan saya dari Columbia University Muncul Penjejakan khabar angin mencadangkan bahawa ini Maklumat yang salah adalah seperti yang mungkin berlaku untuk virus sebagai maklumat yang boleh dipercayai.

Ramai yang bertanya sama ada ini serangan maklumat digital yang salah menjejaskan hasilnya daripada pilihan raya AS 2016. Sebenarnya kita tidak tahu, walaupun ada alasan untuk mempercayai ia sepenuhnya mungkin, berdasarkan analisis lepas dan akaun dari negara lain. Setiap maklumat palsu memberikan sumbangan kepada pembentukan pendapat kami. Keseluruhannya, kemudaratan boleh menjadi sangat nyata.

Sebagai penyelidik mengenai penyebaran maklumat salah melalui media sosial, saya tahu bahawa membataskan kemampuan para penerbit berita untuk menjual iklan, seperti yang diumumkan baru-baru ini oleh Google dan Facebook, adalah langkah ke arah yang betul. Tetapi ia tidak akan menghalang penyalahgunaan yang didorong oleh motif politik.

Mengeksploitasi media sosial

Mengenai 10 tahun lalu, rakan-rakan saya dan saya berlari eksperimen di mana kita belajar 72 peratus daripada pelajar-pelajar kolej yang dipercayai link yang muncul berasal dari rakan-rakan - bahkan ke titik memasukkan maklumat login peribadi pada laman pancingan data. Kerentanan yang meluas ini mencadangkan satu lagi manipulasi berniat jahat: Orang mungkin juga percaya maklumat salah maklumat yang mereka terima apabila mengklik pada pautan dari hubungan sosial.

Untuk meneroka idea itu, saya mencipta laman web palsu dengan berita gosip yang dihasilkan oleh komputer rawak - perkara seperti "Selebriti X ditangkap di atas katil dengan Selebriti Y!" Pelawat ke laman web yang mencari nama akan mencetuskan skrip secara automatik membuat cerita tentang orang itu. Saya termasuk di laman web ini penafian, mengatakan laman web ini mengandungi teks tanpa arti dan "fakta" yang dibuat. Saya juga meletakkan iklan di halaman. Pada akhir bulan ini, saya mendapat cek di dalam surat dengan pendapatan dari iklan. Itulah bukti saya: Berita palsu boleh menghasilkan wang dengan mencemarkan internet dengan kepalsuan.

Malangnya, saya bukan satu-satunya dengan idea ini. Sepuluh tahun kemudian, kami mempunyai industri berita palsu dan maklumat salah maklumat digital. Laman web Clickbait menghasilkan tipuan untuk menghasilkan wang dari iklan, sementara tapak hiperpartisan yang dipanggil dan menyebarkan khabar angin dan teori konspirasi untuk mempengaruhi pendapat umum.

Industri ini disokong oleh betapa mudahnya untuk mencipta bot sosial, akaun palsu yang dikawal oleh perisian yang kelihatan seperti orang sebenar dan oleh itu boleh mempunyai pengaruh yang nyata. Penyelidikan dalam saya makmal menemui banyak contoh kempen akar umbi palsu, juga dipanggil astroturfing politik.

Sebagai tindak balas, kami telah membangunkan BotOrNot alat untuk mengesan bot sosial. Ia tidak sempurna, tetapi cukup tepat untuk mendedahkan kempen pujukan dalam gerakan Brexit dan antivaks. Menggunakan BotOrNot, rakan sekerja kami mendapati bahawa a bahagian besar perbualan dalam talian mengenai pilihan raya 2016 dihasilkan oleh bot.

Mewujudkan gelembung maklumat

Kita manusia terdedah kepada manipulasi oleh kesilapan digital terima kasih kepada satu set rumit yang kompleks, kognitif, ekonomi dan kecenderungan algoritma. Sesetengah daripada ini telah berkembang dengan alasan yang baik: Isyarat kepercayaan daripada kalangan sosial kita dan menolak maklumat yang bertentangan dengan pengalaman kami memberi kami kebaikan apabila spesies kami disesuaikan untuk mengelakkan pemangsa. Tetapi dalam rangkaian dalam talian yang mengecil sekarang, sambungan rangkaian sosial dengan ahli teori konspirasi di bahagian lain planet tidak membantu memaklumkan pendapat saya.

Menyalin rakan-rakan kami dan tidak mengikuti orang-orang dengan pendapat yang berbeza memberi kami ruang echo begitu polarisasi bahawa penyelidik boleh memberitahu dengan ketepatan yang tinggi sama ada anda liberal atau konservatif dengan hanya melihat rakan-rakan anda. Struktur rangkaian begitu padat bahawa sebarang maklumat salah menyebar hampir seketika dalam satu kumpulan, dan begitu terasing bahawa ia tidak mencapai yang lain.

Di dalam gelembung kami, kami secara terpilih didedahkan kepada maklumat yang sejajar dengan kepercayaan kami. Itulah senario yang ideal untuk memaksimumkan penglibatan, tetapi yang memudaratkan untuk mengembangkan skeptisisme yang sihat. Kecenderungan pengesahan membawa kita untuk berkongsi tajuk utama tanpa membaca rencana.

Makmal kami mendapat pelajaran peribadi apabila projek penyelidikan kami sendiri menjadi subjek a kempen maklumat salah jahat dalam jangka masa untuk pemilihan midterm 2014 AS. Apabila kami menyiasat apa yang sedang berlaku, kami mendapati cerita berita palsu tentang penyelidikan kami yang kebanyakannya dikongsi oleh pengguna Twitter dalam satu ruangan gema parti, komuniti yang besar dan homogen dari pengguna aktif politik. Orang-orang ini pantas untuk retweet dan tidak dapat menafikan maklumat.

Tidak dapat dielakkan virus

Penyelidikan kami memperlihatkan bahawa memandangkan struktur rangkaian sosial dan perhatian terhad kami, ia adalah tidak dapat dielakkan bahawa beberapa memes akan menjadi virus, tanpa mengira kualiti mereka. Walaupun individu cenderung untuk berkongsi maklumat mengenai kualiti yang lebih tinggi, rangkaian secara keseluruhannya tidak berkesan untuk membezakan antara maklumat yang dipercayai dan palsu. Ini membantu menjelaskan semua tipuan virus yang kita amati di alam liar.

Platform ekonomi perhatian menjaga selebihnya: Jika kita memberi perhatian kepada topik tertentu, lebih banyak maklumat mengenai topik itu akan dihasilkan. Ia lebih murah untuk membuat maklumat dan melepaskannya sebagai kenyataan daripada melaporkan kebenaran sebenar. Dan fabrikasi boleh disesuaikan untuk setiap kumpulan: Konservatif membaca bahawa paus mengesahkan Trump, liberal membaca bahawa dia mengesahkan Clinton. Dia tidak melakukannya.

Lihatlah algoritma

Oleh kerana kita tidak dapat memberi perhatian kepada semua jawatan dalam suapan kita, algoritma menentukan apa yang kita lihat dan apa yang tidak kita lakukan. Algoritma yang digunakan oleh platform media sosial hari ini direka untuk memberi keutamaan kepada jawatan yang terlibat - yang kita mungkin akan mengklik, bertindak balas dan berkongsi. Tetapi analisis baru-baru ini mendapati halaman-halaman yang sengaja mengelirukan mendapat sekurang-kurangnya perkongsian dalam talian yang banyak dan reaksi sebagai berita sebenar.

Kecenderungan algoritma terhadap penglibatan terhadap kebenaran mengukuhkan kecenderungan sosial dan kognitif kita. Akibatnya, apabila kita mengikuti pautan yang dikongsi di media sosial, kita cenderung untuk melawat lebih kecil, lebih homogen set sumber daripada ketika kita melakukan carian dan melawat hasil teratas.

Penyelidikan sedia ada menunjukkan bahawa berada di ruang echo dapat membuat orang ramai lebih mudah tertipu mengenai penerimaan khabar angin yang tidak disahkan. Tetapi kita perlu tahu lebih banyak tentang bagaimana orang-orang yang berbeza bertindak balas terhadap satu tipuan: Ada yang mengongsikannya dengan segera, orang lain mengetahuinya terlebih dahulu.

Kami adalah mensimulasikan rangkaian sosial untuk mengkaji pertandingan ini antara perkongsian dan pemeriksaan fakta. Kami berharap dapat membantu membongkar bukti yang bertentangan apabila pemeriksaan fakta membantu menghentikan penipuan dari menyebarkan dan apabila tidak. Hasil awal kami mencadangkan bahawa semakin banyak masyarakat yang dipisahkan daripada penipu, semakin lama penipuan itu bertahan. Sekali lagi, ia bukan hanya mengenai penipuan itu sendiri tetapi juga mengenai rangkaian.

Ramai orang cuba mencari apa yang perlu dilakukan mengenai semua ini. Menurut Mark Zuckerberg terkini pengumuman, Pasukan Facebook sedang menguji potensi pilihan. Dan sekumpulan pelajar kolej telah mencadangkan satu cara untuk semata-mata pautan pautan yang dikongsi sebagai "disahkan" atau tidak.

Sesetengah penyelesaian masih tidak dapat dicapai, sekurang-kurangnya buat masa ini. Contohnya, kita masih belum boleh mengajar bagaimana sistem perisikan buatan kenal antara kebenaran dan kepalsuan. Tetapi kita boleh memberitahu algoritma peringkat untuk memberi keutamaan lebih tinggi kepada sumber yang lebih dipercayai.

Mempelajari penyebaran berita palsu

Kita boleh membuat perjuangan kita menentang berita palsu lebih berkesan jika kita lebih memahami bagaimana maklumat buruk menyebar. Jika, sebagai contoh, bot bertanggungjawab terhadap banyak kepalsuan, kita boleh memberi tumpuan kepada mengesannya. Jika, secara alternatif, masalahnya adalah dengan bilik echo, mungkin kita boleh merancang sistem cadangan yang tidak mengecualikan pandangan yang berbeza.

Untuk tujuan itu, makmal kami sedang membina platform yang dipanggil Hoaxy untuk mengesan dan memvisualisasikan penyebaran tuntutan yang tidak disahkan dan pemeriksaan fakta yang sepadan pada media sosial. Ini akan memberi kita data dunia nyata, yang mana kita boleh memaklumkan rangkaian sosial simulasi kita. Kemudian kita boleh menguji kemungkinan pendekatan untuk memerangi berita palsu.

Hoaxy juga boleh menunjukkan kepada orang-orang betapa mudahnya pendapat mereka dimanipulasi oleh maklumat dalam talian - dan juga bagaimana mungkin sebahagian daripada kita untuk berkongsi kepalsuan secara dalam talian. Hoaxy akan menyertai satu set alat dalam kami Balai Cerap di Media Sosial, yang membolehkan sesiapa sahaja melihat bagaimana penyebaran meme di Twitter. Menghubungkan alat-alat seperti ini kepada perokok fakta-fakta dan platform media sosial boleh memudahkan untuk meminimumkan pertindihan usaha dan menyokong satu sama lain.

Adalah penting bahawa kita melabur sumber dalam kajian fenomena ini. Kami memerlukan semua tangan di atas dek: Ahli sains komputer, saintis sosial, ahli ekonomi, wartawan dan rakan kongsi industri mesti bekerjasama untuk teguh menentang penyebaran maklumat salah.

Perbualan

Tentang Pengarang

Filippo Menczer, Profesor Sains Komputer dan Informatika; Pengarah Pusat Penyelidikan Rangkaian dan Sistem Kompleks, Indiana University, Bloomington

Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.

Buku berkaitan:

{amazonWS: searchindex = Books; kata kunci = berita palsu; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf pada

icon-facebooktwitter-iconrss-icon

Dapatkan Yang Terbaru Dengan E-mel

{Emailcloak = mati}