Akaun bot sosial biasa. CC B

Platform media sosial telah menjadi lebih daripada sekadar alat untuk komunikasi. Mereka telah berkembang menjadi arena yang sibuk di mana kebenaran dan kebatilan bertembung. Di antara platform ini, X menonjol sebagai a medan pertempuran yang menonjol. Ia adalah tempat di mana kempen disinformasi berkembang pesat, diteruskan oleh tentera bot berkuasa AI yang diprogramkan untuk mempengaruhi pendapat umum dan memanipulasi naratif.

Bot berkuasa AI ialah akaun automatik yang direka bentuk untuk meniru tingkah laku manusia. Bot di media sosial, platform sembang dan AI perbualan adalah penting dalam kehidupan moden. Mereka diperlukan untuk menjadikan aplikasi AI berjalan dengan berkesan, sebagai contoh.

Tetapi sesetengah bot dibuat dengan niat jahat. Yang mengejutkan, bot merupakan sebahagian besar pangkalan pengguna X. Pada tahun 2017 ia dianggarkan bahawa terdapat kira-kira 23 juta bot sosial menyumbang 8.5% daripada jumlah pengguna. Lebih daripada dua pertiga tweet berasal daripada akaun automatik ini, menguatkan jangkauan maklumat yang salah dan mengotori air wacana awam.

Cara bot berfungsi

Pengaruh sosial kini menjadi komoditi yang boleh diperoleh dengan membeli bot. Syarikat menjual pengikut palsu untuk meningkatkan populariti akaun secara buatan. Pengikut ini boleh didapati pada harga yang sangat rendah, dengan ramai selebriti di kalangan pembeli.

Semasa penyelidikan kami, sebagai contoh, saya dan rakan sekerja mengesan bot yang telah menyiarkan 100 tweet yang menawarkan pengikut untuk dijual.

Menggunakan metodologi AI dan pendekatan teori yang dipanggil teori rangkaian pelakon, saya dan rakan sekerja membedah cara bot sosial berniat jahat memanipulasi media sosial, mempengaruhi pendapat orang ramai dan cara mereka bertindak dengan keberkesanan yang membimbangkan. Kita boleh mengetahui sama ada berita palsu dijana oleh manusia atau bot dengan kadar ketepatan 79.7%. Adalah penting untuk memahami bagaimana kedua-dua manusia dan AI menyebarkan maklumat yang salah untuk memahami cara manusia memanfaatkan AI untuk menyebarkan maklumat yang salah.

Untuk mengambil satu contoh, kami memeriksa aktiviti akaun bernama "True Trumpers" di Twitter.

Akaun itu ditubuhkan pada Ogos 2017, tidak mempunyai pengikut dan gambar profil, tetapi pada masa penyelidikan, telah menyiarkan 4,423 tweet. Ini termasuk satu siri cerita rekaan sepenuhnya. Perlu diingat bahawa bot ini berasal dari negara Eropah timur.

Aliran berita palsu daripada akaun bot. Buzzfeed, CC BY

Penyelidikan seperti ini mempengaruhi X untuk menyekat aktiviti bot sosial. Sebagai tindak balas kepada ancaman manipulasi media sosial, X telah melaksanakan had bacaan sementara untuk mengekang pengikisan dan manipulasi data. Akaun yang disahkan telah dihadkan kepada membaca 6,000 siaran sehari, manakala akaun yang tidak disahkan boleh membaca 600 siaran sehari. Ini adalah kemas kini baharu, jadi kami belum tahu sama ada ia telah berkesan.

Bolehkah kita melindungi diri kita sendiri?

Walau bagaimanapun, tanggungjawab akhirnya jatuh pada pengguna untuk berhati-hati dan membezakan kebenaran daripada kepalsuan, terutamanya semasa tempoh pilihan raya. Dengan menilai maklumat secara kritis dan menyemak sumber, pengguna boleh memainkan peranan dalam melindungi integriti proses demokrasi daripada serangan bot dan kempen disinformasi pada X. Setiap pengguna, sebenarnya, pembela kebenaran dan demokrasi barisan hadapan. Kewaspadaan, pemikiran kritis, dan dos keraguan yang sihat adalah perisai penting.

Dengan media sosial, adalah penting bagi pengguna untuk memahami strategi yang digunakan oleh akaun berniat jahat.

Pelakon berniat jahat sering menggunakan rangkaian bot untuk menguatkan naratif palsu, memanipulasi arah aliran dan menyebarkan maklumat salah dengan pantas. Pengguna harus berhati-hati apabila menghadapi akaun yang menunjukkan tingkah laku yang mencurigakan, seperti penyiaran berlebihan atau pemesejan berulang.

Pemsalah maklumat juga sering disebarkan melalui laman web berita palsu khusus. Ini direka untuk meniru sumber berita yang boleh dipercayai. Pengguna dinasihatkan untuk mengesahkan kesahihan sumber berita dengan merujuk maklumat silang dengan sumber yang bereputasi dan merujuk kepada organisasi penyemakan fakta.

Kesedaran diri adalah satu lagi bentuk perlindungan, terutamanya daripada taktik kejuruteraan sosial. Manipulasi psikologi sering digunakan untuk memperdaya pengguna supaya mempercayai kepalsuan atau terlibat dalam tindakan tertentu. Pengguna harus mengekalkan kewaspadaan dan menilai secara kritis kandungan yang mereka hadapi, terutamanya semasa tempoh sensitiviti yang meningkat seperti pilihan raya.

Dengan sentiasa bermaklumat, terlibat dalam wacana sivil dan menyokong ketelusan dan akauntabiliti, kami secara kolektif boleh membentuk ekosistem digital yang memupuk kepercayaan, ketelusan dan membuat keputusan termaklum.

Nick Haji, Pakar Strategi AI dan Profesor Strategi Digital, Universiti Loughborough

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.

Buku berkaitan:

Mengenai Kezaliman: Dua Puluh Pengajaran dari Abad Kedua Puluh

oleh Timothy Snyder

Buku ini menawarkan pengajaran daripada sejarah untuk memelihara dan mempertahankan demokrasi, termasuk kepentingan institusi, peranan individu warganegara, dan bahaya autoritarianisme.

Klik untuk maklumat lanjut atau untuk memesan

Masa Kita Sekarang: Kuasa, Tujuan, dan Perjuangan untuk Amerika yang Adil

oleh Stacey Abrams

Penulis, seorang ahli politik dan aktivis, berkongsi visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktikal untuk penglibatan politik dan mobilisasi pengundi.

Klik untuk maklumat lanjut atau untuk memesan

Bagaimana Demokrasi Mati

oleh Steven Levitsky dan Daniel Ziblatt

Buku ini mengkaji tanda-tanda amaran dan punca kerosakan demokrasi, menggunakan kajian kes dari seluruh dunia untuk menawarkan pandangan tentang cara menjaga demokrasi.

Klik untuk maklumat lanjut atau untuk memesan

Rakyat, No: Sejarah Ringkas Anti-Populisme

oleh Thomas Frank

Penulis menawarkan sejarah gerakan populis di Amerika Syarikat dan mengkritik ideologi "anti-populis" yang dihujahnya telah membantutkan pembaharuan dan kemajuan demokrasi.

Klik untuk maklumat lanjut atau untuk memesan

Demokrasi dalam Satu Buku atau Kurang: Bagaimana Ia Berfungsi, Mengapa Ia Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Fikirkan

oleh David Litt

Buku ini menawarkan gambaran keseluruhan demokrasi, termasuk kekuatan dan kelemahannya, dan mencadangkan pembaharuan untuk menjadikan sistem lebih responsif dan bertanggungjawab.

Klik untuk maklumat lanjut atau untuk memesan