Campuran yang tidak menentu antara kempen palsu dan politik adalah alasan yang baik untuk berwaspada. Sean Anthony Eddy Creative/E+ melalui Getty Images
Bayangkan an kejutan Oktober tidak seperti yang lain: Hanya seminggu sebelum 5 November 2024, rakaman video mendedahkan pertemuan rahsia antara Joe Biden dan Volodymyr Zelenskyy. Presiden Amerika dan Ukraine bersetuju untuk segera memulakan Ukraine ke dalam NATO di bawah "protokol keahlian kecemasan khas" dan bersedia untuk serangan senjata nuklear terhadap Rusia. Tiba-tiba, dunia berada di puncak Armageddon.
Walaupun wartawan boleh menunjukkan bahawa tiada protokol sedemikian wujud dan pengguna media sosial mungkin melihat kualiti video-permainan yang ganjil pada video itu, yang lain mungkin merasakannya ketakutan terburuk mereka telah disahkan. Apabila Hari Pilihan Raya tiba, rakyat yang prihatin ini mungkin membiarkan video itu mempengaruhi undian mereka, tanpa menyedari bahawa mereka baru sahaja dimanipulasi oleh situasi palsu – peristiwa yang tidak pernah berlaku sebenarnya.
Situasi deepfakes mewakili peringkat seterusnya teknologi yang sudah ada menggoyahkan persepsi khalayak terhadap realiti. Dalam penyelidikan kami di Projek DeFake, rakan sekerja saya di Rochester Institute of Technology, yang Universiti Mississippi, Michigan State University dan saya kaji cara deepfakes dibuat dan apakah langkah yang boleh diambil oleh pengundi untuk mempertahankan diri daripadanya.
Membayangkan peristiwa yang tidak pernah berlaku
Deepfake dicipta apabila seseorang menggunakan alat kecerdasan buatan, terutamanya pembelajaran mendalam, untuk memanipulasi atau menjana a muka, suara atau – dengan kebangkitan model bahasa yang besar seperti SembangGPT - bahasa percakapan. Ini boleh digabungkan untuk membentuk "situasi deepfakes."
Idea dan teknologi asas bagi situasi deepfake adalah sama seperti mana-mana deepfake lain, tetapi dengan cita-cita yang lebih berani: untuk memanipulasi peristiwa sebenar atau mencipta satu daripada udara tipis. Contohnya termasuk gambaran tentang Jalan kaki Donald Trump and Trump memeluk Anthony Fauci, kedua-duanya tidak berlaku. Pukulan peluk dipromosikan oleh a Akaun Twitter dikaitkan dengan kempen presiden daripada pesaing Trump Ron DeSantis. An iklan serangan menyasarkan kempen 2024 Joe Biden yang diterbitkan oleh Jawatankuasa Kebangsaan Republikan ialah dibuat sepenuhnya dengan AI.
Pada Projek DeFake, kami kajian telah mendapati bahawa deepfakes, termasuk situasi, biasanya dicipta oleh beberapa campuran menambah satu bahagian media dengan yang lain; menggunakan video untuk menghidupkan imej atau mengubah video lain, digelar wayang kulit; menimbulkan kewujudan sekeping media, biasanya menggunakan AI generatif; atau beberapa gabungan teknik ini.
Untuk menjadi jelas, banyak pemalsuan situasi dibuat untuk tujuan yang tidak bersalah. Sebagai contoh, Majalah Infinite Odyssey menghasilkan gambar pegun palsu daripada filem yang tidak pernah dihasilkan or tidak mungkin wujud. Tetapi malah deepfake yang tidak bersalah memberi sebab untuk berhenti seketika, seperti dalam kes gambar palsu yang hampir boleh dipercayai yang menggambarkan Apollo Moon mendarat sebagai penerbitan filem.
Deepfaking pilihan raya
Sekarang letakkan diri anda dalam kedudukan seseorang yang cuba mempengaruhi pilihan raya akan datang. Apakah situasi yang mungkin anda ingin buat?
Sebagai permulaan, tidak kira sama ada anda mahu mengundi condong ke arah atau menjauhi keputusan tertentu. Mungkin anda akan menggambarkan calon bertindak berani dengan menarik pejalan kaki keluar dari jalan kereta yang dipandu laju atau, sebaliknya, melakukan sesuatu yang menyinggung perasaan atau jenayah. Format deepfake situasi juga penting. Daripada video, ia boleh menjadi gambar, mungkin dengan kabur dan sudut yang menyerupai kamera telefon pintar atau logo palsu agensi berita.
Khalayak sasaran anda akan menjadi kunci. Daripada menyasarkan pengundi umum atau pangkalan parti, anda mungkin menyasarkan ahli teori konspirasi di daerah mengundi utama. Anda boleh menggambarkan calon atau ahli keluarga mereka sebagai terlibat dalam a ritual syaitan, menyertai festival di eksklusif dan kontroversi Bohemian Grove, atau mempunyai pertemuan rahsia dengan makhluk luar angkasa.
Jika anda mempunyai cita-cita dan keupayaan untuk itu, anda juga boleh cuba untuk memalsukan pilihan raya itu sendiri. Pada Jun 2023, stesen televisyen dan radio Rusia telah digodam dan menyiarkan perintah mobilisasi penuh oleh palsu Presiden Rusia Vladimir Putin. Walaupun ini akan menjadi lebih sukar untuk dilakukan dalam pilihan raya AS, pada dasarnya mana-mana saluran berita boleh digodam untuk menyiarkan palsu sauh mereka yang mengumumkan keputusan yang salah atau calon yang mengaku kalah.
Mempertahankan realiti
Terdapat pelbagai cara teknologi dan psikologi untuk mengesan dan mempertahankan diri daripada situasi palsu.
Dari segi teknologi, semua deepfake mengandungi beberapa bukti sifat sebenar mereka. Sebahagian daripada keterangan ini boleh dilihat oleh mata manusia - seperti kulit yang terlalu licin atau pencahayaan atau seni bina yang ganjil - manakala yang lain mungkin hanya boleh dikesan oleh AI yang memburu deepfake.
Kami sedang membina DeFakepengesan untuk menggunakan AI untuk menangkap tanda-tanda palsu palsu, dan kami sedang berusaha untuk menyediakannya tepat pada masanya untuk pilihan raya 2024. Tetapi walaupun pengesan deepfake yang cukup berkuasa seperti kami tidak dapat digunakan menjelang Hari Pilihan Raya, terdapat alat psikologi yang anda, pengundi, boleh gunakan untuk mengenal pasti deepfake: pengetahuan latar belakang, rasa ingin tahu dan keraguan yang sihat.
Jika anda menemui kandungan media tentang seseorang, tempat atau acara yang kelihatan tidak biasa, percayai pengetahuan latar belakang anda. Contohnya, dalam a penipuan terbaru tentang kebakaran di Pentagon, bangunan yang ditunjukkan kelihatan lebih persegi daripada segi lima, yang boleh menjadi hadiah.
Walau bagaimanapun, cuba untuk tidak bergantung sepenuhnya pada pengetahuan latar belakang anda, yang mungkin tersilap atau bertompok-tompok. Jangan takut untuk mempelajari lebih lanjut daripada sumber yang boleh dipercayai, seperti laporan berita yang disemak fakta, artikel akademik yang disemak rakan sebaya atau temu bual dengan pakar yang mempunyai kelayakan.
Selain itu, sedar bahawa deepfakes boleh digunakan untuk memanfaatkan diri anda cenderung untuk percaya tentang seseorang, tempat atau peristiwa. Salah satu cara terbaik untuk menangani perkara ini adalah dengan mudah sedar tentang berat sebelah anda dan berhati-hati sedikit tentang sebarang kandungan media yang seolah-olah mengesahkannya.
Walaupun mungkin untuk mencipta deepfakes situasi yang sempurna, sejauh mana kepercayaan subjek mereka, berkemungkinan akan kekal sebagai tudung Achilles mereka. Jadi, dengan atau tanpa penyelesaian teknologi, anda masih mempunyai kuasa untuk mempertahankan pilihan raya daripada pengaruh acara palsu.
Tentang Pengarang
Christopher Schwartz, Associate Penyelidik Pasca Doktoral Keselamatan Pengkomputeran, Rochester Institute of Technology
Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.
Buku berkaitan:
Mengenai Kezaliman: Dua Puluh Pengajaran dari Abad Kedua Puluh
oleh Timothy Snyder
Buku ini menawarkan pengajaran daripada sejarah untuk memelihara dan mempertahankan demokrasi, termasuk kepentingan institusi, peranan individu warganegara, dan bahaya autoritarianisme.
Klik untuk maklumat lanjut atau untuk memesan
Masa Kita Sekarang: Kuasa, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang ahli politik dan aktivis, berkongsi visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktikal untuk penglibatan politik dan mobilisasi pengundi.
Klik untuk maklumat lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini mengkaji tanda-tanda amaran dan punca kerosakan demokrasi, menggunakan kajian kes dari seluruh dunia untuk menawarkan pandangan tentang cara menjaga demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Rakyat, No: Sejarah Ringkas Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Syarikat dan mengkritik ideologi "anti-populis" yang dihujahnya telah membantutkan pembaharuan dan kemajuan demokrasi.
Klik untuk maklumat lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Bagaimana Ia Berfungsi, Mengapa Ia Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Fikirkan
oleh David Litt
Buku ini menawarkan gambaran keseluruhan demokrasi, termasuk kekuatan dan kelemahannya, dan mencadangkan pembaharuan untuk menjadikan sistem lebih responsif dan bertanggungjawab.
