Foto yang dihasilkan AI?

Walaupun anda fikir anda pandai menganalisis wajah, kajian menunjukkan ramai orang tidak dapat membezakan dengan pasti antara foto wajah sebenar dan imej yang telah dijana oleh komputer. Ini amat bermasalah sekarang kerana sistem komputer boleh mencipta foto orang yang tidak wujud yang kelihatan realistik.

Baru-baru ini, profil LinkedIn palsu dengan gambar profil yang dijana komputer membuat berita kerana ia berjaya berhubung dengan pegawai AS dan individu berpengaruh lain pada platform rangkaian, contohnya. Pakar perisikan balas bahkan mengatakan bahawa pengintip secara rutin membuat profil hantu dengan gambar sedemikian untuk masuk ke sasaran asing melalui media sosial.

Pemalsuan mendalam ini semakin meluas dalam budaya seharian yang bermakna orang ramai harus lebih sedar tentang cara ia digunakan dalam pemasaran, pengiklanan dan media sosial. Imej itu juga digunakan untuk tujuan jahat, seperti propaganda politik, pengintipan dan peperangan maklumat.

Membuatnya melibatkan sesuatu yang dipanggil rangkaian saraf dalam, sistem komputer yang meniru cara otak belajar. Ini "dilatih" dengan mendedahkannya kepada set data wajah sebenar yang semakin besar.

Malah, dua rangkaian neural dalam ditetapkan antara satu sama lain, bersaing untuk menghasilkan imej yang paling realistik. Hasilnya, produk akhir dinamakan imej GAN, di mana GAN bermaksud Generative Adversarial Networks. Proses ini menghasilkan imej baru yang tidak dapat dibezakan secara statistik daripada imej latihan.


grafik langganan dalaman


Dalam kajian kami yang diterbitkan dalam iScience, kami menunjukkan bahawa kegagalan untuk membezakan wajah tiruan ini daripada yang sebenar mempunyai implikasi kepada tingkah laku dalam talian kami. Penyelidikan kami mencadangkan imej palsu boleh menghakis kepercayaan kami terhadap orang lain dan mengubah cara kami berkomunikasi secara dalam talian.

Saya dan rakan sekerja mendapati bahawa orang ramai menganggap wajah GAN lebih kelihatan nyata daripada foto tulen wajah orang sebenar. Walaupun masih belum jelas mengapa ini berlaku, dapatan ini tidak menyerlahkan kemajuan terkini dalam teknologi digunakan untuk menghasilkan imej tiruan.

Dan kami juga menemui pautan menarik kepada daya tarikan: wajah yang dinilai sebagai kurang menarik juga dinilai sebagai lebih nyata. Wajah yang kurang menarik mungkin dianggap lebih tipikal dan wajah biasa boleh digunakan sebagai rujukan terhadap mana semua muka dinilai. Oleh itu, wajah GAN ini akan kelihatan lebih nyata kerana ia lebih serupa dengan templat mental yang telah dibina orang daripada kehidupan seharian.

Tetapi melihat wajah tiruan ini sebagai tulen juga mungkin mempunyai akibat untuk tahap kepercayaan umum yang kami sampaikan kepada kalangan orang yang tidak dikenali — konsep yang dikenali sebagai "kepercayaan sosial".

Kita sering membaca terlalu banyak ke muka yang kita lihat, dan tanggapan pertama yang kita bentuk membimbing interaksi sosial kita. Dalam percubaan kedua yang membentuk sebahagian daripada kajian terbaharu kami, kami melihat bahawa orang lebih cenderung untuk mempercayai maklumat yang disampaikan oleh wajah yang mereka anggap nyata sebelum ini, walaupun ia dijana secara buatan.

Tidak hairanlah orang ramai meletakkan lebih kepercayaan pada wajah yang mereka percayai sebagai realiti. Tetapi kami mendapati bahawa kepercayaan telah terhakis sebaik sahaja orang ramai dimaklumkan tentang potensi kehadiran wajah tiruan dalam interaksi dalam talian. Mereka kemudian menunjukkan tahap kepercayaan yang lebih rendah, secara keseluruhan - tanpa mengira sama ada wajah itu nyata atau tidak.

Hasil ini boleh dianggap sebagai berguna dalam beberapa cara, kerana ia menjadikan orang lebih curiga dalam persekitaran di mana pengguna palsu mungkin beroperasi. Walau bagaimanapun, dari perspektif lain, ia mungkin secara beransur-ansur menghakis sifat cara kita berkomunikasi.

Secara umum, kami cenderung untuk beroperasi andaian lalai bahawa orang lain pada dasarnya adalah benar dan boleh dipercayai. Pertumbuhan profil palsu dan kandungan dalam talian tiruan lain menimbulkan persoalan tentang sejauh mana kehadiran mereka dan pengetahuan kita tentang mereka boleh mengubah keadaan "kelalaian kebenaran" ini, akhirnya menghakis kepercayaan sosial.

Menukar lalai kami

Peralihan kepada dunia di mana perkara yang nyata tidak dapat dibezakan daripada yang tidak juga boleh mengalihkan landskap budaya daripada yang paling benar kepada yang paling tiruan dan menipu.

Jika kami kerap mempersoalkan kebenaran perkara yang kami alami dalam talian, ini mungkin memerlukan kami untuk menggunakan semula usaha mental kami daripada pemprosesan mesej itu sendiri kepada pemprosesan identiti utusan. Dalam erti kata lain, penggunaan meluas kandungan dalam talian yang sangat realistik namun tiruan mungkin memerlukan kita berfikir secara berbeza – dengan cara yang tidak kita jangkakan.

Dalam psikologi, kami menggunakan istilah yang dipanggil "pemantauan realiti" untuk cara kami mengenal pasti dengan betul sama ada sesuatu datang dari dunia luar atau dari dalam otak kita. Kemajuan teknologi yang boleh menghasilkan palsu, namun sangat realistik, wajah, imej dan panggilan video bermakna pemantauan realiti mesti berdasarkan maklumat selain daripada pertimbangan kita sendiri. Ia juga memerlukan perbincangan yang lebih luas sama ada manusia masih mampu untuk lalai kepada kebenaran.

Adalah penting bagi orang ramai untuk menjadi lebih kritikal semasa menilai wajah digital. Ini boleh termasuk menggunakan carian imej terbalik untuk menyemak sama ada foto adalah tulen, berhati-hati dengan profil media sosial dengan maklumat peribadi yang sedikit atau bilangan pengikut yang ramai, dan menyedari potensi teknologi deepfake digunakan untuk tujuan jahat.

Sempadan seterusnya untuk kawasan ini harus dipertingkatkan algoritma untuk mengesan wajah digital palsu. Ini kemudiannya boleh dibenamkan dalam platform media sosial untuk membantu kami membezakan yang sebenar daripada yang palsu apabila ia berkaitan dengan wajah sambungan baharu.

Tentang Pengarang

Manos Tsakiris, Profesor Psikologi, Pengarah Pusat Politik Perasaan, Royal Holloway University of London

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.