Ahmet Misirligul / Shutterstock

The Slaughterbots filem pendek menggambarkan masa depan yang hampir di mana kumpulan dron mikro membunuh beribu-ribu orang untuk kepercayaan politik mereka. Dikeluarkan pada November 2017 oleh ahli akademik dan aktivis yang memberi amaran tentang bahaya kecerdasan buatan maju (AI), ia dengan cepat menjadi virus, menarik lebih banyak pandangan 3m sehingga kini. Ia membantu mencetuskan a perdebatan awam pada masa depan senjata autonomi dan memberi tekanan pada mesyuarat diplomat di Pertubuhan Bangsa-Bangsa Bersatu Konvensyen mengenai Senjata Konvensional.

Tetapi jenis ini menceritakan fiksyen sains fiksyen tidak hanya berguna untuk menarik perhatian. Orang yang merancang dan membina teknologi canggih boleh menggunakan cerita untuk mempertimbangkan akibat kerja mereka dan memastikan ia digunakan untuk kebaikan. Dan kita fikir jenis "prototaip fiksyen sains" atau "fiksyen reka bentuk" ini boleh membantu mencegah kecenderungan manusia daripada mengerjakan teknologi baru, memupuk lebih banyak prejudis dan ketidakadilan masyarakat.

{vembed Y = 9CO6M2HsoIA}

Bias boleh menyebabkan keutamaan sewenang-wenangnya beberapa kategori (hasil, orang, atau idea) berbanding orang lain. Sebagai contoh, sesetengah orang mungkin berat sebelah menangguhkan wanita untuk pekerjaan eksekutif, sama ada mereka sedar mengenainya atau tidak.

Teknologi yang dibina di sekeliling data yang merekodkan berat sebelah itu boleh berakhir mereplikasi masalah. Sebagai contoh, perisian pengambilan yang direka untuk memilih CV terbaik untuk pekerjaan tertentu mungkin diprogramkan untuk mencari ciri-ciri yang mencerminkan kecenderungan tidak sedarkan diri terhadap lelaki. Dalam hal ini, algoritma ini akan memihak kepada CV lelaki. Dan ini bukan teori - ia sebenarnya berlaku kepada Amazon.

Merancang algoritma tanpa mengambil kira kemungkinan implikasi negatif telah dibandingkan kepada doktor "menulis tentang manfaat rawatan yang diberikan dan benar-benar mengabaikan kesan sampingan, tidak kira betapa seriusnya mereka".

Sesetengah firma dan penyelidik berteknologi cuba mengatasi masalah ini. Sebagai contoh, Google menyusun a set prinsip etika untuk membimbing perkembangan AI. Dan akademik UK telah melancarkan inisiatif yang dipanggil Tidak sama yang bertujuan untuk menggalakkan keadilan yang lebih adil dan keadilan dalam reka bentuk dan penggunaan teknologi.

Masalahnya ialah, secara terbuka, syarikat-syarikat cenderung untuk memberikan hanya satu visi positif tentang potensi akibat teknologi berhampiran masa depan. Sebagai contoh, kereta tanpa pemandu sering digambarkan sebagai menyelesaikan semua isu pengangkutan kami dari kos kepada keselamatan, mengabaikan peningkatan bahaya cyberattacks atau hakikat mereka boleh menggalakkan orang ramai untuk berjalan atau kitaran kurang.

Kesukaran untuk memahami bagaimana teknologi digital berfungsi, terutamanya yang banyak didorong oleh algoritma yang tidak jelas, juga menjadikannya lebih sukar bagi orang untuk melihat pandangan yang rumit dan komprehensif mengenai isu-isu tersebut. Situasi ini menghasilkan ketegangan antara cerita positif yang menenangkan dan kecurigaan samar-samar bahawa bias tertanam ke tahap tertentu dalam teknologi di sekeliling kita. Di sinilah kita berfikir bercerita melalui fiksyen reka bentuk yang boleh masuk.

Cerita adalah cara pemikiran semula jadi tentang kemungkinan dan keadaan yang rumit, dan kita telah mendengar mereka sepanjang hidup kita. Fiksyen sains dapat membantu kita membuat spekulasi mengenai kesan teknologi masa depan di masyarakat, seperti yang dilakukan oleh Slaughterbots. Ini juga termasuk isu keadilan sosial, seperti cara kumpulan tertentu, seperti pelarian dan pendatang, boleh dikecualikan daripada inovasi digital.

Mendedahkan masa depan (kemungkinan)

Kisah fiksyen reka bentuk menyediakan cara baru bagi pereka, jurutera dan futuris (antara lain) untuk memikirkan kesan teknologi dari perspektif manusia dan menghubungkannya dengan keperluan masa depan yang mungkin. Dengan campuran logik dan imaginasi, fiksyen rekaan boleh mendedahkan aspek bagaimana teknologi boleh diterima pakai dan digunakan, memulakan perbualan tentang ramalan masa depan.

Contohnya, cerita pendek "Sumber jenayah"Meneroka apa yang mungkin berlaku jika AI menggunakan maklumat orang ramai dan pangkalan data jenayah untuk meramalkan siapa yang mungkin melakukan pembunuhan. Para penyelidik mendapati bahawa kerana pangkalan data itu penuh dengan orang-orang dalam kumpulan etnik minoriti yang, atas sebab-sebab sosial, secara statistik lebih cenderung untuk mengembalikan, model "jenayah-sumber" lebih cenderung untuk salah mengesyaki minoriti daripada orang kulit putih.

Anda tidak perlu menjadi penulis berbakat atau membuat filem licin untuk menghasilkan fiksyen reka bentuk. Aktiviti brainstorming melibatkan kad dan papan cerita telah digunakan untuk mengembangkan fiksyen reka bentuk dan membantu membangunkan proses bercerita. Membuat bengkel yang menggunakan jenis alat yang lebih biasa akan membolehkan lebih banyak jurutera, usahawan dan penggubal dasar menggunakan kaedah penilaian ini. Dan membuat kerja yang dihasilkan secara terbuka akan membantu untuk mendedahkan potensi bias dalam teknologi sebelum mereka mempengaruhi masyarakat.

Menggalakkan pereka untuk mencipta dan berkongsi lebih banyak cerita dengan cara ini akan memastikan naratif yang mendasari teknologi baru tidak akan hanya memperlihatkan gambaran yang positif, atau yang sangat negatif atau dystopian. Sebaliknya, orang akan dapat menghargai kedua-dua aspek tentang apa yang berlaku di sekeliling kita.

Mengenai Pengarang

Alessio Malizia, Profesor Reka Bentuk Pengalaman Pengguna, Universiti Hertfordshire and Silvio Carta, Ketua Seni dan Reka Bentuk dan Pengerusi Kumpulan Penyelidikan Rekaan, Universiti Hertfordshire

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.