Foto oleh: Norbert Aepli, Switzerland (Pengguna: Noebu)

Di 2016, kereta memandu sendiri menjadi arus perdana. Kenderaan autonomi Uber menjadi mana-mana di kawasan kejiranan di mana saya tinggal di Pittsburgh, dan secara ringkas di San Francisco. Jabatan Pengangkutan Amerika Syarikat dikeluarkan bimbingan peraturan baru untuk mereka. Tak terhitung jumlahnya kertas and lajur membincangkan bagaimana kereta memandu sendiri Sekiranya menyelesaikan pengasingan etika apabila keadaan menjadi salah. Dan, malangnya, 2016 juga melihat kematian pertama yang melibatkan kenderaan autonomi.

Teknologi autonomi pesat menyebar di luar sektor pengangkutan, ke penjagaan kesihatan, cyberdefense maju dan malah senjata autonomi. Di 2017, kita perlu membuat keputusan sama ada kita boleh mempercayai teknologi ini. Itu akan menjadi lebih sukar daripada yang kita jangkakan.

Amanah adalah kompleks dan pelbagai, tetapi juga sebahagian penting dalam kehidupan kita. Kami sering mempercayai teknologi berdasarkan kepada ramalan: Saya percaya sesuatu jika saya tahu apa yang akan dilakukan dalam keadaan tertentu, walaupun saya tidak tahu mengapa. Sebagai contoh, saya mempercayai komputer saya kerana saya tahu bagaimana ia berfungsi, termasuk apabila ia akan rosak. Saya berhenti mempercayai jika ia mula bertindak dengan cara yang berbeza atau mengejutkan.

Sebaliknya, kepercayaan saya terhadap isteri saya berdasarkan memahami kepercayaan, nilai dan keperibadiannya. Secara umumnya, kepercayaan interpersonal tidak melibatkan mengetahui dengan tepat apa yang dilakukan oleh orang lain - isteri saya pasti mengejutkan saya kadang-kadang! - tetapi mengapa mereka bertindak seperti yang mereka lakukan. Dan tentu saja, kita boleh mempercayai seseorang (atau sesuatu) dalam kedua-dua cara, jika kita tahu apa yang akan mereka lakukan dan mengapa.

Saya telah meneroka asas yang mungkin untuk kepercayaan kami dalam kereta memandu sendiri dan teknologi autonomi lain dari perspektif etika dan psikologi. Ini adalah peranti, jadi ramalan mungkin kelihatan seperti kunci. Oleh kerana autonomi mereka, kita perlu mempertimbangkan kepentingan dan nilai - dan cabaran - pembelajaran untuk mempercayai mereka dalam cara kita mempercayai manusia yang lain.

Otonomi dan ramalan

Kami mahukan teknologi kami, termasuk kereta memandu sendiri, untuk berkelakuan dengan cara yang dapat kita ramalkan dan harapkan. Sudah tentu, sistem ini agak sensitif terhadap konteks, termasuk kenderaan lain, pejalan kaki, keadaan cuaca dan sebagainya. Secara umum, walaupun, kita mungkin menjangkakan bahawa kereta memandu sendiri yang berulang kali diletakkan dalam persekitaran yang sama sepatutnya berkelakuan sama sekali setiap kali. Tetapi dalam erti kata apakah kereta-kereta yang sangat diramalkan ini boleh menjadi autonomi, bukan sekadar automatik?

Di sana ada menjadi banyak berbeza percubaan kepada menentukan otonomi, tetapi mereka semua mempunyai kesamaan ini: Sistem autonomi boleh membuat keputusan dan rancangan mereka sendiri (substantif), dan dengan itu boleh bertindak berbeza daripada yang dijangkakan.

Sebenarnya, satu sebab untuk menggunakan autonomi (berbeza dengan automasi) adalah dengan tepat bahawa sistem tersebut dapat mengejar tindakan yang tidak dijangka dan mengejutkan, walaupun wajar. Sebagai contoh, AlphaGo DeepMind memenangi permainan kedua Siri siri baru-baru ini terhadap Lee Sedol sebahagiannya kerana satu pergerakan yang tidak pernah dibuat oleh pemain manusia, tetapi tetap merupakan langkah yang betul. Tetapi kejutan yang sama menjadikan sukar untuk menubuhkan kepercayaan berdasarkan kepercayaan. Kepercayaan yang kuat berdasarkan semata-mata pada ramalan boleh dikatakan mungkin hanya untuk sistem automatik atau automatik, tepat kerana mereka boleh diramalkan (dengan asumsi fungsi sistem biasanya).

Merangkul kejutan

Sudah tentu, orang lain sering mengejutkan kita, namun kita boleh mempercayai mereka untuk tahap yang luar biasa, bahkan memberi mereka kuasa hidup dan kematian atas diri kita sendiri. Para askar mempercayai rakan-rakan mereka dalam persekitaran yang kompleks dan bermusuhan; seorang pesakit mempercayai pakar bedahnya untuk mengeluarkan ekzema tumor; dan dalam urat yang lebih biasa, isteri saya mempercayai saya memandu dengan selamat. Kepercayaan interpersonal ini membolehkan kita merangkul kejutan, jadi mungkin kita dapat membangun sesuatu seperti kepercayaan interpersonal dalam kereta memandu sendiri?

Umumnya, kepercayaan interpersonal memerlukan pemahaman tentang mengapa seseorang bertindak dengan cara tertentu, walaupun anda tidak dapat meramalkan keputusan yang tepat. Isteri saya mungkin tidak tahu dengan tepat bagaimana saya akan memandu, tetapi dia tahu jenis pemikiran yang saya gunakan semasa saya memandu. Dan sebenarnya agak mudah difahami mengapa orang lain melakukan sesuatu, kerana kita semua berfikir dan beralasan secara kasar sama, walaupun dengan "bahan mentah" yang berbeza - kepercayaan, keinginan dan pengalaman kita.

Sebenarnya, kita secara berterusan dan tidak sedar membuat kesimpulan tentang kepercayaan dan keinginan orang lain berdasarkan tindakan mereka, sebahagian besarnya dengan mengandaikan bahawa mereka berfikir, membuat alasan dan memutuskan secara kasar seperti yang kita lakukan. Kesemua kesimpulan dan pemikiran berdasarkan kognisi bersama (manusia) ini membolehkan kita memahami sebab orang lain, dan dengan itu membina kepercayaan interpersonal dari masa ke masa.

Berpikir seperti orang?

Teknologi autonomi - kereta memandu sendiri, khususnya - jangan berfikir dan membuat keputusan seperti orang. Terdapat usaha, kedua-duanya Lepas and baru-baru ini, untuk membangunkan sistem komputer yang berfikir dan membuat alasan seperti manusia. Walau bagaimanapun, satu tema yang konsisten dalam pembelajaran mesin selama dua dekad yang lalu telah menjadi keuntungan besar yang dibuat dengan tepat oleh tidak memerlukan sistem kecerdasan buatan kami untuk beroperasi dengan cara seperti manusia. Sebaliknya, algoritma dan sistem pembelajaran mesin seperti AlphaGo sering dapat mengatasi pakar manusia dengan memberi tumpuan kepada masalah tertentu, setempat, dan kemudian menyelesaikannya dengan agak berbeza daripada manusia.

Akibatnya, percubaan untuk mentafsirkan teknologi autonomi dari segi kepercayaan dan hasrat seperti manusia dapat berjalan lancar. Apabila seorang pemandu manusia melihat bola di jalan raya, kebanyakan kita secara automatik perlahan dengan ketara, untuk mengelakkan memukul seorang anak yang mungkin mengejarnya. Jika kita menaiki kereta autonomi dan melihat bola masuk ke jalan, kami mengharapkan kereta untuk mengenalinya, dan bersedia untuk berhenti untuk menjalankan kanak-kanak. Bagaimanapun, kereta itu hanya dapat melihat halangan yang harus dielakkan. Sekiranya ia mengalir tanpa perlahan, manusia di atas kapal mungkin terkejut - dan kanak-kanak mungkin berada dalam bahaya.

Kesimpulan kami mengenai "keyakinan" dan "keinginan" dari kereta memandu sendiri akan hampir pasti salah dalam cara yang penting, kerana kereta itu tidak mempunyai kepercayaan atau hasrat seperti manusia. Kami tidak boleh membangun kepercayaan interpersonal dalam kereta memandu sendiri hanya dengan memerhatikannya memandu, kerana kami tidak akan menyimpulkan secara tepat apa yang berlaku di belakang tindakannya.

Sudah tentu, masyarakat atau pelanggan pasaran boleh mendesak secara beramai-ramai bahawa kereta memandu sendiri mempunyai ciri-ciri manusia (psikologi), tepatnya supaya kita dapat memahami dan membangunkan kepercayaan interpersonal kepada mereka. Strategi ini akan memberi makna baru untuk "reka bentuk berpusatkan manusia, "Kerana sistem akan direka secara khusus supaya tindakan mereka dapat ditafsirkan oleh manusia. Tetapi ia juga memerlukan termasuk novel algoritma and teknik dalam kereta memandu sendiri, yang semuanya akan menggambarkan perubahan besar dari strategi penyelidikan dan pembangunan semasa untuk kereta memandu sendiri dan teknologi autonomi yang lain.

Kereta memandu sendiri berpotensi untuk mengubahsuai infrastruktur pengangkutan kita secara radikal dengan banyak cara yang bermanfaat, tetapi hanya jika kita boleh mempercayai mereka cukup untuk menggunakannya. Dan ironinya, ciri-ciri yang menjadikan kereta memandu sendiri berharga - pengambilan keputusan fleksibel, autonomi mereka dalam pelbagai situasi - adalah persis apa yang membuatnya sukar untuk mempercayai mereka.

authirhere

David Danks, Profesor Falsafah dan Psikologi, Carnegie Mellon University

Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.

Buku berkaitan:

at InnerSelf Market dan Amazon