Kereta autonomi tidak lebih bijak daripada ini. X posid

Setiap tajuk utama yang tidak terkira banyaknya muncul dari pelbagai sumber di seluruh dunia, kedua-duanya amaran akibat buruk and niaga hadapan utopian yang menjanjikan - semua terima kasih kepada kecerdasan buatan. AI "sedang mengubah tempat kerja," tulisnya Wall Street Journal, Manakala kekayaan majalah memberitahu kita bahawa kita menghadapi "revolusi AI" yang akan "mengubah hidup kita." Tetapi kita tidak benar-benar memahami apa yang berinteraksi dengan AI akan menjadi seperti - atau apa yang sepertinya.

Walau bagaimanapun, ternyata kita sudah mempunyai konsep yang boleh kita gunakan apabila kita berfikir tentang AI: Itulah cara kita memikirkan haiwan. Sebagai bekas jurulatih haiwan (walaupun ringkas) yang kini mengkaji bagaimana orang menggunakan AI, saya tahu bahawa latihan haiwan dan haiwan boleh mengajar kita cukup banyak tentang bagaimana kita harus berfikir, mendekati dan berinteraksi dengan kecerdasan buatan, sekarang dan dalam masa depan.

Menggunakan analogi haiwan boleh membantu orang biasa memahami banyak aspek kompleks kecerdasan buatan. Ia juga boleh membantu kita berfikir tentang cara terbaik untuk mengajar sistem ini kemahiran baru dan, mungkin yang paling penting, bagaimana kita dapat memahami dengan sempurna batasan mereka, walaupun kita merayakan kemungkinan baru AI.

Melihat kekangan

Sebagai pakar AI Maggie Boden menerangkan, "Kecerdasan Buatan bertujuan membuat komputer melakukan pelbagai perkara yang dapat dilakukan oleh minda." Penyelidik AI sedang berusaha mengajar komputer untuk membuat alasan, melihat, merancang, bergerak dan membuat persatuan. AI dapat melihat corak dalam set data besar, meramalkan kemungkinan peristiwa yang berlaku, merancang laluan, mengurus jadual mesyuarat seseorang dan juga bermain senario permainan perang.

Banyak keupayaan ini, dalam dirinya sendiri, tidak mengejutkan: Sudah tentu robot boleh melancarkan ruang dan tidak bertembung dengan apa-apa. Tetapi entah bagaimana AI nampak lebih ajaib apabila komputer mula meletakkan kemahiran ini bersama-sama untuk menyelesaikan tugas.

Ambil, contohnya, kereta autonomi. Asal-usul kereta tanpa pemandu berada di Projek Penyelidikan Projek Penyelidikan Lanjutan Projek 1980s yang dipanggil Kenderaan Tanah Autonomi. Matlamat projek adalah untuk menggalakkan penyelidikan ke dalam visi komputer, persepsi, perancangan dan kawalan robot. Dalam 2004, usaha ALV menjadi yang pertama Cabaran Grand untuk kereta memandu sendiri. Kini, lebih daripada 30 sejak usahanya bermula, kita berada di jurang kereta autonomi atau memandu sendiri di pasaran awam. Pada tahun-tahun awal, beberapa orang berpendapat bahawa prestasi seperti itu tidak mustahil: Komputer tidak boleh memandu!

Cabaran DARPA Grand mendorong pembangunan kenderaan autonomi.

{youtube}M2AcMnfzpNg{/youtube}

Namun, seperti yang kita lihat, mereka boleh. Kebolehan kereta autonomi adalah mudah untuk kita fahami. Tetapi kita berjuang untuk memahami batasan mereka. Selepas 2015 kemalangan Tesla maut, di mana fungsi autopilot kereta gagal merasakan traktor traktor yang menyeberang ke lorongnya, beberapa masih nampak graviti betapa terhadnya autopilot Tesla. Walaupun syarikat dan perisiannya adalah dibersihkan daripada kecuaian oleh Pentadbiran Keselamatan Lalu Lintas Kebangsaan, masih tidak jelas sama ada pelanggan benar-benar memahami apa yang boleh dan tidak dapat dilakukan oleh kereta.

Bagaimana jika pemilik Tesla diberitahu tidak bahawa mereka memandu versi "beta" autopilot tetapi sebaliknya kereta separa autonomi dengan kesetaraan mental cacing? Apa yang dipanggil "kecerdasan" yang memberikan "keupayaan memandu sendiri"Benar-benar sebuah komputer gergasi yang cukup baik untuk mengesan objek dan mengelakkan mereka, mengenali item dalam imej dan perancangan terhad. Itu mungkin mengubah perspektif pemilik tentang berapa banyak kereta itu benar-benar dapat dilakukan tanpa input atau pengawasan manusia.

Apakah ia?

Teknolog sering cuba menjelaskan AI dari segi bagaimana ia dibina. Ambil, contohnya, kemajuan yang dibuat dalam pembelajaran mendalam. Ini adalah teknik yang digunakan rangkaian pelbagai lapisan untuk belajar bagaimana melakukan tugas. Rangkaian ini perlu memproses sejumlah besar maklumat. Tetapi kerana volum data yang mereka perlukan, kerumitan persatuan dan algoritma dalam rangkaian, sering tidak jelas kepada manusia bagaimana mereka belajar apa yang mereka lakukan. Sistem-sistem ini mungkin menjadi sangat baik pada satu tugas tertentu, tetapi kita tidak begitu memahaminya.

Daripada berfikir tentang AI sebagai sesuatu yang luar biasa atau asing, lebih mudah untuk mengamalkannya kepada haiwan, orang bukan pintar pintar yang mempunyai latihan pengalaman.

Contohnya, jika saya gunakan pembelajaran tetulang untuk melatih anjing untuk duduk, saya akan memuji anjing dan memberinya merawat ketika dia duduk di perintah. Dari masa ke masa, dia akan belajar mengaitkan perintah dengan tingkah laku dengan merawatnya.

Mengajar anjing untuk duduk adalah seperti latihan kecerdasan buatan.

{youtube}5-MA-rGbt9k{/youtube}

Latihan sistem AI boleh menjadi sangat sama. In pengukuhan pembelajaran yang mendalam, pereka manusia menubuhkan sebuah sistem, membayangkan apa yang mereka mahu ia belajar, memberi maklumat, menonton tindakan dan memberi maklum balas (seperti pujian) apabila mereka melihat apa yang mereka mahu. Pada dasarnya, kita boleh merawat sistem AI seperti kita merawat haiwan yang kita sedang latihan.

Analogi juga berfungsi pada tahap yang lebih mendalam. Saya tidak mengharapkan anjing duduk untuk memahami konsep yang rumit seperti "cinta" atau "baik". Saya mengharapkan dia untuk belajar tingkah laku. Sama seperti kita boleh mendapatkan anjing untuk duduk, tinggal dan berguling, kita boleh mendapatkan sistem AI untuk menggerakkan kereta di sekitar jalan awam. Tetapi ia terlalu banyak mengharapkan kereta itu "menyelesaikan"The masalah etika yang boleh timbul dalam memandu kecemasan.

Membantu penyelidik juga

Pemikiran AI sebagai haiwan yang dilatih tidak hanya berguna untuk menjelaskannya kepada masyarakat umum. Ia juga membantu penyelidik dan jurutera membina teknologi. Jika seorang ulama AI cuba mengajar sistem suatu kemahiran baru, memikirkan proses dari perspektif pelatih haiwan dapat membantu mengenal pasti masalah atau komplikasi yang berpotensi.

Sebagai contoh, jika saya cuba melatih anjing saya untuk duduk, dan setiap kali saya mengatakan "duduk" bel ke oven pergi, maka anjing saya akan mula mengaitkan duduk bukan sahaja dengan perintah saya, tetapi juga dengan bunyi buzzer ketuhar. Pada dasarnya, buzzer menjadi isyarat lain yang memberitahu anjing itu duduk, yang dipanggil "tulangan yang tidak disengajakan." Jika kita mencari bantuan atau isyarat yang tidak disengajakan dalam sistem AI yang tidak berfungsi dengan baik, maka kita akan tahu lebih baik bukan sahaja apa yang akan terjadi salah, tetapi juga latihan semula apa yang paling berkesan.

Ini memerlukan kita untuk memahami apa yang kami berikan semasa latihan AI, dan juga apa yang dapat dilihat oleh AI di sekitar persekitarannya. Buzzer ketuhar adalah contoh sederhana; di dunia nyata ia akan menjadi lebih rumit.

Sebelum kami mengalu-alukan ketua AI kami dan menyerahkan kehidupan dan pekerjaan kami kepada robot, kami sepatutnya berhenti seketika dan berfikir tentang kecerdasan yang kami cipta. Mereka akan sangat baik melakukan tindakan atau tugas tertentu, tetapi mereka tidak dapat memahami konsep, dan tidak tahu apa-apa. Jadi apabila anda berfikir membebaskan ribuan orang untuk kereta Tesla baru, ingat fungsi autopilotnya sebenarnya cacing yang sangat cepat dan seksi. Adakah anda benar-benar mahu mengawal kehidupan anda dan kehidupan orang tersayang anda ke cacing? Mungkin tidak, jadi simpan tangan anda pada roda dan jangan tidur.

Tentang Pengarang

Heather Roff, Felo Penyelidik Kanan, Jabatan Politik & Hubungan Antarabangsa, Universiti Oxford; Saintis Penyelidikan, Inisiatif Keselamatan Global, Arizona State University

Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.

Buku-buku yang berkaitan

at InnerSelf Market dan Amazon