lelaki - dan negara - berperang
Napoleon boleh belajar dari masa lalu. lukisan oleh Adolph Northen/wikipedia

Ia adalah klise bahawa tidak mengetahui sejarah membuat seseorang mengulanginya. Seperti yang telah ditegaskan oleh ramai orang, satu-satunya perkara yang kita pelajari daripada sejarah ialah kita jarang belajar apa-apa daripada sejarah. Orang ramai terlibat perang darat di Asia lagi dan lagi. Mereka juga mengulangi kesilapan dating yang sama, lagi dan lagi. Tetapi mengapa ini berlaku? Dan adakah teknologi akan menamatkannya?

Satu isu adalah kealpaan dan "myopia”: kami tidak melihat bagaimana peristiwa masa lalu berkaitan dengan peristiwa semasa, tanpa melihat corak yang berlaku. Napoleon sepatutnya menyedari persamaan antara perarakannya ke Moscow dan raja Sweden Percubaan Charles XII yang gagal untuk melakukan perkara yang sama kira-kira satu abad sebelum dia.

Kami juga teruk dalam belajar apabila berlaku masalah. Daripada menentukan sebab sesuatu keputusan itu salah dan cara untuk mengelakkannya daripada berulang, kita sering cuba mengabaikan kejadian yang memalukan itu. Ini bermakna apabila situasi serupa berlaku seterusnya, kita tidak nampak persamaan – dan mengulangi kesilapan itu.

Kedua-duanya mendedahkan masalah dengan maklumat. Dalam kes pertama, kita gagal mengingati maklumat peribadi atau sejarah. Dalam yang kedua, kami gagal mengekod maklumat apabila ia tersedia.


grafik langganan dalaman


Yang berkata, kita juga membuat kesilapan apabila kita tidak dapat menyimpulkan dengan cekap apa yang akan berlaku. Mungkin keadaan itu terlalu rumit atau terlalu memakan masa untuk difikirkan. Atau kita berat sebelah untuk salah tafsir apa yang berlaku.

Kuasa teknologi yang menjengkelkan

Tetapi pastinya teknologi boleh membantu kita? Kini kita boleh menyimpan maklumat di luar otak kita, dan menggunakan komputer untuk mendapatkannya semula. Itu sepatutnya memudahkan pembelajaran dan ingatan, bukan?

Menyimpan maklumat berguna apabila ia dapat diperoleh dengan baik. Tetapi mengingati bukanlah perkara yang sama seperti mendapatkan semula fail dari lokasi atau tarikh yang diketahui. Mengingat melibatkan mengesan persamaan dan mengingati sesuatu.

Kecerdasan buatan (AI) juga perlu mampu secara spontan membawa persamaan kepada fikiran kita – selalunya persamaan yang tidak diingini. Tetapi jika ia pandai melihat kemungkinan persamaan (lagipun, ia boleh mencari semua internet dan semua data peribadi kami) ia juga akan sering melihat yang palsu.

Untuk tarikh yang gagal, ia mungkin ambil perhatian bahawa mereka semua melibatkan makan malam. Tetapi ia tidak pernah menjadi masalah makan. Dan ia adalah kebetulan bahawa terdapat bunga tulip di atas meja - tiada sebab untuk mengelakkannya. Kami sering mengulangi kesilapan dating. 

Ini bermakna ia akan memberi amaran kepada kita tentang perkara yang kita tidak peduli, mungkin dengan cara yang menjengkelkan. Menala sensitivitinya bermakna meningkatkan risiko tidak mendapat amaran apabila ia diperlukan.

Ini adalah masalah asas dan berlaku sama seperti mana-mana penasihat: penasihat yang berhati-hati akan menangis serigala terlalu kerap, penasihat yang optimis akan terlepas risiko.

Penasihat yang baik ialah seseorang yang kita percayai. Mereka mempunyai tahap kewaspadaan yang sama seperti kita, dan kita tahu mereka tahu apa yang kita mahukan. Ini sukar ditemui dalam penasihat manusia, dan lebih-lebih lagi dalam AI.

Di manakah teknologi menghentikan kesilapan? Kerja-kerja kalis bodoh. Mesin pemotong memerlukan anda menahan butang, menjauhkan tangan anda dari bilah. "Suis orang mati" menghentikan mesin jika pengendali menjadi tidak berupaya.

Ketuhar gelombang mikro mematikan sinaran apabila pintu dibuka. Untuk melancarkan peluru berpandu, dua orang perlu memusing kunci secara serentak merentasi bilik. Di sini, reka bentuk yang teliti menyebabkan kesilapan sukar dilakukan. Tetapi kami tidak cukup mengambil berat tentang situasi yang kurang penting, menjadikan reka bentuk di sana jauh kurang kalis bodoh.

Apabila teknologi berfungsi dengan baik, kita sering terlalu mempercayainya. Juruterbang syarikat penerbangan mempunyai lebih sedikit waktu penerbangan sebenar hari ini berbanding masa lalu kerana kecekapan sistem autopilot yang menakjubkan. Ini adalah berita buruk apabila juruterbang automatik gagal, dan juruterbang mempunyai kurang pengalaman untuk meneruskan untuk membetulkan keadaan.

Yang pertama daripada a baka baru platform minyak (Sleipnir A) tenggelam kerana jurutera mempercayai pengiraan perisian daya yang bertindak ke atasnya. Model itu salah, tetapi ia membentangkan hasilnya dengan cara yang menarik sehingga kelihatan boleh dipercayai.

Kebanyakan teknologi kami sangat boleh dipercayai. Sebagai contoh, kami tidak perasan bagaimana paket data yang hilang di Internet sentiasa ditemui di sebalik tabir, cara kod pembetulan ralat mengeluarkan bunyi atau cara fius dan redundansi menjadikan perkakas selamat.

Tetapi apabila kita menimbun pada tahap demi tahap kerumitan, ia kelihatan sangat tidak boleh dipercayai. Kami perasan apabila video Zoom ketinggalan, program AI salah menjawab atau komputer ranap. Namun tanya sesiapa sahaja yang menggunakan komputer atau kereta 50 tahun yang lalu bagaimana mereka sebenarnya berfungsi, dan anda akan perhatikan bahawa kedua-duanya kurang berkemampuan dan kurang boleh dipercayai.

Kami menjadikan teknologi lebih kompleks sehingga ia menjadi terlalu menjengkelkan atau tidak selamat untuk digunakan. Apabila bahagian menjadi lebih baik dan lebih dipercayai, kami selalunya memilih untuk menambah ciri baharu yang menarik dan berguna daripada berpegang pada perkara yang berkesan. Ini akhirnya menjadikan teknologi kurang dipercayai daripada yang mungkin.

Kesilapan akan dilakukan

Inilah sebabnya mengapa AI adalah pedang bermata dua untuk mengelakkan kesilapan. Automasi sering menjadikan perkara lebih selamat dan lebih cekap apabila ia berfungsi, tetapi apabila ia gagal ia menjadikan masalah menjadi lebih besar. Autonomi bermakna bahawa perisian pintar boleh melengkapkan pemikiran kita dan membebankan kita, tetapi apabila ia tidak berfikir seperti yang kita mahu, ia boleh menjadi salah laku.

Lebih kompleks ia, lebih hebat kesilapan boleh berlaku. Sesiapa sahaja yang telah berurusan dengan sarjana yang sangat bijak tahu betapa mereka boleh mengacaukan keadaan dengan kepintaran yang hebat apabila akal budi mereka mengecewakan mereka - dan AI mempunyai sedikit akal fikiran manusia.

Ini juga merupakan sebab yang mendalam untuk bimbang tentang AI membimbing membuat keputusan: mereka melakukan kesalahan baru. Kita manusia tahu kesilapan manusia, bermakna kita boleh mengawasinya. Tetapi mesin pintar boleh membuat kesilapan yang tidak dapat kita bayangkan.

Lebih-lebih lagi, sistem AI diprogramkan dan dilatih oleh manusia. Dan terdapat banyak contoh sistem sedemikian menjadi berat sebelah malah taksub. Mereka meniru berat sebelah dan mengulangi kesilapan dari dunia manusia, walaupun orang yang terlibat secara eksplisit cuba mengelakkannya.

Akhirnya, kesilapan akan terus berlaku. Terdapat sebab asas mengapa kita salah tentang dunia, mengapa kita tidak mengingati semua yang sepatutnya kita ingat, dan mengapa teknologi kita tidak dapat membantu kita mengelakkan masalah dengan sempurna.

Tetapi kita boleh berusaha untuk mengurangkan akibat kesilapan. Butang buat asal dan autosimpan telah menyimpan banyak dokumen pada komputer kami. Monumen di London, batu tsunami di Jepun dan monumen lain bertindak untuk mengingatkan kita tentang risiko tertentu. Amalan reka bentuk yang baik menjadikan hidup kita lebih selamat.

Akhirnya, adalah mungkin untuk belajar sesuatu daripada sejarah. Matlamat kita adalah untuk terus hidup dan belajar daripada kesilapan kita, bukan menghalangnya daripada berlaku. Teknologi boleh membantu kita dalam hal ini, tetapi kita perlu berfikir dengan teliti tentang apa yang sebenarnya kita inginkan daripadanya – dan mereka bentuk dengan sewajarnya.

Tentang Pengarang

Anders Sandberg, Felo Penyelidik James Martin, Institut Kemanusiaan Masa Depan & Sekolah Oxford Martin, Universiti Oxford

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.