Kita hidup dalam dunia yang semakin kompleks dan automatik. Jadi sama seperti kita perlu menangani masalah yang lebih rumit, automasi membawa kepada atrofi kemahiran manusia yang boleh menyebabkan kita lebih terdedah apabila bertindak terhadap situasi yang tidak dijangka atau apabila keadaan menjadi salah.

Pertimbangkan minit terakhir Air France Flight 447, yang jatuh ke Atlantik pada bulan Mei 2009 selepas meninggalkan Rio de Janeiro, Brazil, untuk Paris, Perancis.

Perakam penerbangannya diturunkan kekeliruan di kokpit. Pesawat itu menjadi condong ke atas di 15º dengan suara automatik berulang-ulang memanggil "gerai, gerai". Namun juruterbang itu terasa terasa goyah, seseorang berseru: "[...] kita tidak faham apa-apa."

Ini bukanlah tempat untuk masuk ke dalam dan luar penerbangan yang malang itu, selain daripada memperhatikan bahawa mana-mana sistem yang dirancang untuk menangani secara automatik dengan kontingensi majoriti masa meninggalkan asas kemahiran yang terdegradasi untuk minoriti situasi para pereka tidak dapat 't menjangkakan.

Bercakap kepada Vanity Fair, Nadine Sarter, seorang jurutera industri di University of Michigan, mengimbas kembali perbualan dengan lima orang jurutera yang terlibat dalam membina pesawat tertentu.

Saya mula bertanya, 'Nah, bagaimana ini atau kerja itu?' Dan mereka tidak dapat bersetuju dengan jawapannya. Jadi saya fikir, jika lima jurutera ini tidak boleh bersetuju, juruterbang yang miskin, jika dia pernah menemui situasi tertentu ... baik, nasib baik.

Pada hakikatnya kerumitan pesawat terbang berteknologi tinggi yang sangat rumit telah disalurkan kepada robot, dengan jurutera penerbangan ke semua maksud dan tujuan pergi dari keranjang. Hanya juruterbang yang lebih tua dan juruterbang angkatan udara yang lepas mengekalkan kemahiran terperinci itu.

Kembali ke firma terra, dalam dunia memandu autonomi mungkin ada generasi masa depan yang tidak mempunyai pengalaman praktikal memandu dan menavigasi kenderaan.

Kita sudah melihat petunjuk apa yang boleh berlaku apabila manusia meninggalkan kawalan sistem autonomi.

Penyiasatan ke atas Kemalangan maut Tesla Model S dengan autopilot mencatatkan bahawa syarikat itu menyediakan maklumat mengenai "batasan sistem" kepada pemandu. Dalam kes itu, ia masih terpulang kepada pemandu untuk memberi perhatian.

Tetapi peluang apa yang akan seseorang mengambil alih apa-apa kawalan sekiranya perkara-perkara mula menjadi salah pada masa depan mereka kenderaan autonomi sepenuhnya. Adakah mereka tahu bagaimana untuk melihat tanda awal bencana yang akan berlaku?

Kehilangan jalan?

Memandu ini adalah satu determinisme teknologi yang percaya kepada mana-mana dan semua inovasi adalah baik secara intrinsik. Walaupun teknologi baru muncul mungkin menentukan apa yang menjadi manusia, cabarannya adalah mengiktiraf risiko dan apa yang perlu dilakukan untuk memastikan perkara tidak berlaku.

Itu semakin sukar kerana kami telah menambah kerumitan, terutamanya dengan memandu autonomi kereta api pinggir bandar, teksi udara and dron penghantaran.

Pereka sistem telah membina sistem yang lebih besar dan lebih saling berkait untuk berkongsi beban pemprosesan komputer walaupun ini menjadikan ciptaan mereka sebagai calon utama untuk kerosakan. Mereka mengingati hakikat bahawa apabila segalanya dihubungkan, masalah dapat menyebar sebagai mudah sebagai penyelesaian, kadangkala lebih banyak lagi.

Kerumitan dan kelebihan yang kompleks dari dunia automatik menimbulkan risiko yang sama.

Mata bahaya

Di belakang, apa yang diperlukan adalah keupayaan untuk memotong rangkaian secara percuma apabila terdapat titik kegagalan, atau sekurang-kurangnya untuk mengelak bahagian-bahagian rangkaian tunggal apabila terdapat titik kegagalan di tempat lain di dalamnya.

"Pulau" ini adalah ciri grid pintar elektrik yang menyediakan ruang untuk memecah rangkaian menjadi serpihan yang dapat mengekalkan permintaan tenaga dalaman mereka sendiri. Pemodelan telah menunjukkan bahawa sambungan yang kurang boleh membawa kepada lebih banyak keselamatan.

Bolehkah sains kerumitan muncul untuk menentukan di mana titik bahaya mungkin terletak pada rangkaian yang saling berkaitan? Marten Scheffer dan rakan sekerja fikir begitu. Beliau telah melihat persamaan antara kelakuan sistem semula jadi dan sistem ekonomi dan kewangannya.

Beliau kerja awal di tasik, terumbu karang, lautan, hutan dan padang rumput, mendapati persekitaran yang berubah-ubah secara beransur-ansur seperti iklim, beban nutrien dan kehilangan habitat boleh mencapai titik tip yang mengalihkannya ke keadaan yang kadang-kadang tidak dapat dipulihkan.

Bolehkah bank dan ahli ekonomi bergumul dengan kestabilan pasaran kewangan belajar daripada para penyelidik dalam ekologi, epidemiologi dan klimatologi untuk membangun penanda jarak dekat dengan ambang kritikal dan pecahan sistem?

Pada bulan Februari 2016 semuanya datang bersama dalam bentuk satu kertas mengenai teori kerumitan dan peraturan kewangan dikarang bersama oleh pelbagai ahli termasuk ahli ekonomi, bank, ahli fizik, ahli klimatologi, pakar ekologi, ahli zoologi, doktor haiwan dan ahli epidemiologi.

Mereka mengesyorkan penyepaduan data, kaedah dan indikator dalam talian, memberi ujian tekanan untuk sistem sosioekonomi dan kewangan global dalam masa terdekat. Yang pertama adalah sama dengan apa yang telah dicapai dalam menangani sistem kompleks lain seperti cuaca.

Kita boleh mula melihat bagaimana contoh kita dunia memandu autonomi melipat ke dalam soalan kestabilan rangkaian. Bayangkan rangkaian kenderaan autonomi yang saling berkaitan.

Terdapat keperluan yang jelas untuk mengetahui bagaimana untuk mengesan dan mengasingkan mana-mana titik kegagalan yang berpotensi dalam rangkaian sedemikian, sebelum perkara menjadi salah dengan akibat yang tragis yang berpotensi. Ini lebih daripada sekadar melindungi pemandu dan penumpang dari sebarang kegagalan sistem dalam satu kenderaan autonomi.

Sudah tiba masanya untuk berfikir bagaimana kita boleh menggunakan kemajuan pelbagai disiplin dalam memahami kestabilan rangkaian berskala besar itu untuk mengelakkan akibat drastik.

Tentang Pengarang

Peter Fisher, Profesor Adjunct, Kajian Global, Bandar dan Sosial, Universiti RMIT

Artikel ini pada asalnya diterbitkan pada Perbualan. Membaca artikel asal.

Buku-buku yang berkaitan

at InnerSelf Market dan Amazon