Pada tahun 1956, semasa lawatan selama setahun ke London dan pada awal 20-an, ahli matematik dan ahli biologi teori Jack D. Cowan melawat Wilfred Taylor dan "mesin pembelajaran”. Semasa ketibaannya, dia bingung dengan "bank peralatan yang besar" yang berhadapan dengannya. Cowan hanya boleh berdiri dan melihat "mesin melakukan tugasnya". Perkara yang nampaknya sedang dilakukan ialah melakukan "skema ingatan bersekutu" - ia nampaknya dapat belajar cara mencari sambungan dan mendapatkan semula data.
Ia mungkin kelihatan seperti blok litar yang kikuk, dipateri bersama dengan tangan dalam jisim wayar dan kotak, tetapi apa yang Cowan saksikan adalah bentuk analog awal rangkaian saraf - pelopor kepada kecerdasan buatan yang paling maju pada hari ini, termasuk banyak dibincangkan SembangGPT dengan keupayaannya untuk menjana kandungan bertulis sebagai tindak balas kepada hampir mana-mana arahan. Teknologi asas ChatGPT ialah rangkaian saraf.
Semasa Cowan dan Taylor berdiri dan memerhatikan mesin berfungsi, mereka benar-benar tidak tahu dengan tepat bagaimana ia menguruskan untuk melaksanakan tugas ini. Jawapan kepada otak mesin misteri Taylor boleh didapati di suatu tempat dalam "neuron analog", dalam persatuan yang dibuat oleh memori mesinnya dan, yang paling penting, dalam fakta bahawa fungsi automatiknya tidak dapat dijelaskan sepenuhnya. Sistem ini akan mengambil masa beberapa dekad untuk mencari tujuannya dan kuasa itu dibuka kuncinya.
Istilah rangkaian saraf menggabungkan pelbagai sistem, namun secara berpusat, mengikut IBM, "rangkaian saraf tiruan - juga dikenali sebagai rangkaian saraf tiruan (ANN) atau rangkaian saraf simulasi (SNN) - adalah subset pembelajaran mesin dan berada di tengah-tengah algoritma pembelajaran mendalam". Yang penting, istilah itu sendiri dan bentuk serta "strukturnya diilhamkan oleh otak manusia, meniru cara neuron biologi memberi isyarat kepada satu sama lain".
Mungkin terdapat beberapa baki keraguan tentang nilainya pada peringkat awalnya, tetapi setelah bertahun-tahun berlalu, fesyen AI telah berayun kukuh ke arah rangkaian saraf. Mereka kini sering difahami sebagai masa depan AI. Mereka mempunyai implikasi yang besar untuk kita dan untuk makna menjadi manusia. Kami telah mendengar gema kebimbangan ini baru-baru ini dengan panggilan untuk menjeda perkembangan AI baharu untuk tempoh enam bulan untuk memastikan keyakinan terhadap implikasinya.
Sudah tentu menjadi satu kesilapan untuk mengetepikan rangkaian saraf sebagai semata-mata mengenai alat baharu yang berkilat dan menarik perhatian. Mereka sudah mantap dalam hidup kita. Ada yang berkuasa dalam kepraktisan mereka. Setakat tahun 1989, pasukan yang diketuai oleh Yann LeCun di AT&T Bell Laboratories menggunakan teknik perambatan belakang untuk melatih sistem untuk mengenali poskod tulisan tangan. Baru-baru ini pengumuman oleh Microsoft bahawa carian Bing akan dikuasakan oleh AI, menjadikannya "kopilot untuk web" anda, menggambarkan cara perkara yang kami temui dan cara kami memahaminya akan semakin menjadi produk jenis automasi ini.
Memanfaatkan data yang luas untuk mencari corak AI juga boleh dilatih untuk melakukan perkara seperti pengecaman imej dengan pantas – menyebabkan ia digabungkan ke dalam pengecaman wajah, contohnya. Keupayaan untuk mengenal pasti corak ini telah membawa kepada banyak aplikasi lain, seperti meramalkan pasaran saham.
Rangkaian saraf juga mengubah cara kita mentafsir dan berkomunikasi. Dibangunkan oleh tajuk yang menarik Pasukan Otak Google, Terjemahan Google adalah satu lagi aplikasi utama rangkaian saraf.
Anda tidak mahu bermain Catur atau Shogi dengan satu sama ada. Pemahaman mereka tentang peraturan dan ingatan mereka tentang strategi dan semua pergerakan yang direkodkan bermakna mereka sangat mahir dalam permainan (walaupun ChatGPT nampaknya berjuang dengan Wordle). Sistem yang menyusahkan pemain Go manusia (Go ialah permainan papan strategi yang terkenal rumit) dan ahli besar Catur, adalah diperbuat daripada rangkaian saraf.
Tetapi jangkauan mereka melampaui keadaan ini dan terus berkembang. Carian paten yang dihadkan hanya untuk menyebut frasa tepat "rangkaian saraf" menghasilkan 135,828 hasil. Dengan pengembangan pesat dan berterusan ini, peluang kami untuk dapat menerangkan sepenuhnya pengaruh AI mungkin menjadi semakin tipis. Ini adalah soalan-soalan yang saya telah periksa dalam penyelidikan saya dan buku baharu saya tentang pemikiran algoritma.
Lapisan misteri 'tidak diketahui'
Mengimbas kembali sejarah rangkaian saraf memberitahu kita sesuatu yang penting tentang keputusan automatik yang mentakrifkan masa kini kita atau keputusan yang akan memberi kesan yang mungkin lebih mendalam pada masa hadapan. Kehadiran mereka juga memberitahu kami bahawa kami berkemungkinan akan memahami keputusan dan impak AI lebih kurang dari semasa ke semasa. Sistem ini bukan kotak hitam semata-mata, ia bukan sekadar cebisan tersembunyi sistem yang tidak dapat dilihat atau difahami.
Ia adalah sesuatu yang berbeza, sesuatu yang berakar umbi dalam matlamat dan reka bentuk sistem ini sendiri. Terdapat pengejaran yang telah lama tidak dapat dijelaskan. Lebih legap, lebih tulen dan maju sistem itu difikirkan. Ia bukan sahaja mengenai sistem yang menjadi lebih kompleks atau kawalan harta intelek yang mengehadkan akses (walaupun ini adalah sebahagian daripadanya). Ia sebaliknya untuk mengatakan bahawa etos yang mendorong mereka mempunyai minat khusus dan tertanam dalam "tidak diketahui". Misteri itu bahkan dikodkan ke dalam bentuk dan wacana rangkaian saraf. Ia datang dengan lapisan yang bertimbun - maka frasa pembelajaran mendalam - dan dalam kedalaman tersebut terdapat "lapisan tersembunyi" yang lebih misterius. Misteri sistem ini jauh di bawah permukaan.
Terdapat peluang yang baik bahawa semakin besar impak kecerdasan buatan dalam kehidupan kita semakin kurang kita akan memahami bagaimana atau mengapa. Hari ini terdapat dorongan kuat untuk AI yang boleh dijelaskan. Kami ingin tahu bagaimana ia berfungsi dan bagaimana ia mencapai keputusan dan hasil. EU sangat prihatin dengan kemungkinan "risiko yang tidak boleh diterima" dan juga aplikasi "berbahaya" yang sedang berkembang. Akta AI baharu bertujuan untuk menetapkan "standard global" untuk "pembangunan kecerdasan buatan yang selamat, boleh dipercayai dan beretika".
Undang-undang baharu itu akan berdasarkan keperluan untuk kebolehjelasan, menuntut itu "untuk sistem AI berisiko tinggi, keperluan data berkualiti tinggi, dokumentasi dan kebolehkesanan, ketelusan, pengawasan manusia, ketepatan dan keteguhan, amat diperlukan untuk mengurangkan risiko kepada hak asasi dan keselamatan yang ditimbulkan oleh AI". Ini bukan sahaja mengenai perkara seperti kereta pandu sendiri (walaupun sistem yang memastikan keselamatan termasuk dalam kategori AI berisiko tinggi EU), ia juga membimbangkan bahawa sistem akan muncul pada masa hadapan yang akan mempunyai implikasi terhadap hak asasi manusia.
Ini adalah sebahagian daripada seruan yang lebih luas untuk ketelusan dalam AI supaya aktivitinya boleh disemak, diaudit dan dinilai. Contoh lain ialah Royal Society taklimat dasar tentang AI yang boleh dijelaskan di mana mereka menyatakan bahawa "perdebatan dasar di seluruh dunia semakin melihat panggilan untuk beberapa bentuk kebolehjelasan AI, sebagai sebahagian daripada usaha untuk membenamkan prinsip etika ke dalam reka bentuk dan penggunaan sistem yang didayakan AI".
Tetapi kisah rangkaian saraf memberitahu kita bahawa kita mungkin akan menjauhi objektif itu pada masa hadapan, dan bukannya lebih dekat dengannya.
Diilhamkan oleh otak manusia
Rangkaian saraf ini mungkin sistem yang kompleks namun ia mempunyai beberapa prinsip teras. Diilhamkan oleh otak manusia, mereka berusaha untuk menyalin atau mensimulasikan bentuk pemikiran biologi dan manusia. Dari segi struktur dan reka bentuk mereka adalah, sebagai IBM juga menerangkan, terdiri daripada "lapisan nod, yang mengandungi lapisan input, satu atau lebih lapisan tersembunyi dan lapisan output". Dalam hal ini, "setiap nod, atau neuron buatan, bersambung dengan yang lain". Kerana mereka memerlukan input dan maklumat untuk mencipta output, mereka "bergantung pada data latihan untuk belajar dan meningkatkan ketepatannya dari semasa ke semasa". Butiran teknikal ini penting tetapi begitu juga keinginan untuk memodelkan sistem ini pada kerumitan otak manusia.
Memahami cita-cita di sebalik sistem ini adalah penting dalam memahami maksud butiran teknikal ini dalam amalan. Didalam Temu duga 1993, saintis rangkaian saraf Teuvo Kohonen menyimpulkan bahawa sistem "penganjuran diri" "adalah impian saya", beroperasi "sesuatu seperti apa yang sistem saraf kita lakukan secara naluri". Sebagai contoh, Kohonen menggambarkan bagaimana sistem "penganjuran sendiri", sistem yang memantau dan mengurus dirinya sendiri, "boleh digunakan sebagai panel pemantau untuk mana-mana mesin ... dalam setiap kapal terbang, pesawat jet, atau setiap stesen janakuasa nuklear, atau setiap kereta”. Ini, dia fikir, bermakna bahawa pada masa hadapan "anda boleh melihat dengan serta-merta keadaan sistem itu".
Objektif keseluruhan adalah untuk mempunyai sistem yang mampu menyesuaikan diri dengan persekitarannya. Ia akan menjadi segera dan autonomi, beroperasi dalam gaya sistem saraf. Itulah impian, untuk mempunyai sistem yang boleh mengendalikan diri mereka sendiri tanpa memerlukan campur tangan manusia. Kerumitan dan ketidaktahuan otak, sistem saraf dan dunia nyata tidak lama lagi akan datang untuk memaklumkan pembangunan dan reka bentuk rangkaian saraf.
'Sesuatu yang mencurigakan tentangnya'
Tetapi melompat kembali ke tahun 1956 dan mesin pembelajaran yang aneh itu, pendekatan langsung yang diambil Taylor semasa membinanya yang segera menarik perhatian Cowan. Dia jelas berpeluh atas pemasangan kepingan dan kepingan itu. Taylor, Cowan memerhati semasa temu bual di bahagian sendiri dalam kisah sistem ini, "tidak melakukannya secara teori, dan dia tidak melakukannya pada komputer". Sebaliknya, dengan alat di tangan, dia "sebenarnya membina perkakasan". Ia adalah perkara material, gabungan bahagian, mungkin juga alat. Dan ia "semuanya dilakukan dengan litar analog" mengambil Taylor, nota Cowan, "beberapa tahun untuk membinanya dan bermain dengannya". Kes percubaan dan kesilapan.
Maklumlah Cowan ingin memahami apa yang dilihatnya. Dia cuba meminta Taylor menerangkan mesin pembelajaran ini kepadanya. Penjelasan tidak datang. Cowan tidak dapat meminta Taylor untuk menerangkan kepadanya bagaimana perkara itu berfungsi. Neuron analog kekal menjadi misteri. Masalah yang lebih mengejutkan, fikir Cowan, ialah Taylor "tidak benar-benar memahami dirinya sendiri apa yang sedang berlaku". Ini bukan sahaja kerosakan seketika dalam komunikasi antara kedua-dua saintis dengan kepakaran yang berbeza, malah lebih daripada itu.
Dalam wawancara dari pertengahan 1990-an, memikirkan kembali mesin Taylor, Cowan mendedahkan bahawa "sehingga hari ini dalam kertas yang diterbitkan anda tidak dapat memahami cara ia berfungsi". Kesimpulan ini menunjukkan bagaimana yang tidak diketahui tertanam secara mendalam dalam rangkaian saraf. Ketidakjelasan sistem saraf ini telah wujud walaupun dari peringkat asas dan perkembangan sejak hampir tujuh dekad.
Misteri ini kekal hari ini dan boleh ditemui dalam bentuk AI yang semakin maju. Ketidakpastian fungsi persatuan yang dibuat oleh mesin Taylor menyebabkan Cowan tertanya-tanya sama ada terdapat "sesuatu yang mencurigakan mengenainya".
Akar panjang dan berselirat
Cowan merujuk kembali kepada lawatan singkatnya dengan Taylor apabila ditanya tentang penerimaan kerjanya sendiri beberapa tahun kemudian. Pada tahun 1960-an orang, Cowan mencerminkan, "sedikit lambat untuk melihat titik rangkaian saraf analog". Ini adalah walaupun, Cowan mengimbas kembali, kerja Taylor tahun 1950-an mengenai "ingatan bersekutu" berdasarkan "neuron analog". Pakar sistem saraf yang memenangi Hadiah Nobel, Leon N. Cooper, membuat kesimpulan bahawa perkembangan sekitar aplikasi model otak pada tahun 1960-an, dianggap "sebagai antara misteri yang mendalam". Oleh kerana ketidakpastian ini, terdapat keraguan tentang apa yang mungkin dicapai oleh rangkaian saraf. Tetapi keadaan perlahan-lahan mula berubah.
Kira-kira 30 tahun yang lalu ahli sains saraf Walter J. Freeman, yang terkejut dengan "luar biasa” pelbagai aplikasi yang telah ditemui untuk rangkaian saraf, sudah mengulas mengenai fakta bahawa dia tidak melihatnya sebagai “sejenis mesin yang pada asasnya baharu”. Ia adalah pembakaran yang perlahan, dengan teknologi datang dahulu dan kemudian aplikasi berikutnya ditemui untuknya. Ini mengambil masa. Sesungguhnya, untuk mencari punca teknologi rangkaian saraf kita mungkin kembali lebih jauh daripada lawatan Cowan ke mesin misteri Taylor.
Saintis jaringan saraf James Anderson dan wartawan sains Edward Rosenfeld telah mencatat bahawa latar belakang kepada rangkaian saraf kembali ke tahun 1940-an dan beberapa percubaan awal, seperti yang diterangkan, "memahami sistem saraf manusia dan membina sistem buatan yang bertindak seperti yang kita lakukan, sekurang-kurangnya sedikit". Oleh itu, pada tahun 1940-an, misteri sistem saraf manusia juga menjadi misteri pemikiran komputasi dan kecerdasan buatan.
Meringkaskan cerita panjang ini, penulis sains komputer Larry Hardesty telah menegaskan bahawa pembelajaran mendalam dalam bentuk rangkaian saraf "telah masuk dan keluar dari fesyen selama lebih daripada 70 tahun". Lebih khusus lagi, tambahnya, "rangkaian saraf ini mula-mula dicadangkan pada tahun 1944 oleh Warren McCulloch dan Walter Pitts, dua penyelidik Universiti Chicago yang berpindah ke MIT pada tahun 1952 sebagai ahli pengasas apa yang kadangkala dipanggil jabatan sains kognitif pertama".
Di tempat lain, 1943 kadangkala tarikh yang diberikan sebagai tahun pertama untuk teknologi. Sama ada cara, selama kira-kira 70 tahun akaun mencadangkan bahawa rangkaian saraf telah bergerak masuk dan keluar dari trend, sering diabaikan tetapi kadangkala mengambil alih dan beralih ke aplikasi dan perdebatan yang lebih arus perdana. Ketidakpastian itu berterusan. Pembangun awal tersebut sering menggambarkan kepentingan penyelidikan mereka sebagai diabaikan, sehingga ia menemui tujuannya sering bertahun-tahun dan kadangkala beberapa dekad kemudian.
Bergerak dari tahun 1960-an ke penghujung 1970-an, kita boleh menemui cerita lanjut tentang sifat-sifat yang tidak diketahui sistem ini. Walaupun begitu, selepas tiga dekad, rangkaian saraf masih mencari tujuan. David Rumelhart, yang mempunyai latar belakang dalam psikologi dan merupakan pengarang bersama set buku yang diterbitkan pada tahun 1986 yang kemudiannya akan mendorong perhatian kembali semula ke arah rangkaian saraf, mendapati dirinya bekerjasama dalam pembangunan rangkaian saraf dengan rakan sekerjanya Jay McClelland.
Selain sebagai rakan sekerja, mereka juga baru-baru ini bertemu antara satu sama lain pada persidangan di Minnesota di mana ceramah Rumelhart mengenai "pemahaman cerita" telah mencetuskan beberapa perbincangan di kalangan perwakilan.
Selepas persidangan itu McClelland kembali dengan pemikiran tentang cara membangunkan rangkaian saraf yang mungkin menggabungkan model menjadi lebih interaktif. Apa yang penting di sini ialah Ingatan Rumelhart daripada "jam dan jam dan jam bermain-main di komputer".
Kami duduk dan melakukan semua ini dalam komputer dan membina model komputer ini, dan kami hanya tidak memahaminya. Kami tidak faham mengapa mereka bekerja atau mengapa mereka tidak bekerja atau perkara yang kritikal tentang mereka.
Seperti Taylor, Rumelhart mendapati dirinya bermain-main dengan sistem itu. Mereka juga mencipta rangkaian saraf yang berfungsi dan, yang penting, mereka juga tidak pasti bagaimana atau mengapa ia berfungsi seperti yang dilakukannya, nampaknya belajar daripada data dan mencari persatuan.
Meniru otak - lapisan demi lapisan
Anda mungkin sudah perasan bahawa apabila membincangkan asal-usul rangkaian saraf, imej otak dan kerumitan yang ditimbulkan ini tidak pernah jauh. Otak manusia bertindak sebagai sejenis templat untuk sistem ini. Pada peringkat awal, khususnya, otak - masih salah satu yang tidak diketahui - menjadi model untuk bagaimana rangkaian saraf mungkin berfungsi.
Jadi sistem baru eksperimen ini dimodelkan pada sesuatu yang fungsinya sendiri tidak diketahui. Jurutera pengkomputeran saraf Carver Mead telah bercakap secara terbuka tentang konsep "gunung ais kognitif" yang dia dapati sangat menarik. Ia hanya puncak gunung ais kesedaran yang kita sedar dan yang boleh dilihat. Skala dan bentuk selebihnya masih tidak diketahui di bawah permukaan.
Dalam 1998, James anderson, yang telah bekerja untuk beberapa lama pada rangkaian saraf, menyatakan bahawa apabila ia datang kepada penyelidikan mengenai otak "penemuan utama kami nampaknya adalah kesedaran bahawa kami benar-benar tidak tahu apa yang sedang berlaku".
Dalam akaun terperinci dalam Financial Times pada tahun 2018, wartawan teknologi Richard Waters menyatakan bagaimana rangkaian saraf "dimodelkan pada teori tentang bagaimana otak manusia beroperasi, menghantar data melalui lapisan neuron buatan sehingga corak yang boleh dikenal pasti muncul". Ini menimbulkan masalah ketukan, Waters mencadangkan, kerana "tidak seperti litar logik yang digunakan dalam program perisian tradisional, tidak ada cara untuk menjejaki proses ini untuk mengenal pasti dengan tepat mengapa komputer menghasilkan jawapan tertentu". Kesimpulan Waters ialah hasil ini tidak boleh dibongkar. Aplikasi jenis model otak ini, mengambil data melalui banyak lapisan, bermakna jawapannya tidak dapat dikesan semula dengan mudah. Lapisan berbilang adalah sebahagian daripada sebab untuk ini.
Kekerasan juga memerhatikan sistem ini "dimodelkan secara longgar pada otak manusia". Ini membawa keinginan untuk membina kerumitan pemprosesan yang semakin meningkat untuk cuba dipadankan dengan otak. Hasil daripada matlamat ini ialah jaring saraf yang "terdiri daripada beribu-ribu atau bahkan berjuta-juta nod pemprosesan mudah yang saling berkait rapat". Data bergerak melalui nod ini dalam satu arah sahaja. Hardesty memerhatikan bahawa "nod individu mungkin disambungkan kepada beberapa nod dalam lapisan di bawahnya, dari mana ia menerima data, dan beberapa nod dalam lapisan di atasnya, yang mana ia menghantar data".
Model otak manusia adalah sebahagian daripada bagaimana rangkaian saraf ini diilhamkan dan direka dari awal. Ini amat menarik apabila kita menganggap bahawa otak itu sendiri adalah misteri pada masa itu (dan dalam banyak cara masih begitu).
'Penyesuaian adalah keseluruhan permainan'
Para saintis seperti Mead dan Kohonen mahu mencipta sistem yang benar-benar boleh menyesuaikan diri dengan dunia di mana ia mendapati dirinya. Ia akan bertindak balas kepada syarat-syaratnya. Mead jelas bahawa nilai dalam rangkaian saraf ialah mereka boleh memudahkan penyesuaian jenis ini. Pada masa itu, dan merenungkan cita-cita ini, Mead menambah bahawa menghasilkan penyesuaian "adalah keseluruhan permainan". Penyesuaian ini diperlukan, dia fikir, "kerana sifat dunia nyata", yang dia simpulkan adalah "terlalu berubah-ubah untuk melakukan sesuatu yang mutlak".
Masalah ini perlu dipertimbangkan terutamanya kerana, dia fikir, ini adalah sesuatu yang "sistem saraf sudah lama diketahui". Inovator ini bukan sahaja bekerja dengan imej otak dan yang tidak diketahui, mereka menggabungkan ini dengan visi "dunia sebenar" dan ketidakpastian, tidak diketahui dan kebolehubahan yang dibawa oleh ini. Sistem itu, fikir Mead, perlu dapat bertindak balas dan menyesuaikan diri dengan keadaan tanpa arahan.
Sekitar masa yang sama pada tahun 1990-an, Stephen Grossberg - pakar dalam sistem kognitif yang bekerja merentasi matematik, psikologi dan kejuruteraan bioperubatan - juga berhujah bahawa penyesuaian akan menjadi langkah penting dalam jangka panjang. Grossberg, semasa dia mengusahakan pemodelan rangkaian saraf, berfikir sendiri bahawa itu semua "mengenai bagaimana sistem pengukuran dan kawalan biologi direka untuk menyesuaikan dengan cepat dan stabil dalam masa nyata kepada dunia yang berubah-ubah dengan pantas". Seperti yang kita lihat sebelum ini dengan "impian" Kohonen tentang sistem "penganjuran diri", tanggapan tentang "dunia sebenar" menjadi konteks di mana tindak balas dan penyesuaian sedang dikodkan ke dalam sistem ini. Bagaimana dunia sebenar itu difahami dan dibayangkan sudah pasti membentuk cara sistem ini direka bentuk untuk menyesuaikan diri.
Lapisan tersembunyi
Apabila lapisan berlipat ganda, pembelajaran mendalam menyelubungi kedalaman baharu. Rangkaian saraf dilatih menggunakan data latihan yang, Hardesty menjelaskan, "disuapkan ke lapisan bawah - lapisan input - dan ia melalui lapisan yang seterusnya, didarab dan ditambah bersama dalam cara yang kompleks, sehingga akhirnya tiba, berubah secara radikal, pada lapisan output". Lebih banyak lapisan, lebih besar transformasi dan lebih besar jarak dari input ke output. Pembangunan Unit Pemprosesan Grafik (GPU), misalnya dalam permainan, kata Hardesty, “membolehkan rangkaian satu lapisan pada tahun 1960-an dan rangkaian dua hingga tiga lapisan pada tahun 1980-an berkembang menjadi sepuluh, 15, atau bahkan 50 -jaringan lapisan masa kini”.
Rangkaian saraf semakin mendalam. Sesungguhnya, penambahan lapisan ini, menurut Hardesty, itulah “apa yang dirujuk oleh 'deep' dalam 'pembelajaran mendalam'". Ini penting, dia mencadangkan, kerana "pada masa ini, pembelajaran mendalam bertanggungjawab untuk sistem berprestasi terbaik dalam hampir setiap bidang penyelidikan kecerdasan buatan".
Tetapi misteri itu semakin mendalam. Apabila lapisan rangkaian saraf telah bertimbun lebih tinggi, kerumitannya telah berkembang. Ia juga telah membawa kepada pertumbuhan dalam apa yang disebut sebagai "lapisan tersembunyi" dalam kedalaman ini. Perbincangan tentang bilangan optimum lapisan tersembunyi dalam rangkaian saraf sedang berjalan. Ahli teori media Beatrice Fazi telah menulis bahawa "kerana bagaimana rangkaian saraf dalam beroperasi, bergantung pada lapisan saraf tersembunyi yang diapit antara lapisan pertama neuron (lapisan input) dan lapisan terakhir (lapisan keluaran), teknik pembelajaran mendalam selalunya legap atau tidak boleh dibaca walaupun kepada pengaturcara yang pada asalnya menetapkannya”.
Apabila lapisan bertambah (termasuk lapisan tersembunyi itu) ia menjadi semakin kurang dapat dijelaskan – malah, ternyata, sekali lagi, kepada mereka yang menciptanya. Membuat perkara yang sama, pemikir media baharu yang terkemuka dan antara disiplin Katherine Hayles juga menyatakan bahawa terdapat had untuk "sejauh mana kita boleh tahu tentang sistem, hasil yang berkaitan dengan 'lapisan tersembunyi' dalam jaringan saraf dan algoritma pembelajaran mendalam".
Mengejar perkara yang tidak dapat dijelaskan
Diambil bersama, perkembangan panjang ini adalah sebahagian daripada apa yang ahli sosiologi teknologi Taina Bucher telah memanggil "masalah yang tidak diketahui". Memperluas penyelidikannya yang berpengaruh tentang pengetahuan saintifik ke dalam bidang AI, Harry Collins telah menegaskan bahawa objektif dengan jaring saraf adalah bahawa ia mungkin dihasilkan oleh manusia, pada mulanya sekurang-kurangnya, tetapi "sekali ditulis program itu menjalani kehidupannya sendiri, seolah-olah; tanpa usaha yang besar, bagaimana program itu berfungsi boleh kekal misteri". Ini mempunyai gema impian yang telah lama dipegang untuk sistem penyusunan diri.
Saya akan menambah ini bahawa yang tidak diketahui dan mungkin juga yang tidak diketahui telah diusahakan sebagai bahagian asas sistem ini dari peringkat awal mereka. Terdapat peluang yang baik bahawa semakin besar impak kecerdasan buatan dalam kehidupan kita semakin kurang kita akan memahami bagaimana atau mengapa.
Tetapi itu tidak sesuai dengan kebanyakan orang hari ini. Kami ingin mengetahui cara AI berfungsi dan cara ia mencapai keputusan dan hasil yang memberi kesan kepada kami. Apabila perkembangan dalam AI terus membentuk pengetahuan dan pemahaman kita tentang dunia, perkara yang kita temui, cara kita dilayan, cara kita belajar, menggunakan dan berinteraksi, dorongan untuk memahami ini akan berkembang. Mengenai AI yang boleh dijelaskan dan telus, kisah rangkaian saraf memberitahu kita bahawa kita mungkin akan menjauhi objektif itu pada masa hadapan, dan bukannya lebih dekat dengannya.
David Beer, Profesor Sosiologi, Universiti York
Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.
