Ahli sejarah masa depan mungkin menganggap 2023 sebagai mercu tanda dalam kemunculan kecerdasan buatan (AI). Tetapi sama ada masa depan itu akan membuktikan utopian, apokaliptik or di suatu tempat di antara adalah meneka orang.

Pada bulan Februari, ChatGPT menetapkan rekod sebagai apl terpantas untuk dicapai 100 juta pengguna. Ia diikuti oleh model AI "bahasa besar" serupa daripada Google, Amazon, Meta dan firma teknologi besar lain, yang secara kolektif kelihatan bersedia untuk mengubah pendidikan, penjagaan kesihatan dan banyak lagi bidang berintensif pengetahuan.

Walau bagaimanapun, potensi bahaya AI telah digariskan pada bulan Mei oleh kenyataan yang tidak menyenangkan ditandatangani oleh penyelidik terkemuka:

Mengurangkan risiko kepupusan daripada AI harus menjadi keutamaan global di samping risiko berskala masyarakat lain seperti wabak dan perang nuklear.

Pada bulan November, sebagai tindak balas terhadap kebimbangan yang semakin meningkat tentang risiko AI, 27 negara (termasuk UK, AS, India, China dan Kesatuan Eropah) berikrar kerjasama pada Sidang Kemuncak Keselamatan AI sulung di Bletchley Park di England, untuk memastikan pembangunan AI yang selamat. untuk manfaat semua.

Untuk mencapai matlamat ini, penyelidik memberi tumpuan kepada Penjajaran AI – iaitu, cara memastikan model AI konsisten dengan nilai, keutamaan dan matlamat manusia. Tetapi ada masalah - apa yang dipanggil AI "rahsia gelap”: model berskala besar sangat kompleks mereka seperti kotak hitam, mustahil untuk sesiapa faham sepenuhnya.

Masalah kotak hitam AI

Walaupun ketelusan dan kebolehjelasan sistem AI adalah matlamat penyelidikan yang penting, usaha sebegini nampaknya tidak dapat bersaing dengan kepesatan inovasi.

Metafora kotak hitam menerangkan sebab kepercayaan orang ramai tentang AI berada di seluruh peta. Ramalan berkisar dari utopia hingga kepupusan, malah ramai yang percaya kecerdasan am buatan (AGI) akan segera mencapai semangat.

Tetapi ketidakpastian ini menambah masalah. Penjajaran AI harus menjadi jalan dua hala: kita bukan sahaja mesti memastikan model AI konsisten dengan niat manusia, tetapi juga bahawa kepercayaan kita tentang AI adalah tepat.

Ini kerana kita sangat mahir mencipta masa depan yang selaras dengan kepercayaan tersebut, walaupun kita tidak menyedarinya.

Yang disebut “kesan jangkaan”, atau ramalan yang memenuhi diri, terkenal dalam psikologi. Dan penyelidikan telah menunjukkan bahawa memanipulasi kepercayaan pengguna mempengaruhi bukan sahaja cara mereka berinteraksi dengan AI, tetapi bagaimana AI menyesuaikan diri dengan pengguna.

Dalam erti kata lain, cara kepercayaan kita (sedar atau tidak sedar) mempengaruhi AI berpotensi meningkatkan kemungkinan sebarang hasil, termasuk yang membawa bencana.

AI, pengiraan, logik dan aritmetik

Kita perlu menyiasat lebih mendalam untuk memahami asas AI - seperti Alice in Wonderland, turun ke lubang arnab dan lihat ke mana ia membawa kita.

Pertama, apakah AI? Ia berjalan pada komputer, dan begitu juga pengiraan automatik. Dari asalnya sebagai "perceptron” – neuron buatan yang ditakrifkan secara matematik pada tahun 1943 oleh ahli neurofisiologi Warren McCulloch dan ahli logik Walter Pitts – AI telah terjalin dengan sains kognitif, sains saraf dan sains komputer.

Penumpuan ini daripada minda, otak and mesin telah membawa kepada kepercayaan yang dipegang secara meluas bahawa, kerana AI adalah pengiraan oleh mesin, maka kecerdasan semula jadi (minda) mestilah pengiraan oleh otak.

Tetapi apakah pengiraan? Pada akhir abad ke-19, ahli matematik Richard Dedekind and Giuseppe Peano mencadangkan satu set aksiom yang ditakrifkan aritmetik dari segi logik, dan inspirasi percubaan untuk membumikan semua matematik pada selamat asas formal.

Walaupun ahli logik Kurt Godel kemudiannya membuktikan matlamat ini adalah tidak dapat dicapai, kerjanya adalah titik permulaan untuk ahli matematik (dan pemecah kod) Alan Turing. dia "Mesin penarik”, peranti abstrak yang mampu pengiraan sejagat, ialah asas sains komputer.

Struktur persepsi yang mendalam

Jadi, pengiraan adalah berdasarkan idea matematik yang menjejak kembali kepada usaha untuk mentakrifkan aritmetik dalam logik. Tetapi pengetahuan kita tentang aritmetik wujud sebelum logik. Jika kita ingin memahami asas AI, kita perlu pergi lebih jauh dan bertanya dari mana asalnya aritmetik itu sendiri.

Saya dan rakan sekerja baru-baru ini telah menunjukkan bahawa aritmetik adalah berdasarkan "struktur dalam” persepsi. Struktur ini seperti cermin mata berwarna yang membentuk persepsi kita dengan cara tertentu, supaya pengalaman dunia kita teratur dan terurus.

Aritmetik terdiri daripada satu set unsur (nombor) dan operasi (tambahan, pendaraban) yang menggabungkan pasangan unsur untuk memberikan unsur lain. Kami bertanya: daripada semua kemungkinan, mengapa nombor adalah unsur, dan operasi tambah dan pendaraban?

Kami menunjukkan oleh pembuktian matematik bahawa apabila struktur persepsi yang mendalam diandaikan mengehadkan kemungkinan, aritmetik adalah hasilnya. Dalam erti kata lain, apabila minda kita melihat dunia abstrak melalui "kaca mata berwarna" yang sama yang membentuk pengalaman kita tentang dunia fizikal, ia "melihat" nombor dan aritmetik.

Oleh kerana aritmetik adalah asas untuk matematik, implikasinya ialah matematik adalah cerminan minda - ungkapan dalam simbol sifat asas dan kreativitinya.

Walaupun struktur persepsi yang mendalam dikongsi dengan haiwan lain dan seterusnya hasil evolusi, hanya manusia yang telah mencipta matematik. Ia adalah ciptaan kami yang paling intim – dan dengan membolehkan pembangunan AI, mungkin yang paling penting.

Revolusi Copernican minda

Akaun kami tentang asal usul aritmetik adalah konsisten dengan pandangan ahli falsafah abad ke-18 Immanuel Kant. Menurutnya, pengetahuan kita tentang dunia distrukturkan oleh "intuisi tulen" ruang dan masa yang wujud sebelum pengalaman deria - analog dengan cermin mata berwarna yang tidak boleh kita keluarkan.

Kant mendakwa miliknya falsafah adalah "revolusi Copernican minda". Dengan cara yang sama ahli astronomi purba percaya Matahari beredar mengelilingi Bumi kerana mereka tidak menyedari pergerakan Bumi, Kant berpendapat, ahli falsafah yang percaya semua pengetahuan berasal daripada pengalaman rasa (John Locke dan David Hume, sebagai contoh) terlepas pandang bagaimana minda membentuk persepsi.

Walaupun pandangan Kant dibentuk oleh sains semula jadi pada zamannya, mereka telah membuktikan berpengaruh dalam psikologi kontemporari.

Pengiktirafan bahawa aritmetik ialah a akibat semula jadi daripada persepsi kita, dan dengan itu berasaskan biologi, mencadangkan anjakan Kantian yang serupa dalam pemahaman kita tentang pengiraan.

Pengiraan bukan "di luar" atau terpisah daripada kita dalam alam abstrak kebenaran matematik, tetapi wujud dalam sifat minda kita. Fikiran adalah lebih daripada pengiraan; otak bukan komputer. Sebaliknya, pengiraan - asas untuk AI - adalah, seperti matematik, ekspresi simbolik sifat dan kreativiti minda.

Api Promethean

Apakah implikasi untuk AI? Pertama, AI bukan minda dan tidak akan pernah hidup. Idea kita boleh mengatasi sifat biologi kita dan mencapai keabadian dengan memuat naik fikiran kita ke awan hanyalah fantasi.

Namun jika prinsip minda yang berasaskan AI dikongsi oleh semua manusia (dan mungkin juga makhluk hidup yang lain), adalah mungkin untuk mengatasi batasan minda individu kita.

Oleh kerana pengiraan adalah universal, kami bebas untuk mensimulasikan dan mencipta sebarang hasil yang kami pilih dalam dunia maya dan fizikal kami yang semakin bersambung. Dengan cara ini, AI benar-benar milik kita Api Promethean, hadiah kepada manusia yang dicuri daripada tuhan seperti dalam Mitologi Yunani.

Sebagai sebuah tamadun global, kita mungkin berada di titik perubahan. AI tidak akan menjadi peka dan memutuskan untuk melakukannya bunuh kita semua. Tetapi kami sangat mampu untuk "memperkenalkan" diri kami dengannya - jangkaan boleh mencipta realiti.

Usaha untuk memastikan penjajaran, keselamatan dan keselamatan AI adalah amat penting, tetapi mungkin tidak mencukupi jika kita kekurangan kesedaran dan kebijaksanaan kolektif. Seperti Alice, kita perlu bangun dari mimpi dan mengenali realiti dan kuasa minda kita.

Randolph Grace, Profesor Psikologi, Universiti Canterbury

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.