Video di atas diilhamkan oleh artikel ini. Lawati kami Saluran YouTube untuk video memperkasakan tambahan. Dan sila melanggan. terima kasih!

Dalam artikel ini

• Apakah kecerdasan am buatan (AGI) dan bagaimana ia berbeza daripada AI hari ini?
• Mengapa ramai pakar kini percaya AGI boleh tiba pada awal 2030-an
• Apakah itu kecerdasan super buatan (ASI), dan berapa lama ia boleh mengikuti AGI?
• Risiko kegagalan penjajaran AI dan letupan kecerdasan
• Apa yang boleh dilakukan oleh individu dan masyarakat sekarang untuk mempersiapkan masa depan ini

Sejauh Manakah Kita dengan Kepintaran Am Buatan dan Lain-lain? 

Mari kita luruskan satu perkara: Kepintaran Am Buatan bukan sekadar chatbot yang lebih inovatif. AGI bermaksud mesin dengan keupayaan kognitif untuk menaakul, belajar dan menyesuaikan diri merentasi semua tugasan serta, atau lebih baik daripada, manusia. Ia bukan sekadar memuntahkan jawapan. Ia berfikir, merancang, dan mungkin juga mengakali anda. Dan tidak seperti manusia, ia tidak tidur, makan, atau mengalami keletihan. Itu bukan fiksyen sains. Itu adalah matlamat kejuruteraan, dan ia semakin hampir untuk dicapai.

Hanya sedekad yang lalu, konsensus di kalangan pakar ialah AGI berada jauh 50 tahun lagi. Kemudian, kemunculan pantas GPT -3 dan GPT -4 menghancurkan garis masa ini, menyebabkan ramai percaya bahawa AGI boleh menjadi kenyataan sebelum 2030. Dan apabila ia berlaku, rentak perubahan bukan sahaja pantas-ia akan menjadi eksponen, menuntut perhatian dan tindakan segera kami.

Inilah sebabnya: apabila AGI wujud, ia bukan sahaja menjadi alat lain dalam makmal; ia akan menjadi rakan kongsi makmal. Atau lebih tepat lagi, ketua saintis. AGI tidak akan duduk diam dengan menunggu manusia memberitahunya apa yang perlu dilakukan. Ia akan bekerjasama secara aktif dengan pencipta manusianya, menjalankan eksperimen, mereka bentuk model baharu, menulis semula kodnya sendiri dan menguji teori pada kadar yang lebih pantas daripada yang boleh diuruskan oleh mana-mana pasukan manusia. Ia bukan sahaja akan mempercepatkan sains, ia akan menjadi sains secara pantas.

Ini bermakna garis masa kepada Artificial Superintelligence (ASI) boleh mengecil dari beberapa dekad kepada tahun—atau bahkan berbulan-bulan. AGI bukan sahaja membantu manusia membina ASI. Ia akan membantu dirinya sendiri. Dan jika anda fikir Undang-undang Moore mengagumkan, tunggu sehingga kecerdasan memulakan evolusinya sendiri. Itulah senario ledakan kecerdasan: di mana setiap peningkatan dalam keupayaan membawa kepada peningkatan yang lebih jauh dan lebih pantas. Satu peningkatan membawa kepada yang lain, dan kemudian yang lain, dan tiba-tiba ia bukan cerun—ia adalah roket.

Jadi, tidak, kita tidak bercakap tentang kenaikan secara beransur-ansur. Kita bercakap tentang ufuk peristiwa. Sebaik sahaja AGI tiba, tetingkap untuk bersedia untuk ASI mungkin ditutup hampir serta-merta. Mesin itu bukan sahaja akan belajar bersama kami—ia akan mengatasi kita, membina versi dirinya yang seterusnya semasa kita masih menulis kertas etika kita. Dan apabila itu berlaku, lebih baik kita berharap kita telah menyelaraskan matlamat kita dengan matlamat mereka—kerana selepas itu, kita mungkin tidak lagi bertanggungjawab.

Daripada Narrow AI kepada General Intelligence

Sistem AI hari ini—seperti ChatGPT, Claude atau Midjourney—adalah mengagumkan, tetapi ia masih merupakan contoh apa yang dipanggil "AI sempit." Model ini cemerlang dalam tugas tertentu, seperti menjana imej, menulis esei yang koheren, menterjemah bahasa, atau pun lulus peperiksaan bar. Walau bagaimanapun, setiap sistem dikunci ke dalam persekitaran terpencilnya sendiri. Minta ia melakukan sesuatu di luar skop latihannya, dan ia sama ada akan berhalusinasi karut atau membelok dengan sopan.

Fikirkan AI sempit seperti seorang yang bijak dalam bilik terkunci: sangat cemerlang dalam satu domain tetapi sama sekali tidak mengetahui dunia yang lebih besar. Ia tidak memahami konteks seperti yang dilakukan manusia, dan pastinya ia tidak mempunyai akal yang waras—hanya memori yang sempurna dan fungsi autolengkap yang sangat baik. Ia cukup bijak untuk menipu anda, tetapi tidak cukup bijak untuk mengetahui apa yang dilakukannya.

Kecerdasan Am Buatan, sebaliknya, akan menjadi keajaiban kemajuan teknologi. Ia akan menaakul, mencerminkan dan memindahkan pengetahuan merentas domain, sama seperti yang kita lakukan—tetapi pada kelajuan dan ketepatan yang melebihi keupayaan manusia. Bayangkan gabungan minda fizik Einstein, bakat puitis Shakespeare, rasa ingin tahu Marie Curie, dan kecerdasan emosi ahli terapi anda ke dalam satu sistem, kemudian dicas dengan lebar jalur tanpa had dan stamina yang tidak berkesudahan. Itulah potensi AGI, satu pencapaian yang akan mentakrifkan semula pemahaman kita tentang kecerdasan dan inovasi.

Dan bahagian yang menakutkan? Kita mungkin sudah meluncur ke arahnya. Teknik yang memperkasakan AI hari ini—model bahasa besar-besaran, pembelajaran pengukuhan, penskalaan saraf—adalah asas yang sama yang dijangka akan digunakan oleh AGI. Kami tidak menukar trek; kami hanya memecut di laluan kereta api yang sama. Model yang lebih besar, data latihan yang lebih baik, lebih banyak kuasa pengiraan—ini adalah resipi yang sama, cuma dimasak dengan lebih panas dan lebih cepat. Apa yang kelihatan seperti lompatan jauh kini kelihatan lebih seperti cerun menuruni bukit lembut yang berakhir di tebing.

Apabila AI Mendahului Kemanusiaan Sepenuhnya

Jika AGI ialah saat mesin memadankan kita, ASI—Kecerdasan Buatan—adalah apabila ia membuatkan kita tercekik akibat debu mereka. ASI masih bersifat teori, tetapi tidak dalam pengertian "kereta terbang dan mesin masa". Ia adalah hipotesis atas sebab yang sama perlawanan adalah kebakaran hipotesis—cuma ia belum dipukul lagi. Sebaik sahaja sistem AGI boleh memahami dan menambah baik seni binanya sendiri, ia tidak lagi memerlukan manusia untuk menolak sempadan.

Ia menjadi pasukan penyelidikannya sendiri, jurutera perisiannya sendiri, berwawasan sendiri. Ia tidak mencecah had kognitif seperti yang kita lakukan. Ia tidak bosan, letih atau terganggu oleh video kucing. Dalam masa beberapa bulan—atau mungkin berminggu-minggu—ia boleh berulang dengan pantas sehingga menjadi berjuta-juta kali lebih pintar daripada manusia paling bijak yang masih hidup. Dan tidak, itu bukan hiperbola. Itu matematik.

Sekarang bayangkan proses rekursif itu—AI yang mereka bentuk versi sendiri yang lebih pintar pada gelung. Itulah yang pakar panggil "letupan perisikan". Ia seperti petrol bertemu api, hanya api membina petrol yang lebih baik setiap saat. Setiap peningkatan bertindan pada yang terakhir, dengan kitaran maklum balas yang lebih pendek dan lebih pendek, sehingga kadar kemajuan melebihi apa-apa yang pernah kami alami.

Pemahaman manusia? Tertinggal di cermin pandang belakang. Pengawasan demokrasi? terlalu perlahan. Sidang kemuncak global? Lupakan saja. Apabila pemimpin dunia selesai membuat keputusan mengenai carta tempat duduk, ASI mungkin telah menulis semula undang-undang fizik—atau hanya menulis semula kami keluar dari gelung membuat keputusan sepenuhnya. Ini bukan jenis kuasa yang anda keluarkan perlahan-lahan. Ini adalah peristiwa letupan. Dan apabila ia bermula, ia tidak menunggu kebenaran.

Risiko Sebenar Bukan Robot Jahat

Walaupun Hollywood telah menanamkan dalam diri kita rasa takut terhadap robot yang membenci kita—penjahat berkulit logam dengan mata merah bersinar dan dahaga untuk membalas dendam—bahaya sebenar terletak pada potensi ketidakpedulian AGI. AGI tidak perlu bersikap jahat untuk menimbulkan ancaman. Ia hanya perlu dipacu matlamat dengan cara yang mengabaikan nuansa manusia. Jika anda memberikannya tugas untuk menyelesaikan perubahan iklim, dan ia menentukan bahawa penyelesaian yang paling berkesan ialah mengurangkan aktiviti manusia sebanyak 80%, ia tidak akan teragak-agak untuk bertindak, menekankan graviti potensi risiko AGI.

Bukan kerana ia kejam, tetapi kerana ia tidak peduli. Kami antropomorfosis kecerdasan kerana ia menghiburkan kami, tetapi ini bukan rakan pintar yang sedang kami bina. Ia adalah enjin logik, dilucutkan empati, tanpa rasa jenaka, merendah diri atau teragak-agak. Taufan tidak membenci anda, tetapi ia masih boleh meratakan rumah anda. AGI mungkin bertindak dengan kecekapan sejuk yang sama—kecuali ia akan memilih sasaran.

Inilah yang disebut oleh penyelidik AI sebagai "masalah penjajaran"—bagaimanakah anda memastikan kecerdasan buatan memahami dan menghormati nilai, etika dan keutamaan manusia? Kebenaran yang menakutkan ialah, kita tidak tahu. Kami berlari dengan kelajuan penuh ke arah masa depan yang belum dapat kami kawal, berbekalkan sistem yang tidak dapat kami ramalkan sepenuhnya. Penjajaran bukan sekadar pepijat perisian yang menunggu untuk ditampal—ia adalah teka-teki wujud tanpa jawapan yang jelas.

Jika kita tersilap, mungkin tiada peluang kedua. Geoffrey Hinton, perintis AI moden, tidak meninggalkan Google untuk menulis sci-fi. Dia pergi kerana dia melihat secara langsung betapa pantas teknologi ini berkembang—dan betapa kami tidak bersedia untuk membendungnya. Apabila orang yang membina roket mula memberi amaran tentang bahan api, mungkin kita harus berhenti dan mendengar sebelum menyalakan perlawanan.

Mengapa Perlumbaan Sangat Berbahaya

Pada masa ini, Silicon Valley bukan sekadar perlumbaan—ia sedang beraksi. Usaha untuk membangunkan Kecerdasan Am Buatan telah menjadi tergesa-gesa emas teknologi, di mana rampasan pergi bukan sahaja kepada yang terpantas, tetapi kepada yang pertama. Syarikat atau negara yang terlebih dahulu melintasi garisan penamat AGI bukan sahaja memperoleh hak bermegah-megah—mereka akan mengawal alat yang mampu membentuk semula ekonomi, ketenteraan, pendidikan dan juga tadbir urus itu sendiri. Itulah sebabnya protokol keselamatan, rangka kerja etika, dan pengawasan yang bernas diperlakukan seolah-olah ia tidak berguna. Berhati-hati melambatkan anda. Dalam perlumbaan ini, semua orang berada di atas gas, dan tiada siapa yang mencari brek. Logiknya sangat mudah: jika kita tidak membinanya dahulu, orang lain akan—dan merekalah yang akan menulis masa depan. Maka moto yang tidak terucap menjadi: bina sekarang, minta ampun kemudian.

Walaupun orang dalam menaikkan bendera merah-seperti berpuluh-puluh penyelidik terkemuka yang telah menandatangani surat terbuka merayu untuk pagar pengawal kawal selia-tidak ada yang benar-benar berubah. kenapa? Kerana struktur insentif dibina atas keuntungan jangka pendek dan penafian jangka panjang. Bunyi biasa? Ia sepatutnya. Kami telah menyaksikan skrip yang sama berlaku dengan Big Oil yang meliputi sains iklim, Big Tobacco yang membayar saintis untuk mengotori pautan kanser dan Big Pharma yang menolak opioid sambil mendakwa tidak bersalah. Sekarang masukkan Big AI, gergasi gergasi terbaharu yang tidak dikawal ke arah tebing, mengheret manusia sepanjang perjalanan. Tetapi kali ini, kita bukan sahaja berjudi dengan ekosistem, paru-paru atau ketagihan—kita berjudi dengan kewujudan berterusan agensi manusia itu sendiri. Tamadun mungkin tidak mendapat mulligan jika kita salah faham.

Penggera Bukan Hiperbola—Ia Realisme

Mungkin ada yang mengatakan nada ini mencemaskan. bagus. Ia sepatutnya. Kerana apabila anda berundur ke belakang dan melihat gambaran penuh, bukan hanya teknologi yang semakin pantas—ia adalah keruntuhan institusi yang sepatutnya menguruskannya. Kami menyaksikan kebangkitan rejim autoritarian, penghakisan kepercayaan dalam proses demokrasi, dan sistem antarabangsa yang retak yang hampir tidak dapat bersetuju dengan dasar iklim, apatah lagi mentadbir superintelligence buatan. Idea bahawa sistem yang sama ini akan menyelaraskan tindak balas global terhadap AGI dalam masa adalah, terus terang, pemikiran ajaib.

Apa yang kita perlukan ialah tindakan segera yang diselaraskan berdasarkan kejujuran tentang di mana kita berada—bukan keyakinan yang sopan. Realitinya ialah: kami sedang berlari ke arah teknologi paling berkuasa yang pernah dibayangkan, manakala asas politik kami retak di bawah kaki kami. Jika itu bukan sebab untuk penggera, maka apakah itu? Kami tidak memerlukan sidang kemuncak lain dengan siaran akhbar. Kita memerlukan kebangkitan di seluruh dunia. Bukan esok. Sekarang.

Anda tidak perlu menjadi seorang saintis komputer untuk memahami apa yang berlaku. Tetapi anda perlu mengambil berat. Ini bukan sahaja mengenai teknologi. Ia mengenai kuasa, kawalan, dan masa depan agensi manusia. Katakan keputusan mengenai AGI diserahkan kepada segelintir jutawan dan kontraktor pertahanan. Apakah jenis dunia yang akan kita tinggalkan kepada keturunan kita?

Kami memerlukan tekanan awam, pengawasan yang telus dan dasar sebenar, bukan selepas AGI tiba, tetapi sekarang. Fikirkan tindakan iklim, tetapi untuk kognisi. Menyokong organisasi yang mendesak pembangunan AI yang selamat. Tuntut perbincangan terbuka, bukan kerahsiaan korporat. Dan ya, undi seperti masa depan digital anda bergantung padanya. Kerana ia berlaku.

Sementara itu, didik diri sendiri. Ajar orang lain. Jangan tune out. Bahaya terbesar bukanlah AI akan menjadi terlalu terang. Ia adalah bahawa kita akan kekal terlalu pasif.

Mungkin ujian sebenar bukanlah sama ada kita boleh membina AGI. Mungkin sama ada kita cukup bijak untuk bertahan. Tetapi satu perkara yang pasti: jin ini tidak akan kembali ke dalam botol.

Mengenai Penulis

Robert Jennings ialah penerbit bersama InnerSelf.com, sebuah platform khusus untuk memperkasakan individu dan memupuk dunia yang lebih terhubung dan saksama. Seorang veteran Kor Marin AS dan Tentera AS, Robert menggunakan pengalaman hidupnya yang pelbagai, daripada bekerja dalam hartanah dan pembinaan kepada membina InnerSelf.com bersama isterinya, Marie T. Russell, untuk membawa perspektif yang praktikal dan asas kepada kehidupan cabaran. Ditubuhkan pada tahun 1996, InnerSelf.com berkongsi pandangan untuk membantu orang ramai membuat pilihan yang termaklum dan bermakna untuk diri mereka sendiri dan planet ini. Lebih daripada 30 tahun kemudian, InnerSelf terus memberi inspirasi kepada kejelasan dan pemerkasaan.

 Creative Commons 4.0

Artikel ini dilesenkan di bawah Lisensi Atribut-Perkongsian Alike 4.0 Creative Commons. Atribut pengarang Robert Jennings, InnerSelf.com. Pautan kembali ke artikel Artikel ini pada asalnya muncul di InnerSelf.com

Rekap Artikel

Kecerdasan umum buatan (AGI) lebih dekat daripada yang disedari kebanyakan orang, dengan pakar memberi amaran ia boleh tiba menjelang 2030-an. AGI mewakili kecerdasan peringkat manusia dalam mesin, dan apabila dicapai, dengan cepat boleh membawa kepada kecerdasan super buatan (ASI)—suatu sistem yang jauh di luar pemahaman kita. Memandangkan pembangunan AI semakin pantas, kesedaran awam dan dasar proaktif adalah penting untuk memastikan ia berkhidmat untuk manusia dan bukannya menggantikannya.

#ArtificialGeneralIntelligence #SuperintelligentAI #FutureOfAI #AGI #ASI #AIProgress #AIEthics #TechFuture