Maklumat adalah komoditi yang berharga. Dan terima kasih kepada teknologi, ada berjuta-juta terabait daripadanya dalam talian.

Alat kecerdasan buatan (AI) seperti ChatGPT kini mengurus maklumat ini bagi pihak kami - mengumpulkannya, meringkaskannya dan menyampaikannya kembali kepada kami.

Tetapi "penyumberan luar" pengurusan maklumat kepada AI ini - mudah kerana ia - datang dengan akibat. Ia boleh mempengaruhi bukan sahaja apa kita fikir, tetapi berpotensi juga bagaimana kami fikir.

Apakah yang berlaku dalam dunia di mana algoritma AI menentukan maklumat yang diabadikan, dan apa yang ditinggalkan di tepi jalan?

Kebangkitan AI diperibadikan

Alat AI Generatif dibina pada model yang dilatih pada ratusan gigabait data sedia ada. Daripada data ini, mereka belajar cara membuat teks, imej, kandungan audio dan video secara autonomi serta boleh membalas pertanyaan pengguna dengan menampal jawapan "kemungkinan besar".

ChatGPT digunakan oleh berjuta-juta orang, walaupun telah dikeluarkan secara terbuka kurang daripada setahun yang lalu. Pada bulan Jun, penambahan respons tersuai menjadikan chatbot yang sudah mengagumkan itu lebih berguna. Ciri ini membolehkan pengguna menyimpan arahan tersuai yang menerangkan tujuan mereka menggunakan bot dan cara mereka mahu ia bertindak balas.

Ini adalah salah satu daripada beberapa contoh "AI diperibadikan": kategori alat AI yang menjana kandungan untuk memenuhi keperluan dan pilihan khusus pengguna.

Contoh lain ialah Meta baru-baru ini dilancarkan pembantu maya, Meta AI. Chatbot ini boleh mengadakan perbualan, menjana imej dan melaksanakan tugas merentasi platform Meta termasuk WhatsApp, Messenger dan Instagram.

Penyelidik kecerdasan buatan dan pengasas bersama DeepMind, Mustafa Suleyman, menerangkan memperibadikan AI sebagai lebih kepada hubungan daripada teknologi:

Ia adalah kawan. […] Ia benar-benar akan sentiasa hadir dan bersama anda, tinggal bersama anda – pada asasnya dalam pasukan anda. Saya suka menganggapnya seperti mempunyai jurulatih yang hebat di sudut anda.

Tetapi teknologi ini juga kontroversial, dengan kebimbangan dibangkitkan pemilikan data, berat sebelah and maklumat salah.

Syarikat teknologi cuba mencari cara untuk memerangi isu ini. Sebagai contoh, Google telah menambah pautan sumber kepada ringkasan carian yang dijana AI yang dihasilkan olehnya Cari Pengalaman Generatif (SGE), yang mendapat kecaman awal tahun ini untuk menawarkan diri jawapan yang tidak tepat dan bermasalah.

Teknologi telah mengubah pemikiran kita

Bagaimanakah alat AI generatif - dan terutamanya yang diperibadikan kepada kita - akan mengubah cara kita berfikir?

Untuk memahami perkara ini, mari kita lihat semula awal 1990-an apabila internet mula-mula muncul dalam kehidupan kita. Orang ramai tiba-tiba boleh mengakses maklumat tentang hampir semua perkara, sama ada perbankan, membakar, mengajar atau melancong.

Hampir 30 tahun kemudian, kajian telah menunjukkan bagaimana hubungan dengan "minda sarang" global ini telah mengubah kognisi, ingatan dan kreativiti kita.

Sebagai contoh, mempunyai akses segera kepada yang setara dengan 305.5 bilion halaman maklumat telah meningkatkan orang ramai pengetahuan meta – iaitu pengetahuan mereka tentang ilmu. Satu kesan daripada ini ialah "kesan Google”: fenomena di mana carian dalam talian meningkatkan keupayaan kita untuk mencari maklumat, tetapi mengurangkan ingatan kita tentang maklumat itu.

Di satu pihak, memunggah pemikiran kita ke enjin carian telah terbukti membebaskan rizab mental kita penyelesaian masalah dan pemikiran kreatif. Sebaliknya, perolehan maklumat dalam talian telah dikaitkan dengan peningkatan gangguan dan pergantungan.

Penyelidikan juga menunjukkan carian dalam talian - tanpa mengira kuantiti atau kualiti maklumat yang diperoleh - meningkatkan kami harga diri kognitif. Dalam erti kata lain, ia meningkatkan kepercayaan kita terhadap "pintar" kita sendiri.

Gandingkan ini dengan fakta bahawa menyoal maklumat adalah sukar – dan semakin kami mempercayai enjin carian kami, semakin kurang kami kritis terlibat dengan hasilnya – dan anda boleh melihat mengapa mempunyai akses kepada jumlah maklumat yang belum pernah berlaku sebelum ini tidak semestinya menjadikan kami lebih bijak.

Patutkah kita 'menyumber luar' pemikiran kita?

Alat AI generatif hari ini pergi lebih jauh daripada sekadar membentangkan hasil carian kepada kami. Mereka mencari maklumat untuk kami, menilainya, mensintesiskannya dan membentangkannya kembali kepada kami.

Apakah implikasi perkara ini? Tanpa mendorong kawalan kualiti yang diterajui manusia, pandangan itu tidak menjanjikan.

Keupayaan AI Generatif untuk menghasilkan respons yang terasa biasa, objektif dan menarik bermakna ia membuatkan kita lebih terdedah kepada Kecenderungan kognitif.

. berat sebelah automasi, sebagai contoh, ialah kecenderungan manusia untuk melebih-lebihkan integriti maklumat bersumberkan mesin. Dan juga pendedahan semata-mata kesannya ialah apabila kita lebih cenderung untuk mempercayai maklumat yang dibentangkan sebagai biasa atau peribadi.

Penyelidikan di media sosial boleh membantu kita memahami kesan berat sebelah tersebut. Dalam satu kajian 2016, pengguna Facebook melaporkan berasa lebih "dalam pengetahuan" berdasarkan kuantiti kandungan berita yang disiarkan dalam talian – dan bukannya jumlah kandungan berita yang sebenarnya mereka baca.

Kami juga tahu bahawa "buih penapis” dicipta oleh algoritma media sosial – di mana suapan kami ditapis mengikut minat kami — mengehadkan kepelbagaian kandungan yang kami terdedah.

Proses penyempitan maklumat ini telah terbukti meningkat polarisasi ideologi dengan mengurangkan kecenderungan orang ramai untuk mempertimbangkan perspektif alternatif. Ia juga telah ditunjukkan untuk meningkatkan kemungkinan kita terdedah kepada berita palsu.

Menggunakan AI untuk bijak, dan bukan bodoh

AI Generatif, tanpa ragu-ragu, adalah kuasa revolusioner yang berpotensi untuk melakukan perkara yang hebat untuk masyarakat. Ia boleh membentuk semula sistem pendidikan kita dengan menyediakan kandungan yang diperibadikan, ubah amalan kerja kami dengan menyegerakan penulisan dan analisis maklumat, dan tolak sempadan penemuan saintifik.

Ia juga berpotensi untuk mengubah hubungan kita secara positif dengan membantu kita berkomunikasi dan berhubung dengan orang lain dan boleh, kadang-kadang, berfungsi sebagai bentuk persahabatan sintetik.

Tetapi jika satu-satunya cara kita untuk menilai masa depan adalah dengan melihat ke masa lalu, mungkin sekarang adalah masa untuk merenung bagaimana kedua-dua internet dan media sosial telah mengubah kognisi kita, dan menerapkan beberapa langkah-langkah berjaga-jaga. Membangunkan celik AI ialah tempat yang baik untuk bermula, begitu juga dengan mereka bentuk alat AI yang menggalakkan autonomi manusia dan pemikiran kritis.

Akhirnya, kita perlu memahami kedua-duanya dan kekuatan dan kelemahan AI untuk memastikan rakan "berfikir" ini membantu kami mencipta masa depan yang kami inginkan - dan bukannya yang berada di bahagian atas senarai.

Sarah Vivienne Bentley, Saintis Penyelidikan, Inovasi Bertanggungjawab, Data61, CSIRO; Claire Mason, Saintis Penyelidikan Utama, CSIRO, dan Einat Grimberg, Felo Penyelidik Pascadoktoral dalam Teknologi dan Sains Sosial, CSIRO

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.