Chatbot AI menjadi lebih berkuasa, tetapi bagaimana anda tahu jika ia berfungsi untuk kepentingan terbaik anda? 

Jika anda bertanya kepada Alexa, sistem AI pembantu suara Amazon, sama ada Amazon adalah monopoli, ia bertindak balas dengan mengatakan ia tidak tahu. Ia tidak mengambil banyak masa untuk membuatnya menghina gergasi teknologi yang lain, tetapi ia senyap tentang salah laku ibu bapa korporatnya sendiri.

Apabila Alexa bertindak balas dengan cara ini, jelas sekali ia mendahulukan kepentingan pembangunnya daripada kepentingan anda. Biasanya, bagaimanapun, ia tidak begitu jelas kepada siapa sistem AI berkhidmat. Untuk mengelak daripada dieksploitasi oleh sistem ini, orang ramai perlu belajar untuk mendekati AI secara ragu-ragu. Ini bermakna sengaja membina input yang anda berikan dan berfikir secara kritis tentang outputnya.

Generasi model AI yang lebih baharu, dengan respons yang lebih canggih dan kurang hafalan, menjadikannya lebih sukar untuk mengetahui siapa yang mendapat manfaat apabila mereka bercakap. Syarikat Internet memanipulasi apa yang anda lihat untuk memenuhi kepentingan mereka sendiri bukanlah sesuatu yang baru. Hasil carian Google dan suapan Facebook anda adalah diisi dengan penyertaan berbayar. Facebook, TikTok dan yang lain memanipulasi suapan anda untuk memaksimumkan masa yang anda luangkan pada platform, yang bermaksud lebih banyak tontonan iklan, berbanding kesejahteraan anda.

Apa yang membezakan sistem AI daripada perkhidmatan internet yang lain ini ialah betapa interaktifnya dan bagaimana interaksi ini akan semakin menjadi seperti perhubungan. Ia tidak memerlukan banyak ekstrapolasi daripada teknologi hari ini untuk membayangkan AI yang akan merancang perjalanan untuk anda, berunding bagi pihak anda atau bertindak sebagai ahli terapi dan jurulatih kehidupan.

Mereka berkemungkinan akan bersama anda 24/7, mengenali anda dengan rapat dan dapat menjangka keperluan anda. Antara muka perbualan jenis ini kepada rangkaian perkhidmatan dan sumber yang luas di web adalah dalam keupayaan AI generatif sedia ada seperti ChatGPT. Mereka berada di landasan untuk menjadi pembantu digital yang diperibadikan.

Sebagai pakar keselamatan and saintis data, kami percaya bahawa orang yang bergantung pada AI ini perlu mempercayai mereka secara tersirat untuk mengemudi kehidupan seharian. Ini bermakna mereka perlu memastikan AI tidak berfungsi secara rahsia untuk orang lain. Di seluruh internet, peranti dan perkhidmatan yang nampaknya berfungsi untuk anda sudah pun secara rahsia bekerja menentang anda. TV pintar mengintip awak. Apl telefon mengumpul dan menjual data anda. Banyak apl dan tapak web memanipulasi anda melalui corak gelap, elemen reka bentuk yang dengan sengaja mengelirukan, memaksa atau memperdaya pelawat laman web. Ini adalah kapitalisme pengawasan, dan AI sedang membentuk untuk menjadi sebahagian daripadanya. AI memainkan peranan dalam kapitalisme pengawasan, yang berpunca daripada mengintip anda untuk mendapatkan wang daripada anda.

Dalam gelap

Kemungkinan besar, ia boleh menjadi lebih teruk dengan AI. Agar pembantu digital AI itu benar-benar berguna, ia perlu benar-benar mengenali anda. Lebih baik daripada telefon anda mengenali anda. Lebih baik daripada carian Google mengenali anda. Lebih baik, mungkin, daripada rakan rapat anda, pasangan intim dan ahli terapi mengenali anda.

Anda tidak mempunyai sebab untuk mempercayai alat AI generatif terkemuka hari ini. Ketepikan halusinasi, "fakta" rekaan yang dihasilkan oleh GPT dan model bahasa besar lain. Kami menjangkakan ia akan dibersihkan sebahagian besarnya apabila teknologi bertambah baik dalam beberapa tahun akan datang.

Tetapi anda tidak tahu bagaimana AI dikonfigurasikan: bagaimana ia telah dilatih, apakah maklumat yang telah diberikan kepada mereka dan apakah arahan yang telah diperintahkan untuk mereka ikuti. Sebagai contoh, penyelidik terbongkar peraturan rahsia yang mengawal tingkah laku chatbot Microsoft Bing. Mereka sebahagian besarnya tidak berbahaya tetapi boleh berubah pada bila-bila masa.

Membuat duit

Kebanyakan AI ini dicipta dan dilatih dengan perbelanjaan yang besar oleh beberapa monopoli teknologi terbesar. Mereka ditawarkan kepada orang ramai untuk menggunakan secara percuma, atau pada kos yang sangat rendah. Syarikat-syarikat ini perlu mengewangkan mereka entah bagaimana. Dan, seperti Internet yang lain, entah bagaimana mungkin termasuk pengawasan dan manipulasi.

Bayangkan meminta chatbot anda untuk merancang percutian anda yang seterusnya. Adakah ia memilih syarikat penerbangan atau rangkaian hotel atau restoran tertentu kerana ia adalah yang terbaik untuk anda atau kerana pembuatnya mendapat sogokan daripada perniagaan? Seperti hasil berbayar dalam carian Google, iklan suapan berita di Facebook dan peletakan berbayar pada pertanyaan Amazon, pengaruh berbayar ini berkemungkinan menjadi lebih tersembunyi dari semasa ke semasa.

Jika anda meminta chatbot anda untuk mendapatkan maklumat politik, adakah keputusan itu terpesong oleh politik perbadanan yang memiliki chatbot? Atau calon yang paling banyak membayarnya? Atau bahkan pandangan demografi orang yang datanya digunakan dalam melatih model itu? Adakah ejen AI anda secara rahsia adalah ejen berganda? Buat masa ini, tiada cara untuk mengetahui.

Boleh dipercayai oleh undang-undang

Kami percaya bahawa orang ramai harus mengharapkan lebih daripada teknologi dan syarikat teknologi serta AI boleh menjadi lebih boleh dipercayai. Kesatuan Eropah yang dicadangkan Akta AI mengambil beberapa langkah penting, memerlukan ketelusan tentang data yang digunakan untuk melatih model AI, pengurangan kemungkinan berat sebelah, pendedahan risiko yang boleh dijangka dan pelaporan tentang ujian standard industri. Kesatuan Eropah sedang meneruskan dengan peraturan AI.

Kebanyakan AI sedia ada gagal mematuhi dengan mandat Eropah yang baru muncul ini, dan, walaupun dorongan baru-baru ini daripada Ketua Majoriti Senat Chuck Schumer, AS jauh ketinggalan dalam peraturan tersebut.

AI masa depan harus boleh dipercayai. Melainkan dan sehingga kerajaan memberikan perlindungan pengguna yang teguh untuk produk AI, orang ramai akan sendiri untuk meneka potensi risiko dan berat sebelah AI, dan untuk mengurangkan kesan terburuk mereka terhadap pengalaman orang ramai dengan mereka.

Oleh itu, apabila anda mendapat pengesyoran perjalanan atau maklumat politik daripada alat AI, mendekatinya dengan pandangan skeptikal yang sama seperti iklan papan iklan atau sukarelawan kempen. Untuk semua sihir teknologinya, alat AI mungkin lebih sedikit daripada yang sama.

Tentang Pengarang

Bruce Schneier, Pensyarah Tambahan Dasar Awam, Sekolah Harvard Kennedy and Nathan Sanders, Ahli Gabungan, Pusat Berkman Klein untuk Internet & Masyarakat, Universiti Harvard

Artikel ini diterbitkan semula daripada Perbualan di bawah lesen Creative Commons. Membaca artikel asal.