Ketua Pegawai Eksekutif Twitter Elon Musk telah menyertai berpuluh-puluh pakar kecerdasan buatan (selepas ini akan disebut sebagai AI) dan eksekutif industri dalam menandatangani surat terbuka yang mendesak supaya semua makmal AI untuk “berhenti seketika berkuatkuasa serta-merta” mengenai pembangunan latihan sistem yang lebih berkuasa berbanding Chat GPT-4 selama sekurang-kurangnya enam bulan.
Ketua Pegawai Eksekutif Tesla, Elon Musk, meninggalkan Bangunan Persekutuan Phillip Burton di San Francisco, California, pada 24 Januari 2023. (Justin Sullivan/Getty Images)
Surat itu, yang dikeluarkan oleh badan yang tidak berkeuntungan bernama Future of Life Institute, telah ditandatangani oleh lebih 1,100 individu, termasuk pengasas bersama Apple, Steve Wozniak, pengasas dan Ketua Pegawai Eksekutif Stability AI, Emad Mostaque, dan antara lainnya, jurutera dari Meta dan Google.
Mereka berhujah bahawa sistem AI dengan kecerdasan daya saing manusia boleh menimbulkan “risiko yang mendalam kepada masyarakat dan manusia,” dan ianya berupaya untuk mengubah “sejarah kehidupan di Bumi,” memetik penyelidikan yang meluas mengenai isu itu dan pengiktirafan oleh “makmal AI teratas.”
Pakar seterusnya menyatakan bahawa pada masa ini terdapat perancangan dan pengurusan yang terhad mengenai sistem AI Lanjutan walaupun beberapa syarikat dalam beberapa bulan kebelakangan ini “terkunci dalam perlumbaan di luar kawalan untuk membangun dan menggunakan minda digital yang lebih berkuasa yang tiada siapa-walaupun pencipta mereka —boleh memahami, meramal, atau mengawal dengan pasti.”
“Sistem AI kontemporari kini menjadi daya saing manusia dalam tugas umum dan kita mesti bertanya kepada diri sendiri: adakah kita patut membiarkan mesin-mesin membanjiri saluran maklumat kita dengan propaganda dan kepalsuan? Patutkah kita mengautomatikkan semua pekerjaan, termasuk pekerjaan yang memuaskan? Patutkah kita membangunkan minda bukan manusia yang akhirnya mungkin melebihi bilangan kita, lebih bijak dari kita, mengenepikan kita, dan menggantikan kita? Patutkah kita mengambil risiko kehilangan kawalan tamadun kita? Keputusan sedemikian tidak boleh diwakilkan kepada pemimpin teknologi yang tidak diundi,” tegas surat itu.
Ahli perniagaan menggunakan chatbot dalam kecerdasan telefon pintar AI. ChatGPT dengan kecerdasan buatan dibangunkan oleh OpenAI. Teknologi bersifat masa depan, penggunaan robot dalam sistem dalam talian. (Shutterstock)
Protokol Keselamatan Diperlukan
“Sistem AI yang berkuasa harus dibangunkan hanya setelah kami yakin bahawa kesannya akan positif dan risikonya akan terurus,” tambahnya.
Surat itu kemudiannya meminta latihan sistem AI yang lebih berkuasa daripada GPT-4 itu dihentikan seketika secara sah minimum enam bulan awam atau moratorium dikeluarkan oleh kerajaan untuk latihan sedemikian jika pemberhentian seketika itu tidak dapat dilaksanakan dengan serta-merta.
Semasa tempoh ‘rehat’, makmal AI dan pakar bebas harus menggunakan masa yang ada untuk mencipta dan melaksanakan satu set protokol keselamatan bersifat perkongsian untuk reka bentuk dan pembangunan AI lanjutan yang “diaudit dengan teliti” dan diawasi oleh pakar pihak ketiga yang bebas, antara isi yang terdapat pada surat itu.
Protokol sedemikian harus direka bentuk untuk memastikan sistem yang mematuhinya selamat tanpa keraguan munasabah, tepat, boleh dipercayai dan selaras, kata pakar.
Di samping itu, surat itu turut menyeru penggubal dasar untuk membangunkan sistem tadbir urus AI yang teguh untuk kegunaan seperti pihak berkuasa yang mampu menyediakan pengawasan dan menjejaki sistem AI berkeupayaan tinggi, mengumpul dana untuk penyelidikan keselamatan AI tambahan dan menubuhkan institusi yang boleh menangani apa yang mereka katakan akan berlaku seperti “gangguan ekonomi dan politik yang dramatik (terutamanya kepada sistem demokrasi) yang disebabkan oleh penggunaan AI.”
“Permohonan jeda ini tidak bermakna akan diaplikasikan kepada semua pembangunan AI secara umum, ini semata-mata permohonan untuk berundur dari perlumbaan berbahaya kepada model kotak hitam yang tidak dapat diramal yang lebih besar dengan keupayaan yang bakal muncul,” kata pakar dalam surat mereka.
Surat itu dikeluarkan hanya selepas dua minggu OpenAI, iaitu pencipta sistem kecerdasan buatan ChatGPT, mengeluarkan kemas kini teknologi AInya yang telah lama ditunggu-tunggu pada 14 Mac—Chat GPT-4, sistem AI paling berkuasa yang pernah ada.
Halaman utama untuk aplikasi oleh OpenAI “ChatGPT” dipaparkan pada skrin komputer riba di London pada 3 Februari 2023. (Imej Leon Neal/Getty)
Kemas Kini ChatGPT Dikeluarkan
Menurut Microsoft-backed-OpenAI, sistem yang dikemas kini itu mempunyai rentetan keupayaan baharu, seperti menerima imej sebagai input dan berupaya untuk menjana kapsyen, klasifikasi dan analisis tetapi lebih selamat dan lebih tepat berbanding yang terdahulu.
Dalam satu kenyataan pada bulan Februari, OpenAI mengakui bahawa pada satu ketika, mungkin penting untuk mendapatkan “semakan bebas sebelum mula melatih sistem masa depan, dan usaha yang paling baik adalah untuk bersetuju untuk mengehadkan kadar pertumbuhan pengiraan yang digunakan untuk mencipta model baharu.”
“Kami berpendapat adalah penting untuk mendapatkan pandangan berkaitan piawaian awam tentang bilakah usaha operasi latihan AGI harus dihentikan, memutuskan model yang selamat untuk dikeluarkan atau menarik model daripada penggunaan pengeluaran. Akhir sekali, kami fikir adalah penting juga untuk kerajaan dunia utama mempunyai pandangan tentang latihan yang berlangsung di atas skala tertentu,” kata syarikat itu.
Awal minggu ini, Europol, agensi penguatkuasaan undang-undang Kesatuan Eropah, memberi amaran tentang implikasi buruk ChatGPT yang boleh digunakan untuk jenayah siber dan beberapa aktiviti berniat jahat lain termasuk penyebaran maklumat yang salah.
Kebimbangan lanjut telah dibangkitkan mengenai perisian itu, yang dilatih menggunakan pembelajaran pengukuhan daripada maklum balas manusia (RLHF), terutamanya mengenai cara ia boleh digunakan untuk membantu pelajar menipu dalam peperiksaan dan kerja rumah mereka.
Di sebalik kebimbangan tersebut, populariti ChatGPT telah mendorong firma saingan untuk melancarkan produk yang serupa.
Minggu lepas, Google mengumumkan bahawa mereka telah melancarkan aplikasi AInya, yang dikenali sebagai “Bard,” untuk ujian di United Kingdom dan Amerika Syarikat, walaupun syarikat itu ternyata lebih perlahan untuk mengeluarkan teknologi itu berbanding pesaingnya, disamping meminta lebih banyak maklum balas daripada pengguna tentang aplikasi berkenaan.
Pilihan Editor:
