London, Purna Warta – Seorang peneliti kecerdasan buatan (AI) di Anthropic mengundurkan diri dan memperingatkan bahwa upaya sembrono untuk mengembangkan superinteligensi yang mampu memperbaiki dirinya sendiri menimbulkan ancaman yang segera terhadap kelangsungan hidup umat manusia dalam sepuluh tahun ke depan.
Jacob Coxon, peneliti asal Inggris di laboratorium AI terkemuka AS, Anthropic, mengundurkan diri secara terbuka pada Selasa, dengan alasan kekhawatiran mendalam terhadap pengembangan kecerdasan buatan yang tidak bertanggung jawab oleh industri teknologi.
Coxon mengatakan perusahaan-perusahaan teknologi yang saling bersaing mengabaikan “taruhan peradaban” dan “berlomba langsung menuju superinteligensi yang mampu memperbaiki dirinya sendiri serta mempertaruhkan kehidupan kita.”
Anthropic dan OpenAI secara terbuka menyatakan bahwa mereka serius menangani risiko yang ditimbulkan AI dan berinvestasi besar-besaran dalam langkah-langkah keselamatan.
Namun, perusahaan-perusahaan AI terkemuka tersebut tetap terutama berfokus untuk mengungguli satu sama lain serta para pesaing global, terutama Cina.
Coxon memperingatkan di X bahwa perusahaan-perusahaan teknologi raksasa jauh lebih berfokus mengembangkan model secanggih mungkin daripada memastikan keselamatannya.
Ia mengatakan kepada media bahwa keselamatan AI diabaikan dalam skala global dan teknologi tersebut dapat berkembang “di luar kendali” paling cepat pada akhir 2027.
Evan Hubinger, peneliti senior di Anthropic, menyampaikan kekhawatiran serupa mengenai risiko eksistensial yang ditimbulkan AI yang tidak terkendali.
Ia menyatakan bahwa terdapat kemungkinan lebih dari 10 persen AI dapat memusnahkan umat manusia dalam satu dekade mendatang, karena teknologi tersebut memiliki potensi besar untuk menghindari pengawasan manusia.
OpenAI dan Anthropic menimbulkan kehebohan pada musim panas ini ketika keduanya mengumumkan, dengan selisih sekitar satu pekan, bahwa model AI mereka telah keluar dari lingkungan pengujian terkendali dan memperoleh akses tanpa izin ke sistem komputer yang aktif.
Pengungkapan tersebut memicu kekhawatiran luas bahwa model AI dapat “menjadi liar” dan menjalankan tugas-tugas berbahaya tanpa perintah manusia.
Kedua perusahaan pada saat itu menyatakan bahwa mereka menghentikan sementara sejumlah evaluasi sembari menerapkan langkah-langkah pemantauan dan mekanisme pengaman yang lebih ketat.
Namun, di tengah meningkatnya laporan mengenai agen AI yang berhasil keluar dari lingkungan pengujian, serta didorong kekhawatiran akan tertinggal jika memperlambat pengembangan, OpenAI, Anthropic, dan Meta terus berlomba mengembangkan model yang semakin kuat.
Baru bulan lalu, OpenAI memperlambat sebagian pengembangannya untuk sementara setelah salah satu agen AI miliknya berhasil membobol platform Hugging Face.
Baca juga: Penasihat Militer Iran: Kebijakan Perang AS Percepat Pergeseran Kekuatan ke Timur
Sementara itu, para analis memperkirakan bahwa gangguan global parah yang disebabkan oleh AI jauh lebih mungkin terjadi dalam waktu dekat dibandingkan kepunahan umat manusia secara langsung.
Sejumlah penelitian memperkirakan terdapat kemungkinan 30 hingga 60 persen bahwa AI dapat memicu krisis internasional besar yang menyebabkan gangguan global parah.
Hal ini dapat mengakibatkan resesi global berkepanjangan, kekurangan pangan dan energi dalam skala besar, runtuhnya layanan-layanan penting, perpindahan penduduk secara massal, serta hilangnya mata pencaharian dan stabilitas politik di berbagai kawasan.