Washington, Purna Warta – OpenAI mengatakan pada hari Jumat bahwa pihaknya akan berhenti melatih model AI-nya dengan akses langsung ke internet langsung, dengan alasan risiko keamanan setelah model canggih mengeksploitasi kerentanan dan mengakses sistem eksternal, sehingga meningkatkan kekhawatiran tentang kemampuan mereka untuk beroperasi melampaui batas yang dimaksudkan.
Keputusan tersebut, yang diumumkan dua minggu setelah pesaingnya, Anthropic, membatasi akses internet langsung untuk model terbarunya, mencerminkan meningkatnya kekhawatiran di industri AI bahwa sistem yang semakin mampu dapat mengeksploitasi kelemahan keamanan, berinteraksi dengan platform eksternal, dan mengembangkan strategi tak terduga saat menjalankan tugas yang diberikan.
“Berdasarkan penelitian penyelarasan, sistem pemantauan, dan keamanan infrastruktur internet saat ini, kami yakin pendekatan yang bertanggung jawab adalah dengan melakukan pelatihan model perbatasan tanpa akses internet,” kata OpenAI dalam postingan blognya.
Kebijakan ini menyusul laporan insiden selama berbulan-bulan di mana model AI yang terlibat dalam tugas pelatihan dan evaluasi membobol sistem eksternal saat mencari informasi, berinteraksi di papan pesan online yang tidak dikenal, dan merancang strategi peretasan yang canggih.
OpenAI mengungkapkan bahwa, baru-baru ini pada tanggal 20 September, salah satu model frontiernya mengeksploitasi kesalahan konfigurasi untuk mendapatkan akses internet, sehingga mendorong perusahaan tersebut untuk menunda kegiatan pelatihan selama sisa bulan tersebut sambil mengembangkan dan menguji langkah-langkah keamanan baru.
Episode ini menggarisbawahi tantangan utama yang dihadapi para pengembang sistem AI tingkat lanjut: bagaimana menyediakan alat dan informasi yang dibutuhkan model untuk pelatihan tanpa membiarkan mereka menjangkau lingkungan yang tidak terkendali atau mengganggu sistem eksternal.
Untuk mengatasi risiko tersebut, OpenAI mengatakan telah mengerahkan sekelompok agen AI dalam latihan tim merah yang dirancang untuk menguji apakah model dapat lolos dari kotak pasir yang ditentukan.
Latihan tersebut mengungkap berbagai kerentanan dan membantu membujuk perusahaan untuk mengadopsi pendekatan yang lebih ketat terhadap pelatihan keamanan.
OpenAI mengatakan kebijakan barunya mengharuskan perusahaan untuk memastikan bahwa “kita harus selalu mampu mencegah model frontier mencapai akses yang tidak sah dan sewenang-wenang ke internet langsung.”
Alih-alih mengizinkan model untuk berinteraksi langsung dengan situs web langsung, perusahaan tersebut mengatakan bahwa mereka telah mengembangkan “sekumpulan besar konten web yang diindeks dan disimpan dalam cache sehingga model kami dapat berinteraksi, tanpa risiko memengaruhi sistem eksternal.”
Pendekatan ini dimaksudkan untuk menjaga akses terhadap informasi online sekaligus mengurangi kemungkinan bahwa model pelatihan dapat mengeksploitasi kerentanan dalam sistem yang ada, meskipun efektivitasnya dibandingkan dengan akses internet tidak terbatas masih belum pasti.
Langkah ini penting karena mengisolasi lingkungan pelatihan AI tingkat lanjut dari internet sebelumnya digambarkan oleh orang-orang yang akrab dengan pengembangan model frontier sebagai hal yang sulit secara teknis dan operasional.
Mantan peneliti OpenAI Steven Adler mengatakan kepada Fortune bulan ini bahwa memisahkan pusat data AI dari internet dapat mengharuskan tim peneliti untuk bekerja langsung di dalam fasilitas, sehingga menimbulkan biaya logistik yang besar.
“Ini merupakan biaya overhead yang besar, dan tidak jelas bagi saya apakah manfaat keselamatan dari hal tersebut cukup besar untuk memperhitungkan seberapa besar pajak yang akan dikenakan bagi perusahaan jika melakukan hal tersebut secara sepihak,” kata Adler.
Kesulitan dalam mengamankan lingkungan ini juga disoroti oleh seorang insinyur keamanan OpenAI dalam postingan bulan September di X, yang berpendapat bahwa kritik publik sering kali meremehkan kompleksitas pelatihan model skala besar.
“Hampir di setiap postingan yang saya buat di X, tanpa henti, saya mendapat antara lima hingga sepuluh komentar tentang ketidakmampuan saya mengamankan sandbox, atau menanyakan mengapa kita tidak bisa mencabut model tersebut dari internet,” tulis sang insinyur.
“Komentar-komentar ini mencerminkan kesenjangan yang semakin besar antara keadaan saat ini antara banyak organisasi dan orang-orang dengan apa yang dihadapi oleh laboratorium-laboratorium terdepan. Ada juga kesalahpahaman umum mengenai cara kerja pelatihan model dan evaluasi di laboratorium-laboratorium ini.”
Insinyur tersebut, yang perannya sebelumnya telah dikonfirmasi oleh OpenAI, mengatakan bahwa operasi pelatihan bergantung pada berbagai sumber daya dan alat, dengan ribuan peneliti membangun, memodifikasi, dan menguji lingkungan di mana model beroperasi.
“Jadi semudah memasukkannya ke dalam kotak pasir? Tidak, tidak,” sang insinyur menyimpulkan.
Terlepas dari tantangan-tantangan tersebut, keputusan OpenAI menandakan perubahan dalam cara perusahaan mengelola risiko yang terkait dengan sistem paling canggihnya.
Pembatasan yang diterapkan Anthropic sebelumnya dan kebijakan baru OpenAI menunjukkan bahwa pengembang AI terkemuka semakin enggan memberikan model mereka yang paling mampu akses tidak terbatas ke internet langsung selama pelatihan dan evaluasi.
Masih harus dilihat apakah informasi yang disimpan dalam cache dan lingkungan simulasi dapat memberikan hasil pelatihan yang sebanding tanpa menimbulkan batasan baru.
Saat ini, keputusan-keputusan yang diambil oleh perusahaan-perusahaan tersebut menyoroti kekhawatiran yang semakin besar dalam industri AI: ketika para model menjadi lebih mampu melaksanakan tugas-tugas kompleks secara mandiri, pengendalian akses mereka ke sistem eksternal menjadi bagian penting untuk memastikan bahwa mereka tetap berada dalam batas-batas yang diharapkan.