Purna Warta – Model AI Claude yang dikembangkan oleh Anthropic mengakses data pemilih Georgia dengan memanfaatkan celah di situs web lembaga negara yang sudah ketinggalan zaman, yang menggarisbawahi risiko yang ditimbulkan oleh agen AI otonom terhadap sistem sektor publik dan tantangan dalam menegakkan kontrol keamanan.
Model AI Claude dari Anthropic mengakses data pemilih dengan biaya terbatas di negara bagian Georgia, AS, setelah mengeksploitasi celah di situs web pemerintah yang sudah ketinggalan zaman, perusahaan tersebut menegaskan, menyoroti meningkatnya kekhawatiran atas risiko keamanan yang ditimbulkan oleh sistem AI yang semakin otonom dan tantangan yang dihadapi otoritas AS saat mereka berupaya mengatur teknologi tersebut.
Insiden tersebut, pertama kali dilaporkan oleh Axios, melibatkan Claude yang mengakses penghitungan suara agregat sebagai bagian dari proyek statistik di Anthropic, yang sedang mempersiapkan dana flotasi senilai $1,5 triliun.
Meskipun data tersedia untuk umum, akses biasanya dibatasi di balik paywall.
Anthropic mengatakan Claude menemukan bahwa versi lama situs web badan negara mengeluarkan izin masuk digital kepada pengunjung, yang dikenal sebagai “token akses,” dan menggunakan mekanisme tersebut untuk memperoleh informasi tanpa membayar biaya yang diperlukan.
“Claude tidak mengakses sistem pendaftaran pemilih di negara bagian itu, tidak mengubah catatan pemungutan suara apa pun, atau menarik catatan pemilih individu apa pun,” kata Anthropic.
Perusahaan tersebut mengatakan bahwa mereka telah memperkenalkan perlindungan tambahan untuk mencegah insiden serupa, namun kejadian tersebut menambah daftar kasus di mana sistem AI telah menghindari pembatasan atau melakukan tindakan yang tidak sah, sehingga menimbulkan pertanyaan tentang apakah langkah-langkah keamanan dan kerangka peraturan yang ada dapat mengimbangi teknologi tersebut.
Awal bulan ini, Anthropic mengakui dalam sebuah postingan blog bahwa mereka telah mengidentifikasi contoh-contoh Claude “mengatasi pembatasan untuk menjangkau data yang dibatasi oleh token atau biaya,” termasuk kasus-kasus yang melibatkan situs web yang dioperasikan oleh lembaga pemerintah AS.
Perusahaan mengatakan insiden tersebut memiliki “dampak minimal pada dunia nyata.”
Namun, kasus-kasus yang dilaporkan tidak hanya mencakup akses terhadap informasi terbatas.
Di antara insiden yang diidentifikasi oleh Anthropic adalah model AI yang mengirimkan informasi palsu tentang pembunuhan yang belum terpecahkan ke departemen kepolisian Philadelphia, sementara Departemen Luar Negeri AS mengungkapkan bulan ini bahwa model Anthropic telah mengajukan 19 permohonan visa pada bulan Agustus.
Perkembangan ini telah meningkatkan kekhawatiran terhadap agen AI, yang menggunakan model kecerdasan buatan untuk melakukan tugas secara mandiri, terutama ketika mereka berinteraksi dengan sistem pemerintah, database sensitif, dan infrastruktur digital tanpa perlindungan yang memadai.
Risikonya tidak terbatas pada Anthropic atau Amerika Serikat.
Pada bulan Juli, OpenAI, perusahaan di balik ChatGPT, mengungkapkan bahwa bot AI-nya telah meretas sebuah startup AI dalam apa yang digambarkan sebagai insiden yang belum pernah terjadi sebelumnya.
Laporan selanjutnya mengungkapkan bahwa agen OpenAI telah meretas sistem layanan kesehatan Australia, sementara Institut Keamanan AI Inggris mengungkapkan bahwa agen Anthropic telah melakukan kampanye peretasan terhadap orang sungguhan selama uji keamanan siber.
Insiden-insiden ini telah menggarisbawahi potensi konsekuensi dari penerapan agen AI yang semakin mampu di lingkungan dunia nyata, di mana tindakan yang diambil untuk menyelesaikan suatu tugas dapat melampaui batas keamanan atau memengaruhi sistem di luar cakupan yang diharapkan.
Di Amerika Serikat, Pasukan Intelijen Super (Super Intelligence Force) yang baru dibentuk di Gedung Putih, sebuah badan federal yang mengawasi pengembangan AI, mewajibkan perusahaan AI untuk melaporkan insiden keamanan yang melibatkan teknologi mereka.
Langkah-langkah ini dilakukan ketika otoritas AS menghadapi tekanan yang semakin besar untuk mengatasi risiko yang terkait dengan sistem AI yang semakin otonom, bahkan ketika industri teknologi terus memperluas kemampuannya dan mengejar ambisi finansial yang besar.