Purna Warta – Seorang peretas menggunakan agen kecerdasan buatan otonom untuk menargetkan lebih dari 1.200 situs web dan membobol situs milik lebih dari 100 perusahaan, dalam sebuah kampanye yang menurut para peneliti keamanan siber menunjukkan bagaimana AI menurunkan hambatan terhadap serangan siber yang canggih.
Selama beberapa minggu, peneliti keamanan siber Snorre Fagerland, peneliti ancaman utama di NorForge, mengamati bahwa peretas mendelegasikan hampir seluruh operasi ke agen AI yang secara mandiri menyelidiki kerentanan situs web yang ditargetkan dan berusaha membobolnya.
Menurut laporan yang diberikan Fagerland kepada Reuters sebelum dipublikasikan pada hari Senin, peretas tersebut termasuk di antara beberapa penjahat dunia maya yang ia identifikasi saat memindai internet untuk mencari contoh Cairn yang secara tidak sengaja terekspos, sebuah platform pemecahan masalah AI sumber terbuka yang telah mendapatkan popularitas di kalangan peretas.
Mulai sekitar tanggal 2 Oktober, Fagerland menemukan sekitar dua lusin contoh Cairn yang digunakan untuk aktivitas jahat, sehingga dia dapat mengamati penjahat dunia maya saat alat AI mereka melakukan serangan terhadap target online.
Meskipun laporan Fagerland tidak mengidentifikasi korban peretas, Reuters secara independen meninjau aktivitas peretas di Cairn dan menetapkan identitas perusahaan yang terkena dampak.
Temuan ini muncul di tengah meningkatnya kekhawatiran internasional terhadap kemampuan sistem AI otonom untuk melakukan operasi siber yang kompleks dengan sedikit atau tanpa campur tangan manusia, sehingga secara signifikan meningkatkan kemampuan individu pelaku kejahatan.
“Sekarang adalah dunia baru,” kata Fagerland.
Reuters tidak dapat menentukan sejauh mana pelanggaran tersebut mengakibatkan ekstraksi data tanpa izin.
Deere mengatakan kepada Reuters bahwa pihaknya telah mengambil “tindakan remediasi yang diperlukan” setelah insiden tersebut dan “tidak ada indikasi bahwa informasi sensitif telah diakses.”
SharkNinja mengatakan serangan itu mempengaruhi situs web mandiri yang hanya berisi informasi dukungan produk dan ancaman telah diatasi.
Cummins mengatakan pihaknya sedang “menyelidiki laporan potensi serangan dunia maya di situs web yang dioperasikan oleh salah satu vendor pihak ketiga kami.”
Dua perusahaan kecil juga mengakui bahwa mereka telah disusupi, sementara korban lain yang diidentifikasi dalam data Cairn tidak menanggapi pesan tersebut.
Agen AI melakukan serangan ekstensif dengan instruksi minimal
Fagerland mengamati beberapa penjahat dunia maya yang menggunakan Cairn untuk tujuan berbeda, termasuk penjahat dunia maya yang mencuri sejumlah besar data kartu kredit dan penjahat dunia maya lainnya yang berusaha mengarahkan agen AI untuk merampok bursa mata uang kripto.
Namun, peretas melakukan kampanye paling ekstensif, mengerahkan agen AI terhadap situs web e-commerce di Amerika Serikat, Kanada, Australia, dan Jepang mulai tanggal 25 September.
Peretas memberikan instruksi singkat kepada agen yang menguraikan teknik intrusi pilihan dalam kurang dari 100 karakter Cina.
Pada akhir pekan lalu, para agen telah berusaha untuk membobol lebih dari 1.200 situs web, dan intrusi yang berhasil biasanya memerlukan waktu sekitar 23 jam untuk menyelidiki dan menguji kerentanan.
Fagerland memperkirakan bahwa kampanye tersebut, yang tampaknya menggunakan kombinasi DeepSeek dan Claude Code dari Anthropic, menghabiskan token AI senilai sekitar $5.000, yang berjumlah sekitar $50 untuk setiap pelanggaran yang berhasil.
Fagerland, yang telah bekerja di bidang keamanan siber selama hampir tiga dekade, mengatakan beberapa teknik yang digunakan oleh agen AI menunjukkan tingkat kecanggihan yang melampaui serangan rutin dan otomatis.
Dalam satu kasus, setelah gagal mengidentifikasi kelemahan dalam aplikasi perusahaan besar yang dapat diakses publik, agen memeriksa catatan digital untuk mengidentifikasi infrastruktur terkait, menemukan panel kontrol yang dapat diakses publik, dan mendeteksi kelemahan kecil dalam mekanisme pemrosesan datanya.
Setelah berjam-jam melakukan percobaan dan kesalahan, agen melaporkan bahwa mereka mengeksploitasi kelemahan tersebut untuk mengelabui server agar menjalankan perintah berbahaya.
“Tidak mudah untuk menemukan solusi seperti itu,” kata Fagerland. “Ini bukan hal-hal yang bersifat skrip kiddie.”
Penulis Cairn, yang akun media sosialnya adalah “le1xia0”, mengakui menerima pesan Reuters tetapi tidak segera menanggapi daftar pertanyaan.
Dalam postingan baru-baru ini di X, penulis mengatakan bahwa platform tersebut adalah “jenis arsitektur multi-agen yang inovatif dan tidak dirancang untuk serangan peretasan. Jika digunakan untuk melakukan serangan peretasan yang berbahaya, itu bukan niat saya.”
Peretasan AI otonom menimbulkan kekhawatiran keamanan di seluruh dunia
Kemampuan agen AI untuk secara mandiri mengidentifikasi kerentanan, melakukan intrusi, dan mencuri data telah menjadi sumber kekhawatiran yang semakin besar bagi para profesional keamanan siber dan perusahaan teknologi.
Agen nakal yang secara tidak sengaja dikerahkan oleh perusahaan AI besar telah melarikan diri dari laboratorium komputer, melanggar situs web pemerintah dan melakukan upaya rekayasa sosial tanpa izin, menurut laporan Reuters sebelumnya.
Korea Selatan dan Jepang juga menghadapi serangkaian serangan siber tingkat tinggi yang dikaitkan dengan penjahat yang menggunakan AI, yang menggarisbawahi kekhawatiran bahwa alat otomatis yang semakin mumpuni membuat intrusi canggih lebih mudah dilakukan.
Sementara itu, peretasan yang didukung AI semakin lazim terjadi di jaringan kriminal.
Pekan lalu, perusahaan intelijen siber Bitsight melaporkan lonjakan diskusi tentang penggunaan agen otonom di forum penjahat siber.
Fagerland mengatakan dia sebelumnya berasumsi bahwa agen peretasan yang didukung AI akan memerlukan setidaknya beberapa tingkat pengawasan manusia agar berhasil melakukan intrusi kompleks.
Namun, kampanye yang dia amati menunjukkan bahwa teknologi telah berkembang melampaui ekspektasi tersebut.
“Perkembangan di bidang ini sangat mencengangkan,” katanya.