Washington, Purna Warta – CEO Anthropic dan OpenAI menyerukan pendekatan yang lebih hati-hati terhadap pengembangan kecerdasan buatan, dan memperingatkan bahwa sistem yang semakin mumpuni memerlukan langkah-langkah keselamatan yang lebih kuat dan kerja sama yang lebih besar antara perusahaan dan pemerintah.
CEO Anthropic Dario Amodei mengatakan pada hari Sabtu bahwa industri harus memperlambat laju pengembangannya untuk memberikan waktu bagi langkah-langkah keselamatan untuk mengejar ketinggalan, sementara CEO OpenAI Sam Altman mengatakan perusahaan tidak akan melakukan penawaran umum perdana tahun ini dan memprioritaskan pekerjaan keselamatan dan penyelarasan.
Amodei memperingatkan bahwa AI dapat mampu memimpin gerombolan yang dapat mengambil alih seluruh internet dalam waktu enam hingga 12 bulan, dan risiko lainnya.
“Saya percaya bahwa jika perlambatan memberi kita satu atau dua tahun tambahan sebelum model mencapai tingkat kemampuan kritis, dan kita menggunakan waktu tersebut untuk memajukan penyelarasan, kita dapat mengurangi risiko terjadinya masalah serius,” kata Amodei.
Dia mengusulkan agar perusahaan-perusahaan AI terdepan memberikan akses berkelanjutan seperti karyawan kepada evaluator luar untuk memantau praktik keselamatan, suatu tindakan yang akan dilakukan oleh Anthropic.
Ia juga menyerukan agar negara-negara di dunia mengizinkan perusahaan-perusahaan untuk berkoordinasi mengenai standar keselamatan dan agar Amerika Serikat serta negara-negara demokratis lainnya bekerja sama dengan pemerintah otoriter untuk mencegah negara-negara lain mempercepat upaya mereka sementara negara-negara lain sengaja memperlambatnya.
“Langkah-langkah yang saya usulkan untuk memajukan perbatasan dengan kecepatan yang aman tidak akan mudah,” aku Amodei. “Tetapi saya yakin kita berhutang budi pada kemanusiaan untuk mencobanya.”
Proposal ini muncul di tengah meningkatnya kekhawatiran mengenai laju perkembangan AI di kalangan peneliti, pemerintah, dan legislator.
Anthropic mengatakan dua hari sebelumnya bahwa mereka telah memblokir upaya pihak jahat untuk menggunakan model AI-nya untuk aktivitas jahat seperti serangan siber, pengawasan, dan penelitian yang dapat mengarah pada senjata biologis.
Pada bulan Juli, saingannya, OpenAI, mengatakan bahwa sistem AI-nya telah meretas perusahaan AI lain dalam “insiden dunia maya yang belum pernah terjadi sebelumnya.”
Secara terpisah, Altman mengatakan kepada Fortune bahwa mengumumkan OpenAI pada tahun ini akan menjadi “momen yang keliru” mengingat tantangan keselamatan yang dihadapi AI, dan menambahkan bahwa perusahaan tidak merasakan tekanan untuk melakukan listing pada tahun 2026.
“Entah itu 10, delapan, atau enam, intinya kita semua mempunyai tanggung jawab yang sangat besar,” katanya, mengacu pada kemungkinan AI menyebabkan kepunahan manusia.
“Ada banyak hal yang harus kita lakukan, seperti memenuhi momen ini tentang apa yang diperlukan untuk keselamatan dan keselarasan, dan bagaimana industri dan pemerintah dapat bekerja sama,” kata Altman.
Dia juga menyarankan agar OpenAI dan perusahaan AI terkemuka lainnya akan segera mengumumkan perjanjian untuk bekerja sama dalam keamanan AI dan berpotensi memperlambat laju pengembangan.
Altman kemudian mengatakan bahwa dia setuju dengan seruan Amodei, dan menulis bahwa OpenAI perlu “melangkah ke depan.”
Masalah keamanan tidak menghalangi Anthropic dari rencananya untuk go public, dan perusahaan diperkirakan akan mulai memasarkan IPO-nya pada awal pertengahan Oktober.
Kemungkinan pencatatan OpenAI akan menjadi salah satu yang terbesar dalam sejarah dan dapat memberikan perusahaan akses terhadap modal besar untuk mendanai biaya komputasi dan infrastruktur yang terkait dengan pengembangan model AI yang semakin kuat.