Vatican City, Purna Warta – Paus Francis mengedarkan himbauan bahaya terkait bahaya potensial deepfake dari AI, mengatakan pesatnya perkembangan teknologi bisa berujung pada distorsi realita tanpa regulasi etik.
Dalam pesan panjang yang dipublikasikan pada Rabu (24/01) mengatakan bahwa perkembangan terkini AI mengesankan sekaligus membingungkan serta memunculkan pertanyaan yang lebih dalam mengenai relasi manusia dan teknologi. “bagaimana kita bisa untuk tetap seutuhnya manusia dan membimbing transformasi kultural ini untuk melayani tujuan yang baik” tulis Paus.
Baca Juga : Vandalisme di Melbourne, Patung Kapten Cook Australia Dirusak
“Sistem kecerdasan buatan bisa membantu melampaui ketidaktahuan dan memfasilitasi dalam tukar menukar informasi antar generasi dan masyarakat” tulis Paus. “akan tetapi, di waktu yang sama ia juga bisa menjadi polusi kognitif, distorsi realita dengan menggunakan narasi setengah palsu atau sepenuhnya palsu yang dipercaya serta disebarkan seolah-olah benar”.
Paus melanjutkan dengan mengutip “masalah disinformasi yang berkepanjangan dalam bentuk berita palsu” menyebutkan bahwa ia sendiri menjadi korban deepfake – gambar atau audio hasil AI yang sangat meyakinkan biasa dibuat untuk meniru publik figur.
“teknologi simulasi dibalik program-program ini bisa sangat bermanfaat di beberapa bidang tertentu, tapi ia juga bisa menjadi berbahaya ketika mengaburkan hubungan kita dengan orang lain atau dengan realita yang ada” lanjut Paus.
Pemimpin gereja ini ditampilkan menggunakan gambar buatan pada tahun lalu menggunakan jaket modis panjang. Gambar palsu itu dilaporkan dibuat menggunakan Midjourney, sebuah alat seni berbasis AI menurut penciptanya. Gambar itu menjadi viral di media sosial menipu banyak pengguna.
Baca Juga : Mogok Kerja Nasional, Warga Argentina Lawan Reformasi Penghematan Milei
Ketika orang-orang harus “mengesampingkan prediksi bahayanya” terkait masa depan AI, Francis membantah bahwa teknologi tersebut “berujung menciptakan kasta baru berdasarkan informasi” dan menimbulkan “eksploitasi dan ketidakadilan bentuk baru” untuk menghindari hasil terburuk, ia menekankan terhadap butuhnya “pemahaman, penghargaan dan regulasi instrumen yang akan memunculkan skenario mengerikan jika berada ditangan yang salah”
“seperti produk kecerdasan dan kemampuan manusia lainya, algoritma tidaklah netral. Atas dasar ini, perlu adanya tindakan preventatif dengan menawarkan model regulasi etik, untuk mencegah bahaya, diskriminasi dan ketidakadilan sosial yang merupakan efek dari penggunaan sistem kecerdasan buatan sekaligs untuk melawan penyalahgunaan.” Ia mengatakan sembari menyeru “perjanjian internasional” mengawasi penggunaan dan pengembangan AI.