New York, Purna Warta– Minggu ini jutaan pengguna media sosial menjumpai foto vulgar Taylor Swift yang dibuat menggunakan AI. Banyak pihak menyebutkan pentingnya regulasi bahaya potensial teknologi AI.
Sekretaris media gedung putih Karine Jean-Pierre menyebutkan bahwa mereka khawatir atas apa yang terjadi pada Taylor Swift di internet. Mereka memandang bahwa kongres harus mengambil tindakan legislatif. Ia mengatakan “kami menjadi khawatir dengan laporan-laporan yang ada perihal beredarnya foto tersebut atau lebih tepatnya foto palsu. Dan itu sangatlah meresahkan.
Jean-Pierre melanjutkan “meskipun perusahaan media sosial memiliki keputusan pribadi terkait manajemen konten. Kami meyakini bahwa mereka tetap memiliki peran penting dalam menjalankan aturan mencegah tersebarnya misinformasi dan foto tidak benar maupun tidak senonoh dari orang asli”
Jean-Pierre menyorot beberapa tindakan yang diambil dalam isu terkini seperti: meluncurkan petugas khusus untuk menangani pelecehan online dan Departemen Keadilan meluncurkan saluran 24 jam untuk menolong korban pelecehan seksual berbasis gambar.
Tidak hanya gedung putih, para fans Taylor Swift juga sangat terkejut ketika mengetahui bahwa tidak ada hukum di Amerika yang melarang orang untuk membuat atau menyebarkan foto-foto tidak senonoh berbentuk deepfake atau berbasis AI.
Perwakilan dari Joe Morelle pejabat partai republik mengatakan “kami tentunya berharap berita Taylor Swift ini akan menciptakan momentum dan menumbuhkan dukungan, sebagaimana yang kalian tahu kasus tersebut bisa dianggap sebagai kriminal dan pelanggaran sipil”.
Baca juga: Deepfake berkembang tanpa regulasi etik, paus layangkan himbauan
Bahaya AI
Di tahun-tahun sebelumnya para pengguna membutuhkan skill tertentu untuk mampu membuat sebuah konten berbasis AI. Namun sekarang dengan kemajuan teknologi hanya dengan mendownload aplikasi tertentu atau bahkan mengklik sejumlah tombol di internet pengguna bisa membuatnya dengan mudah.
Para pakar mengatakan bahwa kini ada sebuah industri komersial yang bergerak dalam bidang pembuatan dan penyebaran kontent yang memiliki fitur seksual. Sebagian situs yang memproduksi konten-konten palsu ini bahkan memiliki ribuan anggota yang membayar.
Tahun lalu di sebuah kota di Spanyol sejumlah gadis sekolahan mendapat kiriman foto tidak senonoh mereka sendiri yang dibuat dengan mudah menggunakan aplikasi yang juga mudah diakses berbasis AI. Hal ini menimbulkan perdebatan lebih luas terkait bahaya yang bisa ditimbulkan teknologi ini.
Foto tidak senonoh Taylor Swift dibuat menggunakan kecerdasan buatan mengubah teks menjadi gambar atau text-to-image. Sebagian foto disebarkan menggunakan X. Satu postingan screenshot foto tersebut dilaporkan mendapatkan 45 juta penonton sebelum akun tersebut ditangguhkan pada Kamis (25/01). Hari Jum’at (26/01) tim keamanan X sudah sibuk menghapus foto-foto yang teridentifikasi dan mengambil tindakan untuk akun-akun yang bertanggung jawab memasangnya.