Dalam video palsu yang telah menjadi viral online, dua aktor Bollywood papan atas India terlihat mengkritik Perdana Menteri Narendra Modi dan meminta orang untuk memilih partai oposisi Kongres dalam pemilihan umum yang sedang berlangsung di negara itu.
Dalam video 30 detik yang menunjukkan Aamir Khan dan klip 41 detik lainnya dari Ranveer Singh, dua aktor Bollywood konon mengatakan Modi gagal menepati janji kampanye dan gagal mengatasi masalah ekonomi kritis selama dua masa jabatannya sebagai perdana menteri.
Kedua video yang dihasilkan AI diakhiri dengan simbol dan slogan pemilihan Kongres: “Pilih Keadilan, Pilih Kongres”.
Kedua video tersebut telah dilihat di media sosial lebih dari setengah juta kali sejak pekan lalu, sebuah tinjauan Reuters menunjukkan.
Penyebarannya menggarisbawahi peran potensial yang dapat dimainkan oleh konten yang dihasilkan AI (kecerdasan buatan) dalam pemilihan India raksasa yang dimulai pada hari Jumat dan akan berlanjut hingga Juni. AI dan deepfake yang dihasilkan AI, atau deepfake, semakin banyak digunakan dalam pemilihan di tempat lain di dunia, termasuk di AS, Pakistan, dan Indonesia.
Kampanye di India telah lama berfokus pada penjangkauan dari pintu ke pintu dan demonstrasi publik, tetapi penggunaan WhatsApp dan Facebook secara ekstensif sebagai alat kampanye dimulai pada 2019. Pemilihan umum tahun ini – di mana Modi diperkirakan akan mengamankan masa jabatan ketiga yang langka – adalah yang pertama di mana AI digunakan.
Seorang juru bicara Kongres, Sujata Paul, berbagi video aktor Singh dengan 16.000 pengikutnya di X pada 17 April dan pada Sabtu sore, postingannya telah dibagikan ulang 2.900 kali, disukai 8.700 kali dan menerima 438.000 tampilan.
Paul mengatakan kepada Reuters melalui telepon bahwa dia sadar video itu ditandai “media yang dimanipulasi” oleh X, tetapi dia tidak ingin menghapusnya karena, saat memposting, dia pikir orang itu mirip dengan Singh dan “itu pasti memiliki kreativitas”.
Postingan itu tidak lagi terlihat di X pada hari Minggu, beberapa jam setelah Reuters mengirim permintaan komentar kepada kepala sel media sosial Kongres, yang tidak menanggapi.
Kedua aktor mengatakan video itu palsu. Facebook, X dan setidaknya delapan situs pengecekan fakta mengatakan mereka diubah atau dimanipulasi, yang juga dikonfirmasi oleh unit verifikasi digital Reuters.
Reuters tidak dapat memastikan siapa yang membuat video tersebut. Khan “khawatir” dengan video “palsu” yang viral dan tim Singh sedang menyelidiki masalah ini, menurut juru bicara kedua aktor. Singh menulis di X pada hari Jumat: “Waspadalah terhadap deepfake, teman-teman”.
Kantor Modi, dan kepala IT Partai Bharatiya Janata-nya, tidak menanggapi permintaan komentar.
Penyelidikan polisi
Hampir 900 juta orang di India memiliki akses ke Internet dan survei yang dilakukan oleh organisasi riset Esya Centre dan sekolah bisnis Indian Institute of Management menunjukkan rata-rata orang India menghabiskan lebih dari tiga jam sehari di media sosial. Negara ini memiliki hampir satu miliar pemilih.
[[nid:679968]]
Beberapa versi video telah diblokir di media sosial tetapi setidaknya 14 masih terlihat di X pada hari Sabtu. Facebook menghapus dua video yang ditandai Reuters ke perusahaan tetapi satu lainnya masih terlihat.
Facebook dalam sebuah pernyataan mengatakan telah “menghapus video” karena melanggar kebijakannya. X tidak menanggapi pertanyaan Reuters.
Video-video tersebut telah memicu satu penyelidikan polisi dengan Khan mendaftarkan sebuah kasus di Mumbai terhadap orang-orang yang tidak disebutkan namanya pada 17 April karena dugaan peniruan identitas dan kecurangan karena membuat video palsu.
Polisi Mumbai tidak membalas permintaan komentar, tetapi dua petugas yang menangani kasus Khan, yang menolak disebutkan namanya, mengatakan mereka menulis ke Facebook dan X untuk menghapus video dan perusahaan mengatakan itu sudah selesai.
Para petugas mengatakan mereka bangun sampai jam 2 pagi pada hari Jumat, menyegarkan halaman untuk memeriksa apakah video online Khan telah dihapus. Ditanya tentang kemajuan dalam kasus ini, salah satu dari mereka mengatakan: “Investigasi teknis semacam itu membutuhkan waktu.”
Video AI ayah yang sudah meninggal
Dalam pemilihan tahun ini, politisi menggunakan AI dengan cara lain.
[[nid:679969]]
Di India selatan, juru bicara pemimpin Kongres Vijay Vasanth mengatakan timnya telah membuat klip audio-video 2 menit menggunakan AI yang dibagikan di platform media sosial dan menunjukkan ayahnya yang sekarang sudah meninggal tetapi lebih populer, H. Vasanthakumar, mencari suara untuknya.
Mendiang politisi itu terlihat mengatakan “meskipun tubuhku meninggalkan kalian semua, jiwaku masih ada.”
Dalam video yang dikeluarkan di YouTube oleh Partai Komunis India-Marxis (CPM), Samata, pembawa berita yang dihasilkan AI mengenakan saree tradisional dan berbicara dengan gaya yang meniru saluran berita reguler, mengkritik partai yang berkuasa di negara bagian Benggala Barat.
Dalam satu klip, pembawa acara menuduh partai tersebut tidak peduli dengan lingkungan karena banyak badan air telah lenyap karena konstruksi ilegal.
Seorang juru bicara partai yang berkuasa membantah tuduhan itu dan mengatakan pemerintah negara bagian telah memastikan tidak ada konstruksi seperti itu terjadi. CPM tidak menanggapi permintaan komentar.
Dalam video, yang telah dilihat 12.000 kali, pembawa acara Samata menyatakan: “Ini adalah pertanyaan yang perlu direnungkan oleh warga kota ini.”
BACA JUGA: India memberikan suara dalam pemilihan raksasa saat Modi mencari masa jabatan ketiga yang bersejarah