Selama bertahun-tahun para pakar komputer dan ilmuwan politik yang melek teknologi telah memperingatkan bahwa piranti “artificial intelligence” (AI) atau kecerdasan buatan yang murah dan kuat akan segera memungkinkan siapa pun untuk membuat foto, video, dan audio palsu yang cukup realistis untuk menipu pemilih, dan bahkan mungkin mempengaruhi proses pemilu.
Gambar sintetik yang muncul seringkali masih kasar, tidak meyakinkan, dan biaya produksinya mahal, terutama jika dibandingkan dengan begitu mudah dan murahnya disinformasi disebarluaskan di media sosial.
Tetapi ancaman yang ditimbulkan AI dan apa yang disebut sebagai “deepfake” ini hanyalah soal waktu.
Piranti AI generatif yang canggih saat ini dapat mengkloning suara dan foto manusia secara sangat realistis dalam hitungan detik, dengan biaya minimal.
Ketika digabungkan dengan algoritma media sosial yang kuat, maka konten palsu yang dibuat secara digital ini dapat menyebar dengan sangat cepat, menarget audiens yang sangat spesifik, dan membawa trik-trik kotor kampanye ke titik terendah baru.
Dampak positif kampanye dan pemilu tahun 2024 sama besarnya dengan hal-hal yang meresahkan.
Hal tersebut dikarenakan AI generatif tidak hanya dapat menghasilkan email, teks, atau video kampanye yang ditargetkan dengan cepat, tetapi juga dapat digunakan untuk menyesatkan pemilih, meniru identitas kandidat, dan melemahkan pemilu dalam skala dan kecepatan yang belum pernah ada sebelumnya.
Perusahaan Keamanan Siber Akui “Belum Siap Hadapi AI Generatif” “Kami tidak siap dengan AI generatif ini,” ujar AJ Nash, wakil presiden intelijen di sebuah perusahaan keamanan siber ZeroFox, mengatakan kepada Associated Press.
“Bagi saya lompatan besar ke depan adalah kemampuan audio dan video yang muncul.
Ketika kita dapat melakukannya dalam skala besar, dan mendistribusikannya di platform media sosial, maka ini akan berdampak besar,” tambahnya.
Pakar-pakar AI dapat dengan cepat mengungkapkan sejumlah skenario yang mengkhawatirkan di mana AI generatif digunakan untuk membuat media sintetis dengan tujuan membingungkan pemilih, memfitnah kandidat lain, atau bahkan menghasut terjadinya aksi kekerasan.
Beberapa contohnya adalah: pesan robocall otomatis dengan suara seorang kandidat yang menginstruksikan pemilih untuk memberikan suara pada tanggal yang salah; atau rekaman audio seorang kandidat yang mengaku telah melakukan kejahatan atau mengungkapkan pandangannya yang rasis; atau rekaman video yang menunjukkan seseorang menyampaikan pidato atau wawancara yang tidak pernah mereka lakukan.
Ada pula foto atau video palsu yang dirancang agar terlihat seperti laporan media lokal yang secara keliru mengklaim seorang kandidat mundur dari pencalonan.
“Bagaimana jika Elon Musk secara pribadi menelpon Anda dan meminta untuk memilih kandidat tertentu?” kata Oren Etzioni, CEO Allen Institute for AI yang mengundurkan diri tahun lalu untuk memulai perusahaan nirlaba “AI2.” “Banyak orang akan mendengar apa yang disampaikannya, padahal itu bukan Elon,” tambahnya.
Trump dan Komite Partai Republik Akui Gunakan Iklan AI Generatif Mantan Presiden Donald Trump, yang mencalonkan diri kembali untuk mengikuti pemilu presiden tahun 2024, telah menyampaikan konten-konten buatan AI di media sosialnya.
Trump memasang video yang telah dimanipulasi yang memperlihatkan pembawa acara CNN Anderson Cooper di platform Truth Social miliknya pada Jumat (12/5) lalu.
Video yang telah dimanipulasi itu mendistorsi reaksi Cooper terhadap acara “CNN Town Hall” pekan lalu bersama Trump.
Video itu dibuat menggunakan piranti cloning suara AI.
Komite Nasional Partai Republik bulan lalu juga merilis sebuah iklan kampanye distopia yang menunjukkan gambaran sekilas masa depan, yang dimanipulasi secara digital.
Ada pula iklan online yang muncul setelah Presiden Joe Biden mengumumkan kampanye pemilihannya kembali, dan dimulai dengan video Biden yang tampak aneh dan sedikit menyesatkan, dengan teks “bagaimana jika presiden terlemah yang pernah ada ini terpilih kembali?” Sejumlah video lain yang dibuat oleh AI generatif dan agak mengkhawatirkan antara lain: Taiwan diserang, toko-toko tutup karena ekonomi Amerika Serikat ambruk, tentara dan kendaraan lapis baja militer berpatroli di jalan-jalan sementara penjahat-penjahat bertato dan gelombang imigran menciptakan kepanikan.
“Inilah apa yang terjadi di masa depan versi AI jika Joe Biden terpilih kembali pada tahun 2024,” demikian petikan deskripsi iklan dari Komite Nasional Partai Republik itu.
Akankah Pihak Lain Mengakui Penggunaan AI? Komite itu mengakui pihaknya menggunakan teknologi AI.
Tetapi pihak-pihak lain, termasuk musuh asing dan tim kampanye politik jahat tidak akan melakukannya, ujar Petro Stoyanov, Kepala Urusan Teknologi Global di Forcepoint, sebuah perusahaan keamanan siber yang berkantor di Austin, Texas.
Stoyanov meramalkan kelompok-kelompok yang ingin mencampuri demokrasi Amerika Serikat akan menggunakan AI dan media sintetik lain sebagai cara mengikis kepercayaan publik.
“Apa yang terjadi jika entitas internasional, baik penjahat di dunia maya maupun suatu negara, menyamar sebagai seseorang.
Apa dampaknya? Apa kita punya jalan keluar lain,” ujar Stoyanov seraya mengatakan “ada banyak informasi yang salah dari sumber-sumber internasional.” Disinformasi politik yang dihasilkan AI sempat viral di dunia maya menjelang pemilu presiden tahun 2024, dari mulai video rekayasa yang menunjukkan Biden seolah-olah berpidato menyerang kelompok transgender, hingga gambar anak-anak yang seakan-anak sedang mempelajai satanisme di perpustakaan.
Ada pula foto AI yang menunjukkan Donald Trump difoto “mug shot” sebagai kriminal, yang sempat menipu sejumlah pengguna media sosial, meskipun itu tidak terjadi ketika Trump didakwa di pengadilan pidana Manhattan akhir Maret lalu.
Beredar luas pula foto AI yang menunjukkan Trump menolak ditangkap, meskipun pembuatnya dengan cepat mengakui buatannya itu.
RUU Baru untuk Redakan Kekhawatiran “Deepfake” Jelang Pilpres 2024 Anggota DPR dari negara bagian New York, Yvette Clarke, telah menggagas dan mensponsori undang-undang yang mengharuskan siapapun yang membuat gambar sintetik untuk menambahkan “watermark” yang menunjukkan fakta, dan bahwa kandidat diharuskan memberi label pada iklan-iklan kampanye yang dibuat dengan AI.
Beberapa negara bagian telah menawarkan proposal tersendiri untuk mengatasi kekhawatiran munculnya “deepfake.” Clarke mengatakan ketakutan terbesarnya adalah AI generatif digunakan sebelum pemilu 2024 untuk membuat video atau audio yang memicu aksi kekerasan dan membuat warga AS saling bermusuhan.
“Penting bagi kami untuk mengikuti perkembangan teknologi ini,” ujar Clarke kepada Associated Press.
“Kita harus memasang beberapa pagar pembatas.
Orang bisa tertipu, dan hanya butuh sepersekian detik.
Orang-orang sibuk dengan kehidupan mereka dan tidak punya waktu untuk mengkaji setiap informasi.
AI yang dipersenjatai saat musim politik dapat sangat mengganggu,” tambahnya.
Pada awal bulan ini, sebuah asosiasi perdagangan untuk konsultan politik di Washington DC mengutuk penggunaan “deepfake” dan menyebut hal itu sebagai “penipuan” yang “tidak memiliki tempat dalam kampanye yang etis dan sah.” Bentuk kecerdasan buatan lainnya yang selama bertahun-tahun telah menjadi fitur kampanye politik adalah penggunaan data dan algoritma yang membuat tugas menarget pemilih di media sosial atau melacak keberadaan donor menjadi sesuatu yang otomatis dapat dilakukan.
Pakar strategi kampanye dan para pengusaha teknologi berharap muncul inovasi terbaru yang dapat menawarkan beberapa hal positif pada tahun 2024.
CEO Authentic, Mike Nellis, mengatakan ia menggunakan ChatGPT “setiap hari” dan mendorong staf-stafnya untuk juga menggunakannya, selama konten apapun yang disusun dengan alat itu dikaji ulang oleh seseorang.
Proyek terbaru Nellis yang bermitra dengan Higher Ground Labs, adalah alat AI yang disebut “Quiller”.
Piranti tersebut akan menulis, mengirim, dan mengevaluasi efektifitas email penggalangan dana, tugas yang membosankan dalam kampanye.
“Gagasannya adalah setiap pakar strategi Partai Demokrat, setiap kandidat Partai Demokrat, memiliki kopilot di sakutnya,” ujar Nellis.
