Manipulasi Politik dalam Era Deepfake dan Kecerdasan Buatan

JURNAL IT - Politikus dan selebriti seperti Taylor Swift, Presiden AS Joe Biden, dan Walikota London Sadiq Khan telah menjadi korban dari teknologi deepfake yang semakin canggih.

Dalam beberapa bulan terakhir, deepfake telah menyebar dengan cepat di media sosial, menciptakan gelombang ketidakpercayaan dan membingungkan batas antara realitas dan fiksi yang seringkali jahat. 

Sebuah video kampanye Deepfake mantan Presiden Soeharto, yang meninggal Januari 2008, digunakan untuk mendukung salah satu pasangan capres dan cawapres pada pemilu Februari 2024

Namun, apa yang terjadi ketika politikus menggunakan teknologi deepfake untuk kepentingan mereka sendiri?

Di kota New York, tempat politisi mulai memanipulasi realitas dengan teknologi deepfake. Wali Kota New York, Eric Adams, mengungkapkan dalam konferensi pers akhir tahun lalu bahwa ia menggunakan teknologi deepfake untuk melakukan serangkaian panggilan otomatis kepada warga New York. 

Tindakan ini menciptakan kegemparan di berbagai kalangan, dengan seorang advokat hak asasi manusia dan privasi, Albert Fox Cahn, menyatakan bahwa penggunaan AI oleh Adams menciptakan contoh yang berpotensi membuka pintu bagi bahaya serupa di masa mendatang. 

Menormalisasi penggunaan teknologi deepfake untuk menyampaikan pengumuman pemerintah menunjukkan bahwa masyarakat seharusnya mempercayai apa yang mereka dengar dari deepfake, yang dapat merusak kepercayaan pada pemerintah dan lembaga-lembaga.

Penggunaan teknologi ini dalam politik semakin meningkat di seluruh dunia, dengan contoh menonjol di India dan Indonesia. 

Di India, seorang kandidat dari partai penguasa menggunakan teknologi serupa untuk berbicara dalam dialek regional yang sebenarnya tidak dikuasainya. Namun, partainya menolak penggunaan tersebut. 

Sementara itu, dalam pemilihan Indonesia, muncul avatar seorang pemimpin sebelumnya yang sudah meninggal secara sintetis untuk mendukung salah satu kandidat. 

Masing-masing kandidat juga menggunakan gambar-gambar yang dihasilkan oleh AI untuk memperkuat citra mereka sendiri.

Dengan lebih dari dua miliar orang yang akan memberikan suara dalam pemilihan di seluruh dunia tahun ini, penting bagi kita untuk memahami bagaimana teknologi deepfake dapat memengaruhi proses politik dan kepercayaan masyarakat. 

Penggunaan deepfake oleh politikus bukan hanya memperkeruh keadaan, tetapi juga dapat menggoyahkan dasar kepercayaan dalam media dan politikus secara lebih luas. 

Maka, penting bagi kita untuk mewaspadai bahaya manipulasi realitas ini demi menjaga integritas demokrasi dan kepercayaan masyarakat pada proses politik.(*)