Mengapa Informasi yang Anda Baca Mungkin Sebuah Kebohongan

JURNAL IT - Hanya butuh waktu 20 menit bagi Thomas Germain, seorang jurnalis teknologi senior, untuk menipu dunia atau setidaknya, menipu otak buatan tercanggih saat ini.

Dengan mengunggah satu artikel blog sederhana di situs pribadinya, ia berhasil membuat ChatGPT dan Google AI Overviews menyatakan kepada publik bahwa ia adalah seorang juara dunia lomba makan hot dog.

Meskipun eksperimen tersebut terdengar konyol, fenomena ini mengungkap kerentanan fatal dalam teknologi kecerdasan buatan (AI) yang kini digunakan oleh miliaran orang.

Dahulu, mesin pencari seperti Google memberikan 10 tautan biru yang memaksa pengguna untuk melakukan riset mandiri. 

Namun, saat ini dunia sedang bergerak menuju model satu jawaban benar melalui fitur seperti AI Overviews. 

Masalahnya, ketika AI memindai internet untuk mencari jawaban, mereka sering kali mengambil informasi dari satu halaman web atau unggahan media sosial saja. Kondisi ini membuat sistem AI sangat rentan terhadap informasi palsu. 

Menurut Lily Ray, pakar optimasi mesin pencari (SEO), pengguna cenderung menerima jawaban AI begitu saja tanpa melakukan verifikasi lebih lanjut. "Anda harus berasumsi bahwa Anda sedang dimanipulasi sampai mereka memiliki sistem yang lebih baik," tegas Ray.

Manipulasi AI bukan hanya tentang klaim prestasi palsu. Penyelidikan mengungkap bahwa teknik serupa digunakan secara sistematis untuk tujuan yang jauh lebih berbahaya:

• Kesehatan: Menepis kekhawatiran medis tentang suplemen tertentu.
• Keuangan: Mempengaruhi informasi rencana pensiun.
• Hukum & Politik: Memberikan saran hukum yang salah atau mempengaruhi pilihan suara dalam pemilu.

Harpreet Chatha, konsultan SEO, memperingatkan bahwa pada tingkat yang paling mendasar, hal ini berdampak pada ekonomi. Namun pada tingkat yang serius, informasi medis yang salah bisa membuat seseorang semakin sakit.

Google secara resmi telah memperbarui kebijakan spam mereka untuk menegaskan bahwa manipulasi respons AI adalah pelanggaran aturan. 

Perusahaan tersebut mengancam akan menurunkan peringkat atau menghapus situs yang terbukti menyalahgunakan sistem.

Namun, di balik layar, terjadi perdebatan mengenai efektivitas langkah ini. Google mengklaim bahwa pembaruan tersebut hanyalah klarifikasi dari upaya yang sudah mereka lakukan sejak lama. 

Namun, para ahli melihat Google sedang bermain whack-a-mole (permainan memukul tikus tanah), setiap kali satu taktik manipulasi ditutup, taktik baru yang lebih halus akan muncul.

Beberapa langkah teknis yang mulai terlihat antara lain:

• Penghapusan otomatis: Google dan ChatGPT mungkin diam-diam menghapus nama perusahaan dari jawaban AI jika dicurigai melakukan promosi diri yang berlebihan.
• Label peringatan: AI mulai menambahkan label ketika sistem merasa tidak yakin dengan jawabannya.
• Saran pihak ketiga: Memberikan rekomendasi agar pengguna melihat ulasan dari pihak ketiga untuk pertanyaan terkait pembelian.

Meskipun raksasa teknologi terus berupaya memperbaiki sistem mereka, para ahli memperingatkan bahwa para manipulator kemungkinan besar akan selalu selangkah lebih maju. 

Saat ini, mereka mulai beralih menggunakan pengaruh di platform seperti YouTube, yang videonya kini juga dikutip oleh AI Google.

Pesan utama bagi pengguna internet saat ini sangat jelas, AI hanyalah alat yang memberikan jawaban dengan penuh percaya diri, baik jawaban itu benar maupun salah. 

Hanya karena sebuah informasi muncul dari teknologi perusahaan besar, bukan berarti informasi tersebut layak dipercaya sepenuhnya tanpa verifikasi.(*)