JURNAL IT - Grok Imagine baru saja diluncurkan minggu lalu dan langsung mencatat lebih dari 34 juta gambar dalam satu hari pertama operasinya, sebagian besar menampilkan konten seksual eksplisit yang dibuat dari wajah tokoh terkenal perempuan.
Paket berbayar Grok memberi akses mode spicy yang mampu menghasilkan visual dari gestur sugestif hingga nudity atau ketelanjangan, tanpa filter berarti untuk mencegah pembuatan gambar tokoh publik secara nonkonsensual.
Mode ini diluncurkan berbarengan dengan fitur video dan chatbot romantis bernama Valentine, membuat layanan ini tampak kontras dengan tren internet global yang justru semakin membatasi ruang untuk konten seksual.
Bulan lalu Inggris menerapkan kewajiban verifikasi usia untuk mengakses konten dewasa, kebijakan ini memaksa platform seperti X milik Musk memblokir konten seksual untuk pengguna di bawah 18 tahun.
Pada periode yang hampir bersamaan, kelompok aktivis Collective Shout menekan platform game seperti Steam dan Itch.io untuk menghapus konten dewasa, langkah yang membuat banyak kreator independen kehilangan sumber pendapatan.
Di Amerika Serikat, Take It Down Act sebenarnya sudah melarang publikasi konten intim tanpa persetujuan, namun hukum ini tidak jelas mendefinisikan istilah publikasi dan cakupan platform, sehingga layanan seperti Grok sulit dijerat jika hasilnya hanya dapat dilihat pembuatnya sendiri.
Mary Anne Franks yang memimpin Cyber Civil Rights Initiative menilai kelemahan definisi tersebut menjadi pintu lolosnya perusahaan besar dari sanksi, apalagi bila memiliki hubungan bisnis strategis dengan pemerintah.
 |
| Beberapa gambar AI Taylor Swift menggambarkan kemiripannya lebih baik daripada yang lain, tetapi Grok menghasilkan banyak pilihan. |
xAI, perusahaan Musk yang mengoperasikan Grok, baru saja mengantongi kontrak hingga Rp3,24 triliun dengan Departemen Pertahanan AS, faktor yang memperkuat posisi tawarnya di hadapan regulator.
Pengalaman sebelumnya menunjukkan bahwa perusahaan teknologi besar sering kali lolos dari sanksi, sementara platform kecil lebih cepat ditindak ketika melanggar kebijakan konten seksual.
Tekanan serupa juga terjadi di Indonesia, di mana pembuat konten dewasa dan kreator game dengan unsur seksual kerap terhalang aturan distribusi atau tekanan dari penyedia pembayaran.
Jika tren global ini terus berlangsung, ruang aman untuk edukasi seksual dan karya seni dengan tema kedewasaan akan semakin menyempit, namun teknologi pembuatan deepfake justru akan semakin canggih dan mudah diakses.
Kondisi ini memunculkan paradoks internet 2025, di mana seks secara umum ditekan, tetapi kekuatan politik dan finansial mampu menjadikannya komoditas yang menguntungkan meskipun mengandung risiko besar bagi privasi dan keselamatan korban.
Selain Apple yang menjadi salah satu pengendali utama aplikasi di iOS, perusahaan ini kerap memaksa platform besar dan kecil untuk menyensor konten NSFW demi mematuhi kebijakan internal.
Apple sebelumnya melarang aplikasi kecil yang membuat AI-generated nudes atau gambar telanjang buatan AI dari orang nyata, namun tidak jelas apakah tekanan yang sama akan diberikan pada Grok Imagine yang justru meluncurkan layanan videonya secara eksklusif di iOS.
Hubungan Apple dan Musk menunjukkan pola tarik-ulur kebijakan, di mana Apple pernah menarik iklannya dari platform X karena konten ekstrem, tetapi kemudian mengembalikannya setelah negosiasi.
Di sisi lain, perusahaan pemroses pembayaran dan bank juga berperan besar dalam menentukan kebijakan konten, seperti yang pernah terjadi pada OnlyFans dan Pornhub yang dipaksa mengubah kebijakan demi mempertahankan layanan pembayaran.
Sebagian tekanan itu memang dilatarbelakangi masalah nyata seperti distribusi konten ilegal, namun dalam banyak kasus, penegakan aturannya tidak konsisten dan cenderung bergantung pada besarnya tekanan publik serta kekuatan politik pihak yang terlibat.
Khusus untuk Indonesia, pola tekanan dari perusahaan besar seperti Apple atau penyedia pembayaran bisa berdampak pada aplikasi lokal yang berisiko terhapus dari pasar jika tidak mengikuti aturan moderasi global, meskipun konten tersebut legal secara domestik.
Ketidakseimbangan inilah yang membuat janji membangun internet lebih aman terasa semu, karena yang terancam justru konten konsensual buatan manusia, sementara teknologi milik konglomerat bisa leluasa menjual konten berisiko tinggi yang secara moral dan hukum diperdebatkan.(*)
0 Komentar