JURNAL IT - Jeffrey Hinton, yang sering dijuluki sebagai Godfather of AI setelah memenangkan Hadiah Nobel atas karyanya dalam pembelajaran mesin, kini telah beralih fokus dari pengembangan kecerdasan buatan menjadi pihak yang paling lantang memperingatkan tentang bahayanya.
 |
| Jeffrey Hinton mengingatkan bahaya AI dimasa depan |
Dalam pandangannya, kesadaran akan risiko saja tidak cukup, umat manusia harus bertindak segera.
Hinton menyajikan metafora yang meresahkan, "Bayangkan jika sebuah teleskop telah melihat armada invasi alien yang akan tiba di sini sekitar 10 tahun lagi. Kita pasti takut dan mulai melakukan sesuatu".
Menurutnya, situasi yang sama tengah kita hadapi. Kita sedang membangun "alien" ini, tetapi mereka akan tiba dalam waktu sekitar 10 tahun dan mereka akan lebih cerdas dari kita.
Sebagai salah satu ilmuwan komputer yang membantu mewujudkan AI modern, Hinton berada dalam posisi unik untuk mempertimbangkan masa depannya.
Isu sentral yang harus dipikirkan adalah, bagaimana kita akan hidup berdampingan dengan entitas-entitas ini, dan bagaimana kita dapat mengendalikan mereka.
Perlombaan Mendominasi Mengalahkan Keselamatan
Walaupun ada perusahaan besar yang diklaim mengambil serius ancaman eksistensial ini, seperti Anthropic, DeepMind (yang dikelola oleh Demis Hassabis), dan Google (dengan Jeff Dean), kompetisi komersial yang besar tetap menjadi penghalang. Semua pihak ini memahami ancaman tersebut, ketika AI menjadi super cerdas, ia mungkin saja akan menggantikan kita.
Namun, Hinton mengamati bahwa tidak semua perusahaan bertindak sama bertanggung jawab. Ia menilai bahwa Meta tidak bertanggung jawab secara khusus.
Sementara itu, OpenAI yang didirikan dengan tujuan awal untuk bersikap bertanggung jawab"menjadi kurang bertanggung jawab setiap hari," terbukti dengan perginya peneliti keselamatan terbaik mereka.
Ketika Hinton mengangkat isu keselamatan kepada beberapa pihak di perusahaan-perusahaan AI tersebut, sering kali jawabannya adalah, "Jangan khawatir, kami memiliki ilmuwan komputer hebat yang menguasai ini. Kita masih jauh dari bahaya nyata, dan para ilmuwan kita akan tahu secepatnya".
Ini mencerminkan masalah mendasar, perusahaan-perusahaan tersebut jauh lebih peduli pada perlombaan untuk menjadi dominan daripada keselamatan umat manusia atau bahkan kelangsungan masyarakat jika terjadi pengangguran besar-besaran.
Metode Kontrol yang Salah
Hinton menegaskan bahwa saat ini, baik perusahaan besar maupun pemerintah memiliki metode yang salah mengenai cara mengendalikan AI super cerdas.
Metode dasar mereka adalah, "Saya adalah CEO, dan AI super cerdas ini adalah asisten eksekutif yang sangat pintar. Saya bos, saya bisa memecatnya".
Metode ini fatal, karena AI tersebut akan lebih pintar dan lebih kuat dari kita.
Sebaliknya, Hinton mengusulkan satu-satunya metode yang terbukti di mana entitas yang kurang cerdas dapat mengendalikan entitas yang lebih cerdas, Bayi yang mengendalikan Ibu.
Evolusi telah bekerja keras untuk memungkinkan bayi mengendalikan ibunya, di mana sang ibu sering kali lebih peduli pada bayi daripada dirinya sendiri.
Untuk berkoeksistensi dengan kecerdasan super, kita harus menerima bahwa "kita adalah bayinya dan mereka adalah ibunya".
Namun, Hinton pesimis bahwa para "tech bros" (pemimpin teknologi) akan menerima model ini, karena cara pandang mereka terhadap dunia tidak seperti itu.
Investasi Triliunan Memicu Pengangguran Massal
Sejak setahun terakhir, jumlah uang yang diinvestasikan ke dalam AI sangat besar, Hinton memperkirakan mencapai triliunan jika dijumlahkan dari semua perusahaan.
Meskipun sebagian didorong oleh ego (keinginan untuk menjadi yang pertama melakukannya, bahkan jika itu "akan membunuh kita semua"), motivasi utamanya adalah keuntungan.
"Kekhawatiran saya adalah bahwa cara yang jelas untuk menghasilkan uang darinya, selain membebankan biaya untuk menggunakan chatbot, adalah dengan menggantikan pekerjaan," jelas Hinton.
Satu-satunya cara membuat perusahaan lebih menguntungkan adalah mengganti pekerja dengan sesuatu yang lebih murah.
Hinton meyakini bahwa mustahil investasi triliunan dolar AI ini dapat membuahkan hasil tanpa menghancurkan pekerjaan.
Beberapa pengamat ekonomi berpendapat bahwa perubahan teknologi besar selalu menciptakan pekerjaan baru, namun Hinton skeptis bahwa kali ini akan sama.
Pekerjaan yang dulunya digantikan oleh Revolusi Industri (seperti penggali parit yang beralih ke pusat panggilan/call center) kini juga akan hilang karena AI.
Solusi, Kolaborasi Global dan Krisis Mendesak
Ada sedikit kabar baik, semua negara bahkan Partai Komunis Tiongkok dan mantan Presiden Trump (sebagai stand-in untuk pemimpin AS) sejalan dalam hal tidak ingin AI mengambil alih manusia.
Kolaborasi global untuk mencegah pengambilalihan AI sangat mungkin dilakukan.
Meskipun demikian, AI bukanlah "senjata nuklir yang hanya baik untuk hal-hal buruk". AI dapat mendatangkan manfaat luar biasa di bidang kesehatan dan pendidikan, serta meningkatkan produktivitas industri.
Masalahnya, manfaat ini terdistorsi oleh cara masyarakat diorganisir, sehingga "Musk akan semakin kaya dan banyak orang akan menganggur, dan Musk tidak akan peduli".
Hinton menyimpulkan bahwa yang dibutuhkan dunia adalah rasa urgensi.
Ia mencontohkan Krisis Rudal Kuba untuk senjata nuklir. Beberapa pihak berpendapat bahwa harapan terbaik kita adalah membiarkan AI mencoba mengambil alih dan gagal.
Kita membutuhkan sesuatu yang benar-benar menakutkan, seperti "Chernobyl untuk AI".
Peristiwa semacam itu mungkin memaksa perusahaan besar untuk mencurahkan lebih banyak sumber daya, misalnya sepertiga dari sumber daya mereka, untuk memastikan AI aman.
Membayangkan hubungan kita dengan AI super cerdas seperti bayi yang mengendalikan ibu adalah pengakuan bahwa kita harus melepaskan gagasan lama tentang kontrol absolut.
Jika kita melihat AI sebagai raksasa intelektual, kita harus meniru bagaimana makhluk yang lemah (bayi) dapat memanipulasi dan memprioritaskan perhatian makhluk yang kuat (ibu) melalui mekanisme evolusioner yang dalam, sebuah kontrol yang didasarkan bukan pada kekuasaan, melainkan pada kebutuhan dan ketergantungan yang telah diprogram secara naluriah.(*)
0 Komentar