Network
EDITORNEWS.ID - Lebih dari 1.100 profesional sepakat bahwa perlombaan antara peneliti menimbulkan 'risiko besar bagi masyarakat dan kemanusiaan'
Lebih dari 1.100 peneliti AI, tokoh teknologi, dan futuris lainnya telah menandatangani surat terbuka yang menuntut moratorium enam bulan pada "eksperimen AI raksasa" sejak diposting oleh lembaga nirlaba Future of Life Institute pekan lalu.
Penandatangan surat itu termasuk CEO Tesla Elon Musk, salah satu pendiri Apple Steve Wozniak, dan sejarawan transhumanis Yuval Noah Harari.
Korespondensi tersebut memperingatkan bahwa "sistem AI dengan kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan."
Ini juga menegaskan bahwa teknologi yang berkembang pesat harus "direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan," daripada membiarkan "ras di luar kendali untuk mengembangkan dan menyebarkan pikiran digital yang semakin kuat yang tidak dapat dipahami, diprediksi, atau dikendalikan oleh siapa pun – bahkan penciptanya – dengan andal."
Baca Juga: Zelensky Akui Ketakutan Akan Pergeseran Konstelasi Politik di Amerika Serikat
Daripada mengambil risiko kehilangan kendali atas teknologi yang berpotensi mengakhiri peradaban, pemangku kepentingan di bidang AI harus "bersama-sama mengembangkan dan menerapkan serangkaian protokol keselamatan bersama untuk desain AI tingkat lanjut dan pengembangan yang diaudit dan diawasi secara ketat oleh para ahli luar yang independen," saran lembaga tersebut, menghentikan sementara pengembangan sampai protokol tersebut diterapkan.
"Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya akan dapat dikelola," lanjut surat tersebut, sementara pengembang harus memfokuskan kembali energi mereka pada "membuat sistem canggih yang kuat saat ini lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, dapat dipercaya, dan setia."
Jika pengembang tidak dapat mengatur diri mereka sendiri, pemerintah harus turun tangan, menciptakan badan pengatur yang mampu mengendalikan sistem pelarian, mendanai penelitian keselamatan, dan melunakkan pukulan ekonomi ketika sistem super cerdas mulai melahap pekerjaan manusia.
Baca Juga: Pentagon Mengalihkan Drone Mata-Matanya di Laut Hitam setelah Pertemuan dengan Jet Rusia
Musk telah lama memperingatkan tentang bahaya AI, memprediksi pada tahun 2020 bahwa singularitas – titik di mana kecerdasan mesin melampaui kecerdasan manusia – akan tiba pada tahun 2025 dan bahwa manusia berisiko berakhir sebagai hewan peliharaan superkomputer.
Dia awalnya mengusulkan antarmuka otak-komputer Neuralink sebagai alat untuk memberi umat manusia keunggulan kompetitif melawan AI.
Miliarder itu juga salah satu pendiri OpenAI, perusahaan di balik terobosan model bahasa besar ChatGPT. Namun, ia meninggalkan perusahaan pada tahun 2018, menolaknya sebagai usaha pemerahan keuntungan yang dikooptasi oleh Microsoft.
Saingan Musk (dan pendiri Microsoft) Bill Gates, yang namanya tidak ada dalam surat terbuka pada hari Rabu, 29 Maret 2023, telah merangkul OpenAI, baru-baru ini menyatakan bahwa "Zaman AI telah dimulai." ChatGPT sekarang mendukung mesin pencari Bing Microsoft.***
