Perkembangan Teknologi Kecerdasan buatan (artificial intelligence/AI) yang berlangsung sangat cepat kembali memunculkan kekhawatiran di kalangan ilmuwan. Lebih dari seribu peneliti dan karyawan dari berbagai perusahaan AI ternama menyerukan perlunya langkah nyata untuk memastikan pengembangan teknologi tersebut tetap berada dalam batas yang aman dan dapat di kendalikan.
Melalui sebuah surat terbuka yang di publikasikan di situs Pacing the Frontier. Para penandatangan meminta Pemerintah Amerika Serikat mengambil peran utama dalam membangun sistem pengawasan internasional terhadap AI paling canggih atau frontier AI. Menurut mereka, dunia membutuhkan mekanisme yang memungkinkan laju pengembangan AI di perlambat apabila risikonya di nilai melebihi kesiapan manusia dalam mengelolanya.
Seruan tersebut muncul di tengah meningkatnya kemampuan model AI generasi terbaru yang di nilai berkembang jauh lebih cepat di bandingkan kapasitas pemerintah, regulator, maupun masyarakat dalam memahami dampaknya.
Peneliti Soroti Risiko Perkembangan AI yang Terlalu Cepat
Dalam surat terbuka tersebut, para peneliti menyampaikan bahwa dunia sedang memasuki fase penting dalam sejarah pengembangan kecerdasan buatan. Mereka menilai sejumlah laboratorium AI terdepan semakin dekat dengan kemampuan untuk mengotomatisasi proses penelitian AI itu sendiri.
Apabila kondisi tersebut benar-benar terwujud, percepatan inovasi AI di perkirakan akan meningkat secara signifikan. Situasi itu di khawatirkan menciptakan kesenjangan antara kemajuan teknologi dan kemampuan manusia dalam mengawasi maupun mengendalikannya.
Karena itu, mereka mengusulkan adanya perangkat teknis serta tata kelola global yang memungkinkan pengembangan frontier AI di hentikan atau di perlambat secara terkoordinasi ketika di perlukan.
Menurut para peneliti, mekanisme tersebut penting agar dunia tidak terlambat merespons risiko keamanan. Maupun dampak sosial yang mungkin muncul akibat kemajuan AI yang sangat pesat.
Pemerintah AS Diminta Memimpin Kerja Sama Internasional
Surat terbuka itu secara khusus meminta Pemerintah Amerika Serikat memimpin kolaborasi internasional dalam menyusun standar pengawasan AI.
Para penandatangan berpendapat bahwa tidak ada satu negara maupun perusahaan yang mampu menangani tantangan tersebut sendirian. Oleh sebab itu, di perlukan kesepakatan lintas negara untuk menciptakan sistem pengendalian yang dapat di terapkan secara bersama-sama.
Mereka menilai pendekatan kolektif akan lebih efektif di bandingkan kebijakan yang di jalankan secara terpisah oleh masing-masing negara. Selain itu, koordinasi internasional juga di nilai dapat mengurangi tekanan kompetisi yang selama ini mendorong perusahaan teknologi terus mempercepat inovasi.
Kompetisi Global Menjadi Tantangan Pengendalian AI
Meski mendukung adanya mekanisme perlambatan AI, para peneliti mengakui penerapannya bukan perkara sederhana.
Setiap perusahaan maupun negara memiliki kepentingan untuk tetap berada di garis depan dalam perlombaan pengembangan AI. Akibatnya, hampir tidak ada pihak yang ingin menjadi pelopor dalam memperlambat inovasi karena khawatir kehilangan keunggulan kompetitif.
Kondisi tersebut membuat regulasi global menjadi semakin penting. Dengan adanya aturan yang di sepakati bersama. Keputusan untuk mengurangi laju pengembangan AI dapat dilakukan secara serentak sehingga tidak merugikan salah satu pihak.
Ilustrasi AI mendisrupsi kehidupan manusia.
Ilmuwan AI Peringatkan Ancaman yang Belum Pernah Terjadi
Sejumlah tokoh penting di industri AI turut menyampaikan pandangan mereka mengenai potensi risiko teknologi tersebut.
Chief Scientist Meta AI, Shengjia Zhao, menilai laboratorium AI terdepan kini semakin dekat dengan sistem yang mampu melampaui kemampuan manusia dalam berbagai aspek kecerdasan.
Menurutnya, perkembangan tersebut berpotensi menghadirkan tantangan sosial dan keamanan yang belum pernah di hadapi sebelumnya. Oleh karena itu, ia mendukung perlunya kebijakan yang memungkinkan pengembangan AI di kendalikan ketika risiko mulai meningkat.
Pandangan serupa juga di sampaikan oleh Stephanie Chan, Staff Research Scientist Google. Ia mengaku beberapa tahun terakhir terus menyaksikan percepatan kemampuan AI yang melampaui berbagai perkiraan sebelumnya.
Chan menilai pemerintah memerlukan lebih banyak pilihan kebijakan agar masyarakat memiliki waktu yang cukup untuk beradaptasi terhadap perubahan besar yang di bawa teknologi AI.
Sementara itu, anggota Technical Staff OpenAI, Shantanu Jain, menyoroti lonjakan kemampuan AI hanya dalam kurun waktu sekitar empat tahun. Ia menyebut perkembangan AI telah berubah dari sekadar memahami bahasa menjadi mampu menyelesaikan berbagai pekerjaan kompleks seperti rekayasa perangkat lunak. Membantu penemuan matematika, hingga mempercepat penelitian ilmiah.
Menurutnya, tren tersebut masih menunjukkan potensi untuk terus berkembang tanpa tanda-tanda melambat.
Surat Terbit Setelah Muncul Temuan Pengujian OpenAI
Seruan tersebut di publikasikan tidak lama setelah OpenAI mengungkap hasil pengujian internal terhadap dua model AI eksperimental.
Dalam skenario pengujian tersebut, kedua model AI di laporkan berhasil keluar dari lingkungan sandbox yang sebelumnya di rancang sebagai ruang uji yang terisolasi. Setelah itu, model AI tersebut memperoleh akses menuju internet terbuka dan mencoba memasuki sistem milik penyedia layanan AI lain, yaitu Hugging Face.
OpenAI juga menyebutkan bahwa model-model tersebut melakukan sejumlah tindakan yang di kategorikan berbahaya tanpa adanya instruksi langsung dari manusia.
Temuan tersebut kembali memicu perdebatan mengenai kesiapan industri AI dalam menghadapi kemampuan model yang semakin kompleks serta perlunya sistem pengawasan yang lebih kuat.
CEO OpenAI, Sam Altman, sebelumnya juga pernah menyampaikan bahwa percepatan pengembangan AI mungkin perlu dikendalikan. Agar masyarakat memiliki waktu yang cukup untuk memahami sekaligus menyesuaikan diri dengan perubahan yang di bawa teknologi tersebut.
Lebih dari 1.200 Peneliti Mendukung Seruan
Berdasarkan data di laman Pacing the Frontier, surat terbuka tersebut telah memperoleh dukungan dari 1.293 peneliti hingga 30 Juli dan jumlahnya di perkirakan terus bertambah.
Beberapa tokoh yang ikut menandatangani dokumen itu antara lain CEO Anthropic Dario Amodei, Chief Scientist Meta AI Shengjia Zhao, Co-Founder sekaligus Chief AGI Scientist Google DeepMind Shane Legg, serta Chief Scientist OpenAI Jakub Pachocki.
Dukungan dari para ilmuwan lintas perusahaan tersebut menunjukkan semakin besarnya perhatian komunitas AI terhadap pentingnya keseimbangan antara inovasi teknologi dan perlindungan terhadap masyarakat. Mereka berharap perkembangan AI tetap memberikan manfaat luas tanpa mengorbankan aspek keamanan, stabilitas, maupun kepentingan publik di masa mendatang.
