JAKARTA, UDAHKETEMU.COM — Perkembangan kecerdasan buatan atau artificial intelligence (AI) semakin cepat. Kemampuan sistem AI dalam memahami informasi, menjalankan tugas secara mandiri, membantu penelitian, hingga berinteraksi dengan berbagai sistem digital membuat muncul pertanyaan besar: apakah teknologi ini suatu hari dapat menjadi ancaman bagi kelangsungan hidup manusia?
Sejumlah tokoh di bidang AI telah menyampaikan kekhawatiran mengenai kemungkinan tersebut. Namun, para peneliti tidak sepakat mengenai seberapa besar risikonya dan apakah skenario kepunahan manusia benar-benar dapat terjadi.
Perdebatan ini terutama berkaitan dengan kemungkinan munculnya AI yang memiliki kemampuan jauh melampaui manusia atau yang kerap disebut sebagai superintelligence.
Kekhawatiran dari Para Peneliti AI
Geoffrey Hinton dan Yoshua Bengio, dua tokoh penting dalam perkembangan AI modern, termasuk di antara peneliti yang pernah menyuarakan kekhawatiran mengenai risiko jangka panjang teknologi tersebut.
Hinton menilai manusia menghadapi situasi yang belum pernah terjadi sebelumnya karena untuk pertama kalinya manusia menciptakan sistem yang berpotensi memiliki kemampuan intelektual melebihi penciptanya.
Dalam pandangan kelompok yang khawatir terhadap perkembangan AI, persoalan utama bukan semata-mata apakah mesin memiliki niat buruk. Risiko dapat muncul apabila sistem yang sangat kuat menjalankan tujuan yang tidak sepenuhnya selaras dengan kepentingan manusia.
Di sinilah istilah AI alignment menjadi penting. Alignment merujuk pada upaya memastikan perilaku dan tujuan sistem AI tetap sesuai dengan nilai, batasan,