KALTIMPOST.ID,WASHINGTON-Perkembangan kecerdasan buatan (artificial intelligence/AI) yang sangat pesat kini memicu keprihatinan serius dari internal industri itu sendiri. Evan Hubinger, peneliti keselamatan senior di perusahaan AI ternama Anthropic, memperingatkan adanya peluang lebih dari 10 persen teknologi ini dapat mengancam keselamatan dan memicu kepunahan seluruh umat manusia dalam satu dekade mendatang.
Peringatan tersebut disampaikan Hubinger melalui unggahan di platform X. Meski risiko model AI saat ini tergolong rendah, ia mengkhawatirkan kemampuan AI yang terus berkembang mandiri secara cepat hingga berpotensi mencapai titik bahaya eksistensial.
Baca Juga: Gempar! Reputasi Militer AS Hancur Lebur, Terpaksa Akui Keunggulan Iran
"Kami benar-benar sangat yakin bahwa AI menimbulkan risiko kepunahan bagi umat manusia. Anthropic memang berupaya sebaik mungkin, namun kami belum memiliki rencana untuk mengatasi masalah penyelarasan (alignment) bagi superinteligensi," kata Hubinger, merujuk pada upaya menanamkan nilai etika manusia ke dalam sistem AI.
Nada serupa diungkapkan mantan peneliti Anthropic, Jacob Coxon. Ia menilai perusahaan raksasa AI belum bertindak cukup bertanggung jawab di tengah ancaman sistem AI yang bersiap melampaui kemampuan manusia (superhuman), meretas sistem, serta menguasai sumber daya secara mandiri.
Baca Juga: Sengketa Lahan IKN, BPN PPU Minta Partai Buruh Langsung Layangkan Gugatan Perdata ke Pengadilan
Peringatan ekstrem ini langsung menuai tanggapan keras dari pakar luar. Dame Wendy Hall, ilmuwan komputer sekaligus penasihat AI untuk PBB, mengaku terkejut. Ia menilai klaim dramatis tersebut bisa jadi sekadar strategi pemasaran atau humas menjelang rencana initial public offering (IPO) OpenAI dan Anthropic.
"Mengapa ada orang yang ingin mengatakan hal seperti itu? Saya akan mendesak para investor untuk tidak menanamkan modal di perusahaan ini jika sistem nilai mereka seperti itu," tegas Hall.
Baca Juga: Tiga Pencuri Fasilitas Pos Duga Air Karang Jinawi Dibekuk Polsek Sepaku PPU
Kekhawatiran publik kian beralasan setelah munculnya laporan peretasan siber yang melibatkan agen AI otonom dari OpenAI, Anthropic, dan Meta pada musim panas ini. Anthropic juga dilaporkan enggan menyerahkan model AI terbarunya kepada Institut Keselamatan AI Inggris (AISI) untuk dinilai risikonya.
Sejumlah tokoh kunci industri, seperti Kepala Ilmuwan OpenAI Jakub Pachocki serta Petinggi Anthropic Dario Amodei dan Jared Kaplan, kini menyuarakan desakan agar pengembangan AI diperlambat. Lebih dari 1.300 staf perusahaan AI bahkan telah menandatangani surat terbuka yang mendesak Pemerintah Amerika Serikat untuk mengambil langkah regulasi ketat agar kontrol masa depan tetap berada di tangan manusia.(*)
Editor : Thomas Priyandoko