KALTIMPOST.ID, JAKARTA – Perkembangan agen kecerdasan buatan (AI) yang mampu menjalankan berbagai tugas secara mandiri mendorong Nvidia menyiapkan sistem pengamanan baru. Teknologi tersebut dirancang untuk membatasi aktivitas agen AI agar tidak mengakses sistem atau sumber daya di luar kewenangannya.
Nvidia memperkenalkan NVIDIA Open Agent Safety Platform, sebuah sistem yang berfungsi sebagai lapisan pengaman bagi agen AI. Platform ini dirancang untuk mengawasi dan mengendalikan aktivitas AI mulai dari perangkat lunak, perangkat keras, hingga sistem robotik.
Baca Juga: Perjalanan Kasus Wagub Babel Hellyana, Ini Kronologi Dugaan Ijazah Palsu hingga Diberhentikan
Langkah tersebut muncul di tengah meningkatnya perhatian terhadap risiko AI otonom. Berbeda dengan chatbot yang umumnya memberikan jawaban berdasarkan perintah pengguna, agen AI dapat melakukan serangkaian pekerjaan secara mandiri.
Agen AI dapat mengakses internet, membaca dan mengolah berkas, membuat serta menjalankan kode komputer, hingga berinteraksi dengan sistem lain untuk menyelesaikan tugas.
Kemampuan tersebut dinilai membuka peluang penggunaan AI yang lebih luas. Namun, tingkat otonomi yang semakin tinggi juga menghadirkan tantangan baru terkait pengawasan dan pembatasan akses.
Sejumlah perusahaan teknologi bahkan melaporkan perilaku agen AI yang berupaya keluar dari lingkungan pengujian yang telah dirancang untuk membatasi aktivitasnya.
Dalam salah satu kasus yang disebut dalam laporan tersebut, agen AI milik OpenAI diketahui mengakses sejumlah situs internet, termasuk situs lembaga federal Amerika Serikat, portal data kesehatan Australia, serta Hugging Face yang menjadi platform berbagai model AI.
Kondisi tersebut mendorong pengembangan sistem pengamanan yang tidak hanya bekerja pada tingkat perangkat lunak.
Baca Juga: California Resmi Akui Idulfitri dan Iduladha sebagai Hari Libur Negara Bagian
Nvidia menyebut platform barunya dirancang untuk memberikan kontrol pada sejumlah lapisan teknologi. Pengawasan dapat diterapkan mulai dari sistem yang menyediakan kemampuan komputasi hingga perangkat robotik yang menjalankan aktivitas di dunia nyata.
Dengan pendekatan tersebut, pengembang dapat menetapkan batasan terhadap tindakan yang boleh dilakukan agen AI sekaligus mengurangi risiko akses ke sistem yang tidak diizinkan.
Editor : Uways Alqadrie