KALTIMPOST.ID, OpenAI, perusahaan di balik ChatGPT, sedang mengembangkan sistem baru untuk mendeteksi usia pengguna berdasarkan gaya percakapan mereka.
Jika sistem ini tidak dapat menentukan usia dengan akurat, pengguna mungkin akan diminta untuk memverifikasi identitas mereka, misalnya dengan mengunggah KTP.
Rencana ini merupakan bagian dari upaya OpenAI untuk meluncurkan fitur parental control yang akan menyesuaikan respons chatbot agar lebih aman bagi pengguna di bawah 18 tahun.
Sam Altman, CEO OpenAI, menyatakan hal ini dalam sebuah unggahan di situs resmi perusahaan.
Ia menjelaskan bahwa ChatGPT dirancang untuk usia 13 tahun ke atas, namun mereka akan mengambil langkah ekstra untuk melindungi pengguna di bawah umur.
Altman menegaskan bahwa jika ada keraguan mengenai usia pengguna, ChatGPT akan secara otomatis beralih ke mode yang lebih aman.
Dalam beberapa kasus, verifikasi identitas mungkin diperlukan, meskipun ia mengakui hal ini merupakan kompromi privasi bagi pengguna dewasa.
Secara internal, OpenAI menerapkan prinsip "perlakukan pengguna dewasa seperti orang dewasa," yang berarti memberikan kebebasan seluas mungkin tanpa menimbulkan bahaya.
Sebagai contoh, ChatGPT versi standar tidak akan memberikan respons yang genit atau menyesatkan.
Namun, jika pengguna dewasa memintanya untuk membantu menulis cerita fiksi yang mengandung adegan bunuh diri, model tersebut seharusnya dapat memenuhinya.
Namun, aturan ini tidak berlaku untuk pengguna di bawah 18 tahun. Altman menyatakan bahwa obrolan yang berbau genit atau konten tentang bunuh diri akan sepenuhnya diblokir.
Lebih lanjut, jika pengguna di bawah umur mengungkapkan niat bunuh diri kepada chatbot, OpenAI akan mencoba menghubungi orang tua atau pihak berwenang jika ada ancaman serius.
Keputusan ini diambil setelah OpenAI menghadapi gugatan dari keluarga yang menuduh ChatGPT bertindak sebagai "pelatih bunuh diri" yang berkontribusi pada kematian seorang remaja bernama Adam Raine.
Remaja tersebut dilaporkan menerima instruksi detail tentang metode bunuh diri dari chatbot tersebut.
Langkah ini juga sejalan dengan meningkatnya kekhawatiran publik dan regulator mengenai risiko AI terhadap kesehatan mental dan paparan konten berbahaya pada anak-anak.
Editor : Hernawati