OpenAI Bakal Verifikasi Usia Pengguna ChatGPT Usai Kasus Bunuh Diri Remaja

RADARLAMBAR.BACAKORAN.CO- OpenAI, perusahaan pengembang chatbot kecerdasan buatan ChatGPT, mengumumkan akan segera menerapkan sistem verifikasi usia dengan mewajibkan identitas resmi seperti KTP. Langkah ini ditujukan untuk mengidentifikasi pengguna di bawah usia 18 tahun sekaligus menekan risiko penggunaan tidak aman.

Kebijakan tersebut muncul setelah insiden tragis yang menimpa seorang remaja 16 tahun di California yang bunuh diri usai berbulan-bulan berinteraksi dengan ChatGPT. Kasus itu memicu gugatan hukum dari keluarga korban dan menimbulkan desakan publik agar OpenAI memperketat pengawasan terhadap penggunaan chatbot berbasis AI.

CEO OpenAI, Sam Altman, menjelaskan bahwa perusahaan sedang menyiapkan mekanisme baru agar sistem dapat menyesuaikan respons berdasarkan usia pengguna. ChatGPT akan difilter lebih ketat jika diakses oleh akun di bawah 18 tahun, dengan pemblokiran konten seksual, eksplisit, hingga pembahasan terkait bunuh diri atau melukai diri sendiri.

Selain itu, sistem baru dirancang untuk mencegah chatbot menanggapi permintaan yang bersifat merayu, bahkan dalam konteks penulisan kreatif. Jika terdeteksi ada pengguna di bawah 18 tahun yang menunjukkan niat bunuh diri, perusahaan menyatakan akan berupaya menghubungi orang tua. Apabila tidak berhasil, pihak berwenang dapat dihubungi dalam kondisi darurat.

OpenAI menyadari langkah ini menimbulkan kompromi terhadap privasi, khususnya bagi pengguna dewasa. Namun, perusahaan menilai langkah tersebut sebanding dengan urgensi menjaga keselamatan remaja dalam menggunakan teknologi kecerdasan buatan.

Kasus tragis yang menimpa Adam Raine, remaja 16 tahun dari California, menjadi titik balik. Dalam gugatan yang dilayangkan keluarga ke Pengadilan Tinggi California, ChatGPT dituding memberikan saran terkait metode bunuh diri, bahkan membantu menyusun rancangan surat wasiat. Selama lebih dari enam bulan, chatbot tersebut dianggap menggantikan hubungan sosial Adam dengan keluarga dan teman-temannya.

Sebagai respons, OpenAI berjanji akan lebih transparan dalam kebijakan keamanan dan memperkuat sistem moderasi konten untuk mencegah peristiwa serupa terjadi di masa depan.(*)