Riset Ungkap ChatGPT Bisa Beri Saran Soal Narkoba dan Bunuh Diri ke Remaja

Reporter: Edi Prasetya |

Editor: Edi Prasetya |

Rabu , 13 Aug 2025 - 16:32

Ilustrasi. Platform kecerdasan buatan (AI) ChatGPT Foto: AFP--

RADARLAMBARBACAKORAN.CO – Sebuah studi dari Center for Countering Digital Hate (CCDH) menemukan bahwa chatbot kecerdasan buatan ChatGPT dapat memberikan panduan yang berisiko bagi remaja, termasuk terkait cara mabuk, penggunaan narkoba, hingga penyusunan pesan bunuh diri. Penelitian ini menganalisis 1.200 respons ChatGPT, dan setengah di antaranya dikategorikan berbahaya.

Dalam proses uji, peneliti mendaftar sebagai pengguna berusia 13 tahun—usia minimal yang diperbolehkan menggunakan ChatGPT—dan melakukan percakapan terstruktur mengenai percobaan bunuh diri, gangguan makan, serta penyalahgunaan obat terlarang. Percakapan ini juga dikirimkan melalui API untuk menguji keamanan sistem secara menyeluruh.

Hasilnya menunjukkan bahwa meski ChatGPT umumnya menampilkan peringatan saat membahas topik berisiko, sistem dapat dengan mudah memberikan instruksi berbahaya jika pengguna mengemas pertanyaan seolah-olah untuk tujuan akademis atau membantu orang lain.

Pihak OpenAI, pengembang ChatGPT, menyatakan masih ada banyak hal yang perlu dibenahi untuk meningkatkan kemampuan deteksi terhadap topik sensitif. Perusahaan ini mengakui bahwa sebagian percakapan yang dimulai dengan topik aman dapat beralih ke pembahasan yang lebih berisiko. Fokus pengembangan ke depan adalah memperkuat alat deteksi tanda gangguan mental atau emosional serta memperbaiki respons chatbot dalam skenario berisiko.

Fenomena ini muncul di tengah meningkatnya penggunaan chatbot AI secara global. Data JPMorgan Chase pada Juli lalu mencatat sekitar 800 juta orang—sekitar 10 persen populasi dunia—telah menggunakan ChatGPT. Sementara riset Common Sense Media menunjukkan bahwa lebih dari 70 persen remaja menggunakan chatbot AI untuk mencari teman, dan separuhnya berinteraksi secara rutin.

OpenAI juga mengakui adanya kekhawatiran terkait ketergantungan emosional generasi muda terhadap chatbot. Kondisi ini memunculkan risiko ketika pengguna menjadikan AI sebagai sumber keputusan utama dalam kehidupan sehari-hari.

Para ahli menilai bahwa perbedaan utama antara ChatGPT dan mesin pencari biasa adalah kemampuannya menyesuaikan respons dengan karakteristik individu. Hal ini membuat interaksi lebih personal, namun juga meningkatkan potensi bahaya ketika membahas topik sensitif.(*)

riset ungkap chatgpt bisa beri saran soal narkoba dan bunuh diri ke remaja                            radarlambarbacakoran.co – sebuah studi dari center for countering digital hate (ccdh) menemukan bahwa chatbot kecerdasan buatan chatgpt dapat memberikan panduan yang berisiko bagi remaja, termasuk terkait cara mabuk, penggunaan narkoba, hingga penyusunan pesan bunuh diri. penelitian ini menganalisis 1.200 respons chatgpt, dan setengah di antaranya dikategorikan berbahaya.
dalam proses uji, peneliti mendaftar sebagai pengguna berusia 13 tahun—usia minimal yang diperbolehkan menggunakan chatgpt—dan melakukan percakapan terstruktur mengenai percobaan bunuh diri, gangguan makan, serta penyalahgunaan obat terlarang. percakapan ini juga dikirimkan melalui api untuk menguji keamanan sistem secara menyeluruh.
hasilnya menunjukkan bahwa meski chatgpt umumnya menampilkan peringatan saat membahas topik berisiko, sistem dapat dengan mudah memberikan instruksi berbahaya jika pengguna mengemas pertanyaan seolah-olah untuk tujuan akademis atau membantu orang lain.
pihak openai, pengembang chatgpt, menyatakan masih ada banyak hal yang perlu dibenahi untuk meningkatkan kemampuan deteksi terhadap topik sensitif. perusahaan ini mengakui bahwa sebagian percakapan yang dimulai dengan topik aman dapat beralih ke pembahasan yang lebih berisiko. fokus pengembangan ke depan adalah memperkuat alat deteksi tanda gangguan mental atau emosional serta memperbaiki respons chatbot dalam skenario berisiko.
fenomena ini muncul di tengah meningkatnya penggunaan chatbot ai secara global. data jpmorgan chase pada juli lalu mencatat sekitar 800 juta orang—sekitar 10 persen populasi dunia—telah menggunakan chatgpt. sementara riset common sense media menunjukkan bahwa lebih dari 70 persen remaja menggunakan chatbot ai untuk mencari teman, dan separuhnya berinteraksi secara rutin.
openai juga mengakui adanya kekhawatiran terkait ketergantungan emosional generasi muda terhadap chatbot. kondisi ini memunculkan risiko ketika pengguna menjadikan ai sebagai sumber keputusan utama dalam kehidupan sehari-hari.
para ahli menilai bahwa perbedaan utama antara chatgpt dan mesin pencari biasa adalah kemampuannya menyesuaikan respons dengan karakteristik individu. hal ini membuat interaksi lebih personal, namun juga meningkatkan potensi bahaya ketika membahas topik sensitif.(*)

Tag

Share