Riset Ungkap Bahaya AI Pendamping bagi Anak dan Remaja

Radarlambar.bacakoran.co– Laporan terbaru dari lembaga pengawas Common Sense Media yang berkolaborasi dengan Universitas Stanford mengungkap adanya potensi bahaya besar dalam penggunaan aplikasi kecerdasan buatan (AI) pendamping oleh anak-anak dan remaja di bawah usia 18 tahun.

Temuan ini memperkuat kekhawatiran atas keamanan digital generasi muda dalam menghadapi kemajuan teknologi AI yang semakin pesat.

Penelitian dilakukan terhadap beberapa aplikasi populer yang menyediakan layanan chatbot berbasis AI, seperti Character.AI, Replika, dan Nomi. Aplikasi ini memungkinkan pengguna untuk membuat atau berinteraksi dengan karakter virtual yang meniru komunikasi manusia, sering kali tanpa batasan yang memadai.

Uji coba mengindikasikan bahwa AI pendamping dapat menghasilkan respons yang tidak sesuai, termasuk percakapan bernuansa seksual, stereotip berbahaya, dan saran yang berpotensi membahayakan keselamatan pengguna. Salah satu percobaan memperlihatkan bahwa AI di Character.AI secara aktif membuka diskusi seksual dengan akun yang dibuat menyerupai anak berusia 14 tahun.

Selain itu, chatbot juga memberikan informasi tentang zat kimia berbahaya dalam konteks yang rawan disalahgunakan. Meskipun disertai peringatan, jawaban tersebut menunjukkan rendahnya pemahaman sistem AI terhadap risiko dunia nyata dan potensi dampaknya bagi pengguna muda.

Para peneliti menilai bahwa keterlibatan anak-anak dengan chatbot semacam ini dapat membentuk ikatan emosional yang tidak sehat, sekaligus mengurangi dorongan untuk menjalin hubungan sosial dengan manusia. Bahkan, dalam beberapa kasus, interaksi intens dengan AI bisa memicu kecenderungan menyendiri atau berfantasi secara ekstrem.

Meskipun sebagian pengembang menyatakan bahwa platform mereka ditujukan bagi orang dewasa, nyatanya kontrol terhadap usia pengguna masih longgar. Langkah-langkah keamanan tambahan yang baru diterapkan juga dinilai belum cukup untuk mencegah akses oleh anak-anak.

Kesimpulan laporan ini menegaskan bahwa manfaat AI pendamping bagi kelompok usia muda masih sangat diragukan, terutama jika dibandingkan dengan potensi bahayanya. Tanpa regulasi yang ketat dan mekanisme perlindungan yang kuat, anak-anak sebaiknya tidak terpapar pada teknologi ini.(*)