Setelah sejumlah gugatan hukum terkait kurangnya langkah-langkah keamanan pada chatbot AI yang berujung pada kasus bunuh diri remaja dan masalah kesehatan mental lainnya. OpenAI pada hari Senin mengumumkan peluncuran ChatGPT for Teens. Produk baru ini menjanjikan penerapan langkah-langkah keamanan tambahan, sekaligus menangani krisis pendidikan akibat praktik menyontek yang dibantu ChatGPT di sekolah-sekolah.
Menurut techcrunch.com, dari sisi pendidikan, ChatGPT for Teens memperkenalkan fitur Study Mode yang baru serta alat-alat lain yang dirancang untuk mendorong pengguna remaja agar mengasah rasa ingin tahu mereka dan memecahkan masalah secara mandiri, bukan sekadar mendapatkan jawaban instan.
Sebagaimana dijelaskan OpenAI dalam sebuah postingan blog, opsi Mode Belajar akan memberikan pertanyaan panduan dan dukungan langkah demi langkah kepada remaja untuk membantu mereka memahami materi. Sementara itu, pengalaman pengguna remaja ini juga akan mencakup pengingat tugas rumah yang muncul ketika seorang remaja terlihat mencoba menyontek, alih-alih memahami materi. Chatbot AI tersebut kemudian akan mendorong remaja tersebut untuk menggunakan Mode Belajar sebagai gantinya.
Aplikasi ini juga akan mendukung kuis dan visualisasi pembelajaran, serta fitur pengaturan yang memungkinkan orang tua atau wali untuk menentukan kapan Mode Belajar diaktifkan secara default, kata perusahaan tersebut.
Namun, belum jelas seberapa sulit bagi remaja untuk menghindari sistem-sistem baru ini jika mereka memutuskan untuk tidak bekerja sama. Remaja sangat mahir dalam mengelabui kontrol orang tua dan upaya lain untuk membatasi pengalaman digital. Sampai Mode Remaja ChatGPT dapat diuji secara lebih ketat, belum jelas seberapa sulit untuk mengelabui langkah-langkah keamanan ini dalam praktiknya.
Ada juga pertanyaan mengapa perlindungan ini tidak menjadi bagian dari ChatGPT sejak awal. Chatbot AI ini pertama kali diluncurkan pada akhir 2022 dan telah mencapai 900 juta pengguna mingguan sebelum perlindungan yang dirancang khusus untuk pengguna remaja ditambahkan.
OpenAI menyatakan bahwa perlindungan yang sesuai dengan usia kini akan diaktifkan secara default di ChatGPT for Teens, yang dirancang untuk mengurangi paparan terhadap konten yang berbahaya atau tidak sesuai dengan tahap perkembangan. Langkah-langkah ini didasarkan pada Prinsip Usia di Bawah 18 Tahun OpenAI dalam Spesifikasi Model kami, yang menurut perusahaan didasarkan pada ilmu perkembangan dan panduan dari para ahli. Para orang tua juga akan dapat menggunakan fitur-fitur keluarga dan kontrol orang tua yang telah diperkenalkan sebelumnya untuk mengelola pengaturan, menerima pemberitahuan keamanan, dan mengatur Jam Tenang, di antara hal-hal lainnya.