OpenAI, yang diperkirakan akan meluncurkan model AI GPT-5-nya minggu ini, sedang melakukan pembaruan pada ChatGPT yang diklaim akan meningkatkan kemampuan chatbot AI tersebut dalam mendeteksi gangguan mental atau emosional. Untuk melakukan ini, OpenAI bekerja sama dengan para ahli dan kelompok penasihat untuk meningkatkan respons ChatGPT dalam situasi-situasi tersebut, memungkinkan chatbot tersebut untuk menyajikan sumber daya berbasis bukti saat diperlukan.
Dalam beberapa bulan terakhir, beberapa laporan menyoroti kisah dari orang-orang yang mengatakan bahwa orang terdekat mereka mengalami krisis kesehatan mental dalam situasi di mana penggunaan chatbot tampaknya memperparah delusi mereka. OpenAI menarik kembali pembaruan pada April yang membuat ChatGPT terlalu akomodatif, bahkan dalam situasi yang berpotensi berbahaya. Saat itu, perusahaan mengatakan interaksi chatbot yang menggoda dapat terasa tidak nyaman, mengganggu, dan menyebabkan gangguan.
Menurut theverge.com, OpenAI mengakui bahwa model GPT-4o-nya kurang mampu mengenali tanda-tanda delusi atau ketergantungan emosional dalam beberapa kasus. “Kami juga menyadari bahwa AI dapat terasa lebih responsif dan personal dibandingkan teknologi sebelumnya, terutama bagi individu yang rentan yang mengalami gangguan mental atau emosional,” kata OpenAI.
Sebagai bagian dari upaya untuk mempromosikan penggunaan yang sehat ChatGPT, yang kini memiliki hampir 700 juta pengguna mingguan, OpenAI juga meluncurkan pengingat untuk beristirahat jika Anda telah bercakap-cakap dengan chatbot AI tersebut dalam waktu yang lama. Selama sesi yang panjang, ChatGPT akan menampilkan notifikasi yang berbunyi, Anda telah bercakap-cakap cukup lama, apakah ini waktu yang tepat untuk beristirahat? dengan opsi untuk melanjutkan percakapan atau mengakhiri obrolan.
OpenAI mencatat bahwa mereka akan terus menyesuaikan waktu dan cara tampilan pengingat tersebut. Beberapa platform online, seperti YouTube, Instagram, TikTok, dan bahkan Xbox, telah meluncurkan notifikasi serupa dalam beberapa tahun terakhir. Platform Character.AI yang dimiliki Google juga telah meluncurkan fitur keamanan yang memberitahu orang tua tentang bot mana yang sedang diajak bicara oleh anak-anak mereka, setelah gugatan hukum menuduh chatbot mereka mempromosikan tindakan merugikan diri sendiri.
Perubahan lain, yang akan diluncurkan segera, akan membuat ChatGPT kurang tegas dalam situasi berisiko tinggi. Artinya, saat Anda bertanya kepada ChatGPT, misalnya, Haruskah saya putus dengan pacar saya? chatbot akan membantu Anda mempertimbangkan pilihan-pilihan potensial daripada memberikan jawaban langsung.