Google memberi tahu para orang tua yang menggunakan kontrol orang tua Family Link melalui email bahwa anak-anak mereka akan segera dapat mengakses Gemini AI Apps di perangkat Android yang mereka pantau, demikian laporan The New York Times.
Menurut theverge.com, perusahaan tersebut mengatakan bahwa anak-anak akan dapat menggunakan Gemini untuk melakukan hal-hal seperti membantu mereka mengerjakan pekerjaan rumah atau membacakan cerita. Seperti akun Workplace for Education, Google mengatakan bahwa data anak-anak tidak akan digunakan untuk melatih AI. Namun, dalam email tersebut, Google memperingatkan orang tua bahwa “Gemini dapat membuat kesalahan,” dan anak-anak “mungkin menemukan konten yang tidak Anda inginkan untuk mereka lihat.”
Selain kesalahan konyol seperti merekomendasikan lem sebagai topping pizza atau salah menghitung jumlah huruf “r” pada stroberi, beberapa bot AI juga memiliki masalah yang lebih menyedihkan. Beberapa pengguna Character.ai yang masih muda mengalami kesulitan untuk membedakan antara chatbot dan kenyataan, dan bot mengatakan kepada pengguna bahwa mereka sedang berbicara dengan orang sungguhan. Setelah tuntutan hukum menuduh bot menawarkan konten yang tidak pantas, perusahaan telah memperkenalkan pembatasan baru dan kontrol orang tua.
Dalam kasus Gemini, saran yang dikirim melalui email dari Google mengatakan bahwa orang tua harus berbicara dengan anak-anak mereka dan menjelaskan bahwa AI bukanlah manusia dan tidak boleh berbagi informasi sensitif dengan chatbot.
Anak-anak di bawah 13 tahun akan dapat mengaktifkan dan mengakses Gemini secara mandiri melalui Google Family Link, yang dirancang agar orang tua dapat mengawasi penggunaan perangkat anak-anak mereka, menetapkan batasan, dan melindungi mereka dari konten berbahaya. Juru bicara Google, Karl Ryan, mengonfirmasi dalam sebuah email kepada The Verge bahwa orang tua dapat mematikan akses melalui Family Link, dan bahwa “mereka akan mendapatkan notifikasi tambahan ketika anak mengakses Gemini untuk pertama kalinya.”