Meta memperluas cara menggunakan AI untuk mendeteksi remaja di Instagram dan, dalam beberapa kasus, akan mulai mengesampingkan pengaturan akun.
Menurut theverge.com, Instagram mengumumkan bahwa mereka menggunakan AI untuk mendeteksi usia pada tahun 2024; sistem mencari sinyal bahwa pengguna berusia di bawah 18 tahun, seperti jika pesan dari teman mengucapkan selamat ulang tahun ke-16, misalnya (Meta juga mengatakan bahwa mereka menggunakan data keterlibatan orang-orang dalam kelompok usia yang sama yang sering berinteraksi dengan konten yang mereka lihat dengan cara yang sama). Akun remaja di Instagram tunduk pada pengaturan yang lebih ketat: secara default, akun remaja bersifat pribadi, orang asing tidak dapat mengirimi mereka pesan, dan Instagram membatasi jenis konten apa yang dilihat remaja. Tahun lalu, Instagram mengubah pengaturan untuk semua remaja di platform sehingga fitur keamanan diaktifkan secara otomatis.
Perusahaan ini sekarang mengatakan bahwa mereka akan menggunakan AI untuk secara proaktif mencari akun remaja yang berulang tahun pada tanggal dewasa, dan mengubah pengaturan untuk pengguna yang dicurigai sebagai anak-anak. Dalam sebuah posting blog, Instagram mengatakan akan mulai menguji coba fitur tersebut hari ini di AS. Jika mendeteksi bahwa pengguna sebenarnya adalah anak-anak tetapi akun tersebut mengatakan sebaliknya, Instagram akan secara otomatis menempatkannya di bawah pengaturan remaja yang lebih ketat. Instagram mengakui adanya kemungkinan bahwa sistem akan membuat kesalahan, namun perusahaan mengatakan bahwa pengguna akan memiliki kemampuan untuk mengubah pengaturan mereka kembali.
Meta secara bertahap menawarkan lebih banyak pengaturan yang dikatakannya akan melindungi remaja dan anak-anak di platform, sering kali sebagai tanggapan atas kekhawatiran orang tua dan anggota parlemen. Tahun lalu, Uni Eropa meluncurkan investigasi tentang apakah Meta melakukan cukup banyak hal untuk melindungi kesehatan pengguna muda. Laporan yang mengganggu tentang predator di Instagram yang menargetkan anak-anak memicu gugatan oleh jaksa agung negara bagian AS. Ada juga perselisihan di antara perusahaan teknologi yaitu Google versus Meta, Snap, dan X mengenai siapa yang harus bertanggung jawab untuk menjaga keamanan anak-anak saat online. Pada bulan Maret, Google menuduh Meta mencoba melimpahkan tanggung jawabnya ke toko aplikasi setelah pengesahan undang-undang di Utah.