Instagram Latih Kecerdasan Buatan Untuk Deteksi Judul Tidak Sopan

logo huawei

Instagram akan menghadirkan notifikasi untuk memperingatkan pengguna ketika judul yang mereka gunakan pada foto atau video dianggap ofensif. Perusahaan milik Facebook itu mengatakan telah melatih sistem kecerdasan buatan untuk mendeteksi judul yang bersifat ofensif.

Seperti dilansir dari BBC, tujuannya adalah untuk memberi pengguna kesempatan untuk membaca dan mempertimbangkan kembali kata-kata yang akan mereka gunakan. Instagram mengumumkan fitur tersebut di sebuah blog pada hari Senin dan menjelaskan bahwa akan segera diluncurkan ke beberapa negara.

Fitur tersebut dirancang untuk membantu memerangi intimidasi online, yang telah menjadi masalah utama bagi platform seperti Instagram, YouTube, dan Facebook. Instagram pernah mendapatkan peringkat sebagai platform online terburuk dalam studi cyber-bullying pada Juli 2017.

Jika pengguna mengetik tulisan yang bersifat ofensif di Instagram, maka mereka akan menerima konfirmasi bahwa tulisan yang mereka buat mirip dengan tulisan yang dilaporkan untuk melakukan bullying. Selanjutnya pengguna kemudian akan diberikan opsi untuk mengedit tulisan mereka sebelum dipublikasikan.

Selain untuk membatasi adanya siber bullying, peringatan ini membantu mengedukasi orang-orang tentang apa yang tidak kami izinkan di Instagram dan ketika akun mungkin berisiko melanggar aturan kami,” tulis Instagram dalam posting tersebut.

Pada awal tahun ini, Instagram juga telah meluncurkan fitur serupa yang memberi tahu orang-orang ketika komentar yang mereka berikan untuk postingan Instagram orang lain dapat dianggap ofensif.

Hasilnya sangat menjanjikan dan pihak Instagram juga menemukan bahwa dorongan semacam ini dapat membuat orang untuk mempertimbangkan kembali kata-kata yang mereka buat ketika diberikan kesempatan untuk menilai kembai apa yang telah mereka tulis.

Chris Stokel-Walker, seorang penulis kultur internet dan penulis buku YouTubers, mengatakan kepada BBC News bahwa fitur tersebut merupakan bagian dari langkah yang lebih luas yang telah diambl oleh Instagram untuk lebih sadar akan kesejahteraan penggunanya.

Selamat ini Instagram telah memberikan tindakan pengguna yang mempromosikan gambar melukai diri sendiri, dari menyembunyikan jumlah ‘suka’ yang dapat membuat orang di luar cenderung menekan ‘suka’ pada foto mereka. Jadi apa yang telah dilakukan instagram telah membuat langkah untuk mencoba mengembalikan beberapa perubahan yang sebelumnya telah menimbukjan kerusakan pada masyarakat