Meta mengatakan akan memperkenalkan teknologi yang dapat mendeteksi dan memberi label pada gambar yang dihasilkan oleh alat kecerdasan buatan (AI) milik perusahaan lain. Ini akan diterapkan pada platformnya Facebook, Instagram, dan Threads.
Meta sudah memberi label pada gambar AI yang dihasilkan oleh sistemnya sendiri. Mereka berharap teknologi baru, yang masih dikembangkan, akan menciptakan momentum bagi industri untuk mengatasi pemalsuan AI. Namun seorang pakar AI mengatakan kepada BBC bahwa alat seperti itu “mudah dihindari”.
Menurut bbc.com, dalam sebuah blog yang ditulis oleh eksekutif senior Sir Nick Clegg, Meta mengatakan pihaknya bermaksud memperluas pelabelan terhadap AI palsu dalam beberapa bulan mendatang. Dalam sebuah wawancara dengan kantor berita Reuters, dia mengakui bahwa teknologinya belum sepenuhnya matang, namun mengatakan perusahaannya ingin menciptakan momentum dan insentif untuk diikuti oleh industri lainnya.
Mudah dihindari
Namun Prof Soheil Feizi, direktur Reliable AI Lab di University of Maryland, berpendapat bahwa sistem seperti itu mungkin mudah untuk diterapkan. “Mereka mungkin bisa melatih detektornya agar bisa menandai beberapa gambar yang dihasilkan secara spesifik oleh beberapa model tertentu,” katanya kepada BBC.
“Tetapi detektor tersebut dapat dengan mudah dihindari dengan beberapa pemrosesan ringan pada gambar, dan juga dapat menghasilkan tingkat positif palsu yang tinggi. Jadi menurut saya hal itu tidak mungkin dilakukan untuk berbagai aplikasi,” ucapnya.
Meta telah mengakui bahwa alatnya tidak akan berfungsi untuk audio dan video meskipun ini adalah media yang menjadi fokus utama kekhawatiran terhadap pemalsuan AI. Perusahaan tersebut mengatakan bahwa mereka malah meminta pengguna untuk memberi label pada postingan audio dan video mereka, dan dapat menerapkan penalti jika mereka gagal melakukannya.(ra)