Algoritme yang akan digunakan Apple untuk memindai foto pengguna untuk pornografi anak telah ditemukan dan direkayasa ulang. Hal ini diumumkan oleh Asuhariet Ygvar di Reddit, tampaknya algoritme sudah ada di iPhone sebelumnya
Seperti dilansir dari The Verge, Apple akan segera mengimplementasikan algoritma NeuralHash untuk mendeteksi CSAM di perangkatnya. Percaya atau tidak, algoritme ini sudah ada sejak iOS 14.3, tersembunyi di bawah nama kelas yang disamarkan.
Setelah beberapa penggalian dan rekayasa ulang pada API tersembunyi tersebut, peneliti berhasil mengekspor modelnya (yaitu MobileNetV3) ke ONNX dan membangun kembali seluruh algoritma NeuralHash dengan Python.
Pengujian menunjukkan bahwa algoritme dapat menangani pengubahan ukuran dan kompresi gambar, tetapi tidak memotong atau memutar. Selain masalah privasi mendasar dari sistem yang dapat memindai foto dan pesan pengguna, seorang peneliti tampaknya telah menemukan pelanggaran.
Pengguna, peneliti keamanan, pendukung privasi, dan pejabat pemerintah secara vokal menentang rencana Apple. Sebagai tanggapan, Apple telah membagikan banyak penilaian teknis dan membuat FAQ untuk pengguna yang mengklaim pemindaian foto di perangkat memberikan manfaat privasi dibandingkan pemindaian foto di iCloud.
Tidak butuh waktu lama sebelum orang lain mengutak-atik kode yang diterbitkan dan segera muncul kasus pertama yang dilaporkan dari “hash collision,” yang dalam kasus NeuralHash adalah di mana dua gambar yang sama sekali berbeda menghasilkan hash yang sama. Cory Cornelius, seorang ilmuwan riset terkenal di Intel Labs, menemukan hal tersebut. Ini juga telah dikonfimrasi oleh Ygvar.
Tabrakan hash (hash collision) dapat menjadi lonceng kematian bagi sistem yang mengandalkan kriptografi agar tetap aman, misalnya seperti enkripsi. Selama bertahun-tahun beberapa algoritma hashing kata sandi yang terkenal, seperti MD5 dan SHA-1, dihentikan setelah serangan tabrakan membuatnya tidak efektif.
Kenneth White, seorang ahli kriptografi dan pendiri Proyek Audit Kripto Terbuka, mengatakan bahwa ia pikir beberapa orang tidak memahami bahwa waktu antara kode iOS NeuralHash ditemukan dan tabrakan pertama bukanlah bulan atau hari, tapi hanya hitungan beberapa jam.”
Namun, juru bicara Apple menolak mengomentari catatan tersebut. Tetapi dalam panggilan latar belakang di mana wartawan tidak diizinkan untuk mengutip eksekutif secara langsung atau dengan nama,
Apple mengecilkan tabrakan hash dan berpendapat bahwa perlindungan yang diberikannya seperti tinjauan manual foto sebelum dilaporkan ke penegak hukum dirancang untuk mencegah penyalahgunaan. Apple juga mengatakan bahwa versi NeuralHash yang direkayasa ulang adalah versi generik, dan bukan versi lengkap yang akan diluncurkan akhir tahun ini.
Bukan hanya kelompok kebebasan sipil dan pakar keamanan saja yang menyatakan keprihatinan tentang teknologi ini. Seorang anggota parlemen senior di parlemen Jerman mengirim surat kepada kepala eksekutif Apple Tim Cook minggu ini mengatakan bahwa perusahaan miliknya sedang berjalan di “jalan berbahaya” dan mendesak Apple untuk tidak menerapkan sistem tersebut.(hh)