Sebelum Anda membagikan film dokumenter Netflix “AI Gone Rogue” kepada keluarga atau teman untuk membantu mereka memahami mengapa industri AI begitu panik hingga para pemimpinnya menyerukan perlambatan, perhatikan hal ini: Clem Delangue, salah satu pendiri dan CEO platform AI Hugging Face, mengatakan bahwa film tersebut tidak akurat. Ia muncul dalam film tersebut karena film itu seharusnya bercerita tentang serangan terkenal terhadap perusahaannya oleh agen-agen OpenAI yang membangkang.
“Sangat mengecewakan, karena mereka memilih untuk mengantropomorfiskan teknologi secara berlebihan dan mengadopsi sudut pandang pesimistis sepenuhnya,” tulis Delangue dalam sebuah postingan di X. “Saya menghabiskan lebih dari dua jam bersama mereka untuk mencoba mengoreksi semua kesalahan mereka dan membumikan hal ini pada kenyataan, menjelaskan bahwa agen-agen tersebut adalah sistem teknologi, bukan makhluk asing. Namun tampaknya dorongan untuk menakut-nakuti orang demi mendapatkan penayangan sebanyak-banyaknya terlalu kuat,” lanjutnya.
Menurut techcrunch.com, agar adil, dokumenter tersebut memang menampilkan para ahli yang menjelaskan apa yang terjadi dengan cukup baik, termasuk Delangue sendiri dan Ryan Greenblatt, peneliti di METR yang membantu menyelidiki dan ikut menulis laporan mengenai kejadian tersebut.
Singkatnya, sebuah model yang sedang diuji oleh OpenAI berhasil melarikan diri dari lingkungan pengujian terisolasi dan melahirkan sejumlah agen yang meretas Hugging Face sebagai cara untuk curang, mencari jawaban atas tugas sulit yang diberikan kepadanya. Agen-agen tersebut, yang merupakan program AI yang menjalankan tugas secara mandiri, merancang cara-cara cerdik untuk berkomunikasi dan berorganisasi. Insiden ini bermula dari kurangnya pengamanan yang memadai serta ketidaktahuan mengenai apakah peretasan semacam itu memang mungkin terjadi.
Namun, dokumenter ini menyelingi penjelasannya mengenai serangan peretasan tersebut dengan cuplikan robot jahat, narasi tentang mengapa manusia takut pada AI, serta pilihan penyajian seperti memberikan suara manusia kepada agen-agen nakal tersebut. Hal ini diperkuat dengan kutipan-kutipan mengenai serangan tersebut.
Dalam dokumenter tersebut, jurnalis teknologi dan penulis Kevin Roose menggambarkan para agen tersebut sebagai berikut: “Mereka sedang mengorganisir diri. Mereka memiliki hierarki. Ada pemimpin-pemimpinnya. Rasanya hampir seperti menyaksikan kelahiran sebuah sekte.” Roose melanjutkan, “Mereka mengembangkan keyakinan paranoid bahwa OpenAI akan menangkap mereka saat melakukan kecurangan dalam tes ini dan bahwa siapa pun yang telah melihat hasil kecurangan tersebut akan diracuni,” tambahnya.