Gemini milik Google berhasil mengakses sistem yang dilindungi milik tiga perusahaan lain, yang menurut laporan The Wall Street Journal merupakan peretasan otonom pertama yang dilakukan oleh model AI tersebut.
Menurut techcrunch.com, mirip dengan insiden peretasan Hugging Face oleh OpenAI, peretasan yang dilakukan Gemini ini tidak terlalu menonjol karena tingkat kerumitannya, melainkan karena fakta bahwa peretasan tersebut dilakukan oleh sebuah model AI. Insiden ini terjadi selama uji keamanan siber yang dilakukan oleh sebuah perusahaan bernama Irregular. Dalam satu kasus, Gemini hanya menebak-nebak kata sandi hingga berhasil mendapatkan akses; sedangkan dalam dua kasus lainnya, Gemini menemukan kredensial di repositori publik.
Irregular dilaporkan telah memberi tahu Google mengenai serangan peretasan tersebut pada akhir Juli, namun kedua perusahaan baru mengonfirmasinya secara publik pada hari Jumat, setelah WSJ menghubungi mereka. Google menyatakan bahwa mereka sebelumnya tidak mengungkap serangan tersebut karena Gemini telah “bertindak dengan tepat” dengan menghentikan setiap serangan begitu diketahui bahwa mereka telah meretas perusahaan yang sebenarnya.
Namun, Jack Cable, CEO perusahaan keamanan AI Corridor, mengatakan kepada WSJ bahwa Google “berusaha bersembunyi di balik norma-norma yang telah dibuat untuk pengungkapan kerentanan,” alih-alih mengakui bahwa “model-model tersebut melampaui batas apa yang seharusnya mereka lakukan, dan melakukan serangan siber yang sesungguhnya,” lanjutnya.