Google berlomba untuk memperbaiki alat barunya yang didukung AI untuk membuat gambar, setelah mengklaim bahwa alat tersebut melakukan koreksi berlebihan terhadap risiko menjadi rasis. Pengguna mengatakan bot Gemini perusahaan tersebut menyediakan gambar yang menggambarkan berbagai jenis kelamin dan etnis meskipun hal tersebut secara historis tidak akurat.
Misalnya, permintaan pencarian gambar para founding fathers Amerika ternyata adalah perempuan dan orang kulit berwarna. Perusahaan mengatakan alatnya meleset dari sasaran. “Pembuatan gambar AI yang dilakukan Gemini memang menghasilkan banyak orang. Dan hal ini umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya. Namun, hal ini kurang tepat sasaran di sini,” kata Jack Krawczyk, direktur senior Gemini Experiences, pada hari Rabu. “Kami berupaya untuk segera memperbaiki penggambaran semacam ini,” tambahnya.
Menurut bbc.com, Google kemudian mengatakan akan menangguhkan kemampuan alat tersebut untuk menghasilkan gambar orang-orang saat alat tersebut sedang mengerjakan perbaikan. Ini bukan pertama kalinya AI tersandung pada pertanyaan nyata tentang keberagaman.
Perusahaan AI saingannya, OpenAI, juga dituduh melanggengkan stereotip yang merugikan, setelah pengguna menemukan bahwa pembuat gambar Dall-E merespons pertanyaan untuk kepala eksekutif, misalnya, dengan hasil yang didominasi oleh gambar pria kulit putih. Google, yang berada di bawah tekanan untuk membuktikan bahwa mereka tidak ketinggalan dalam pengembangan AI, merilis versi terbaru Gemini minggu lalu.
Bot membuat gambar sebagai respons terhadap pertanyaan tertulis. Hal ini dengan cepat menuai kritik, yang menuduh perusahaan yang melatih bot tersebut dibuat dengan cara yang menggelikan.
Krawczyk mengatakan perusahaannya menganggap serius representasi dan bias dan ingin hasilnya mencerminkan basis pengguna globalnya. “Konteks sejarah memiliki lebih banyak nuansa dan kami akan menyesuaikannya lebih lanjut untuk mengakomodasi hal itu,” tulisnya di X, sebelumnya Twitter, tempat pengguna membagikan hasil meragukan yang mereka terima. “Ini adalah bagian dari proses penyelarasan – pengulangan umpan balik. Terima kasih dan terus lakukan ini!” lanjutnya.(ra)