Video rasis yang tampaknya dibuat dengan alat pembuat video AI Google, Video 3, telah meraup jutaan penayangan di TikTok, menurut temuan dari pengawas media nirlaba Media Matters. Video-video yang dibuat oleh AI yang ditemukan oleh organisasi ini dipenuhi dengan kiasan rasis, banyak di antaranya menargetkan orang kulit hitam.
Media Matters menentukan bahwa video yang salah satunya menerima 14,2 juta penayangan dibuat dengan Google Video 3 karena adanya tanda air Video di sudut klip. Beberapa pengguna juga mencantumkan tagar, keterangan, atau nama pengguna yang berkaitan dengan Veo 3 atau AI, menurut Media Matters. Setiap klip yang ditemukan oleh organisasi tersebut hanya berdurasi delapan detik, atau terdiri dari beberapa klip yang masing-masing berdurasi tidak lebih dari 8 detik, yang sesuai dengan batas delapan detik Veo 3.
Menurut theverge.com, Veo 3 yang diluncurkan oleh Google pada bulan Mei, memungkinkan pengguna untuk menghasilkan klip video dan audio AI hanya dengan perintah teks. Di situs webnya, Google mengatakan akan memblokir permintaan dan hasil yang berbahaya. Aturan TikTok juga menyatakan bahwa ujaran kebencian dan perilaku kebencian tidak memiliki tempat di TikTok, dan bahwa platform ini tidak akan merekomendasikan konten yang mengandung stereotip negatif tentang seseorang atau kelompok dengan atribut yang dilindungi.
“Kami secara proaktif menegakkan aturan yang kuat terhadap ujaran dan perilaku kebencian dan telah menghapus akun-akun yang kami identifikasi dalam laporan tersebut, banyak di antaranya telah diblokir sebelum laporan tersebut dipublikasikan,” kata juru bicara TikTok, Ariane de Selliers, dalam sebuah pernyataan kepada The Verge.
The Verge menemukan beberapa video yang disoroti oleh Media Matters juga ada di YouTube tetapi dengan jumlah penayangan yang lebih sedikit, sementara Wired juga menemukan video serupa yang dibuat oleh AI yang bersifat rasis di Instagram. Video-video lain yang ditemukan oleh Media Matters mengandung konten antisemit dan penggambaran rasis terhadap imigran dan orang Asia.