Sejumlah perusahaan kecerdasan buatan (AI) terkemuka seperti Microsoft, Open AI, dan lainnya, berkomitmen untuk menghapus gambar berbau pornografi dari sumber data pembelajaran AI yang mereka gunakan, untuk mencegah penyebaran gambar deepfake seksual yang berbahaya.

Kantor Berita AP melaporkan pada hari Kamis (12/09) waktu setempat bahwa perusahaan AI menghapus data pornografi dari sumber data pembelajaran AI di dalam komitmen yang diumumkan oleh Gedung Putih Amerika Serikat. 

Pemerintah AS melakukan kampanye secara meluas untuk mencegah produksi gambar deepfake seksual tanpa persetujuan dan kekerasan seksual terhadap anak-anak berbasis gambar. 

Menurut Gedung Putih, gambar serupa menargetkan korban wanita, anak-anak, dan LGBT yang meningkat secara drastis, dan gambar tersebut menjadi salah satu kasus berbahaya dari data AI. 

Lembaga non-komersial yang mengumpulkan data di situs web publik untuk sumber utama yang digunakan dalam melatih chatbot AI dan generator gambar, Common Crawl berjanji untuk berupaya dalam mengumpulkan data dengan bertanggung jawab serta melindungi data dari pelecehan seksual berbasis gambar.

Di hari yang sama, sejumlah grup perusahaan seperti MS, Meta, TikTok, Bumble, Discord, Match Group, dan lainnya mengumumkan prinsip sukarela untuk mencegah tindak pelecehan seksual berbasis gambar melalui kesepakatan terpisah, yang dikaitkan dengan peringatan genap 30 tahun UU Pencegahan Kekerasan Terhadap Perempuan.