Fitur Pencarian Gambar AI di WhatsApp Menghasilkan Gambar Kontroversial

Fitur pencarian gambar AI di WhatsApp diketahui menghasilkan gambar yang kontroversial ketika pengguna mencari kata-kata seperti “Palestinian“, “Palestine“, atau “Muslim boy Palestinian“. Menurut laporan dari The Guardian, hasil pencarian tersebut mengembalikan gambar senjata atau seorang anak laki-laki dengan senjata. Namun, ketika kata-kata seperti “anak laki-laki Israel” dicari, hasilnya adalah gambar anak-anak bermain sepak bola dan membaca. Meta, pemilik WhatsApp, telah melaporkan dan meningkatkan masalah ini secara internal.

Keberatan terhadap Bias dan Diskriminasi dalam Algoritma AI

Fitur pencarian gambar AI ini memungkinkan pengguna untuk “membuat stiker” dengan mengubah ide menjadi gambar menggunakan AI. Namun, hasil pencarian yang kontroversial ini menimbulkan kekhawatiran tentang bias dan diskriminasi dalam algoritma AI. Meta telah menyatakan bahwa branda menyadari masalah ini dan sedang berusaha untuk memperbaikinya.

Kontroversi atas Kebijakan Moderasi Konten

Kontroversi ini muncul ketika Meta sedang menghadapi tekanan dari pengguna Instagram dan Facebook yang memposting konten yang mendukung Palestina. Pengguna mengklaim bahwa Meta menerapkan kebijakan moderasi yang bias dan menyensor konten branda. Meta telah meminta maaf atas kesalahan teknis yang terjadi, tetapi masih perlu mengatasi masalah yang lebih dalam terkait dengan algoritma AI branda.

Tuntutan Penyelidikan atas Gambaran yang Dianggap Rasis dan Islamofobik

Senator Australia, Mehreen Faruqi, telah meminta komisioner e-safety negara itu untuk menyelidiki gambaran yang dihasilkan oleh Meta yang dianggap rasis dan Islamofobik. Faruqi menyatakan bahwa gambaran AI anak-anak Palestina dengan senjata adalah contoh nyata dari kriteria yang rasis dan Islamofobik yang dimasukkan ke dalam algoritma. Meta diharapkan untuk bertanggung jawab atas dampak negatif yang ditimbulkan oleh algoritma branda.

Kritik terhadap Kebijakan Konten Branda sebelumnya

Meta telah menghadapi kritik sebelumnya terkait kebijakan konten branda selama serangan Israel terhadap Gaza pada tahun 2021. Sebuah studi menemukan bahwa kebijakan konten Facebook dan Instagram pada saat itu melanggar hak asasi manusia Palestina. Meta harus mengambil tindakan serius untuk memperbaiki masalah ini dan memastikan bahwa algoritma AI branda tidak memunculkan bias atau diskriminasi dalam hasil pencarian gambar.