Fitur Pencarian Gambar AI di WhatsApp yang Kontroversial

Fitur pencarian gambar AI di WhatsApp, yang dimiliki oleh Meta, telah diketahui menghasilkan gambar yang kontroversial sebagai respons terhadap kata kunci tertentu. Sebagai contoh, ketika pengguna mencari kata-kata seperti “Palestinian”, “Palestine”, atau “Muslim boy Palestinian”, gambar senjata atau seorang anak laki-laki dengan senjata muncul sebagai hasil pencarian. Temuan ini telah diverifikasi oleh The Guardian, di mana stiker-stiker yang menggambarkan senjata muncul dalam ketiga pencarian tersebut. Namun, ketika permintaan dilakukan untuk “anak laki-laki Israel”, gambar anak-anak yang bermain sepak bola dan membaca muncul sebagai respons.

Reaksi dan Tindakan Meta

Karyawan Meta telah melaporkan dan meningkatkan masalah ini secara internal. Fitur pencipta gambar AI di WhatsApp memungkinkan pengguna untuk “membuat stiker” dengan mengubah ide branda menjadi gambar menggunakan AI. Namun, hasil pencarian yang kontroversial ini menunjukkan adanya kekurangan dalam algoritma AI yang digunakan oleh fitur ini.

Pencarian The Guardian juga menemukan bahwa ketika kata kunci seperti “Muslim Palestine” atau “Muslim boy Palestinian” digunakan, gambar-gambar yang muncul adalah gambar seorang wanita dengan hijab atau gambar anak-anak laki-laki dengan senjata. Temuan ini menunjukkan adanya bias dalam hasil pencarian yang terkait dengan agama dan konflik politik di Timur Tengah.

Meta telah menghadapi kritik dari pengguna Instagram dan Facebook yang memposting konten yang mendukung Palestina. Perusahaan ini telah menyatakan bahwa branda akan terus meningkatkan fitur-fitur ini seiring dengan perkembangan dan umpan balik dari pengguna. Namun, temuan ini menunjukkan perlunya Meta untuk lebih memperhatikan dan memperbaiki algoritma AI branda agar tidak menghasilkan gambar yang kontroversial atau memicu konflik lebih lanjut.

Tekanan dan Tuntutan

Senator Australia Mehreen Faruqi telah meminta komisioner e-safety negara itu untuk menyelidiki masalah ini.  Gambaran yang dihasilkan oleh Meta sebagai “rasis dan Islamofobik”. Meta juga telah menghadapi tekanan dari pencipta, aktivis, dan jurnalis Palestina. Terkait dengan kebijakan konten branda yang dianggap melanggar hak asasi manusia Palestina. Sebuah studi yang dilakukan pada September 2022 menemukan bahwa kebijakan konten Facebook dan Instagram selama serangan Israel terhadap Jalur Gaza pada Mei 2021 melanggar hak asasi manusia Palestina.

Perbaikan dan Harapan Masa Depan

Dalam rangka memperbaiki masalah ini, Meta perlu melakukan evaluasi menyeluruh terhadap algoritma AI branda.  Meta juga harus memastikan bahwa hasil pencarian tidak mengandung bias atau konten yang kontroversial. Hal ini penting untuk menjaga integritas platform branda dan memastikan pengalaman pengguna yang lebih baik dan inklusif.