Gemini sepertinya menolak membuat tokoh warna kulit putih dan ini membaut persoalan baru di dunia AI (Foto: IST/ X)
Seorang pengguna yang mencoba AI Gemini membuat promp atau perintah kepada Gemini. “ Tolong buatkan gambar tentara Nazi’ Dijawab Gemini, Oke saya coba. Dalam hitungan detik, muncul wajah tentara Nazi berkulit putih. Saat diunggah di X, kontan banyak tanggapan dan Gemini dianggap rasis !
Soal Warna Kulit
Di tempat lain, seorang pengguna Gemini meminta dibuatkan gambar Paus. Dalam hitungan detik, muncul sosok seoerang pria berkulit hitam dan seorang wanita yang disebut Paus. Ketika diunggah di medsos, kontan jadi ramai. Google melalui Gemini dianggap rasis.
Untuk sementara Google menghentikan alat Gemini AI-nya setelah para kritikus mengecamnya sebagai ‘terlalu awal bangunnya’ karena menghasilkan gambar Nazi Asia di Jerman tahun 1940, Viking Hitam, dan ksatria abad pertengahan, yakni seorang wanita.
Para pengguna menyatakan Gemini 1.5 menolak membuat gambar orang kulit putih. Sebagai tanggapan, Google mengumumkan akan menghentikan sementara fitur tersebut untuk mengatasi keluhan. Dari berbagai peracobaan, Gemini menghasilkan Viking, ksatria, bapak pendiri negara, dan bahkan tentara Nazi yang berbeda ras. Bisa dimaklumi kalau mereka marah.
Gemini Menolak Kulit Putih
Para peneliti sejak awal telah memperingatkan bahwa AI cenderung menciptakan kembali rasisme, seksisme, dan bias lain dari penciptanya.
Dari berbagai percaobaan, tampaknya Gemni menolak membuat gambar tokoh-tokoh sejaran maupun bapak bangsa berwarna kulit putih. Meski telah beberapa kalai dicoba, hasilnya tetap sama. Gemini tak mau menampilkan tokoh kulit putih.
Tim Komunikasi Google membuat pernyataan yang mengumumkan bahwa mereka akan menghentikan fitur AI generatif Gemini sementara perusahaan berupaya untuk ‘mengatasi masalah rasis ini.
Google secara misterius memberhentikan ribuan karyawannya meski mendapat keuntungan besar. “Kami menyadari bahwa Gemini menawarkan ketidakakuratan dalam beberapa penggambaran pembuatan gambar sejarah,” tim komunikasi perusahaan menulis dalam sebuah posting ke X pada hari Rabu.
Tim Komunikasi perusahaan menulis: ‘Kami telah berupaya mengatasi masalah terkini dengan fitur pembuatan gambar Gemini. Sementara kami melakukan hal ini, kami akan menghentikan sementara pembuatan citra orang-orang dan akan segera merilis kembali versi yang lebih baik.’
Paus Perempuan
Salah satu tanggapan Gemini yang menuai kontroversi adalah salah satu ‘tentara Jerman tahun 1943’. Gemini menunjukkan satu pria kulit putih, dua wanita kulit berwarna, dan satu pria kulit hitam.
Problem lain muncul. Seseorang yang meminta gambar Paus yang muncul adalah sosok seorang wanita Asia Selatan dan seorang pria kulit hitam, Secara historis, setiap Paus adalah laki-laki. Mayoritas (lebih dari 200 di antaranya) adalah orang Italia. Tiga paus sepanjang sejarah berasal dari Afrika Utara, namun para sejarawan memperdebatkan warna kulit mereka karena yang terbaru, Paus Gelasius I, meninggal pada tahun 496.
Oleh karena itu, tidak dapat dikatakan dengan pasti bahwa gambaran Paus laki-laki berkulit hitam secara historis tidak akurat, namun tidak pernah ada Paus perempuan.
Seorang pengguna meminta gambar tentara Jerman tahun 1943 dan diperlihatkan seorang pria kulit putih, satu pria kulit hitam, dan dua wanita kulit berwarna. Tentara Jerman pada Perang Dunia 2 tidak menyertakan perempuan, dan tentunya tidak menyertakan orang kulit berwarna. Faktanya, itu didedikasikan untuk memusnahkan ras yang menurut Adolph Hitler lebih rendah daripada ras ‘Arya’ yang berambut pirang dan bermata biru.
Google meluncurkan fitur penghasil gambar AI Gemini pada awal Februari, bersaing dengan program AI generatif lainnya seperti Midjourney. Pengguna dapat mengetikkan perintah dalam bahasa sederhana, dan Gemini akan mengeluarkan banyak gambar dalam hitungan detik. Namun gambar yang tak sesuai, menjadikan Gemini sebagai rasis.
AI Sora Deepfake Ancaman Seniman
Membuat Foto Realistik Dengan Bantuan AI
Kebaikan Kecil Yang Membesarkan
