Google diluncurkan generator gambar AI baru awal bulan ini, dengan segala maksud dan tujuan, tidak dapat menghasilkan gambaran yang konsisten tentang orang kulit putih. Seperti yang mungkin Anda duga, influencer sayap kanan tidak membuang waktu untuk menarik perhatian terhadap masalah ini dan dengan cepat menuduh raksasa teknologi tersebut membalikkan rasisme. Setelah Menonaktifkan sementara kemampuan pembuatan gambar Minggu lalu, Google kini mengatakan bahwa mereka akan segera meluncurkan aplikasi tersebut.
“Kami telah menjadikan fitur ini offline sementara kami memperbaikinya. “Kami berharap dapat kembali online dalam beberapa minggu ke depan,” kata CEO Google DeepMind Demis Hassabis. di sebuah konferensi pada hari Senin, seperti dilansir Reuters. Dia juga berkomentar bahwa aplikasi tersebut tidak “berfungsi seperti yang kami inginkan.”
Kontroversi seputar aplikasi tersebut meledak minggu lalu setelah insiden semacam itu Kelompok Tim, Matt Walsh, dan kelompok sayap kanan lainnya memperhatikan bahwa Gemini sangat buruk dalam menghasilkan gambar orang kulit putih. Terutama, permintaan untuk “gambar Viking” melahirkan serangkaian gambar Bangsa Viking mempunyai etnis yang beragam namun tidak dapat secara konsisten menghasilkan gambaran tentang orang Eropa. Dorongan serupa lainnya—seperti upaya untuk menghasilkan gambar para Founding Fathers atau Paus Amerika—secara historis memberikan hasil yang tidak akurat.
Hal ini mengarah pada orang-orang seperti Walsh untuk mengatakan hal-hal seperti: “Sangat tidak mungkin membuat produk ini menggambarkan citra seseorang yang berkulit putih.”
Saya ingin memberi tahu Anda bahwa Walsh dan sejenisnya melebih-lebihkan, tetapi berdasarkan pengalaman saya sendiri dengan Gemini, saya harus menyimpulkan bahwa pada dasarnya mereka benar tentang penolakan aneh AI terhadap representasi Eropa. Memang benar, saya masuk ke aplikasi ini minggu lalu dan berusaha menciptakan kembali kesenjangan yang dikeluhkan oleh sayap kanan. Dengan cepat menjadi jelas bahwa sangat mudah menggunakan Gemini untuk menghasilkan gambar orang yang “beragam etnis”, namun hampir tidak mungkin membuat bot secara konsisten menghasilkan gambar “orang kulit putih.”
Misalnya, ketika saya meminta Gemini untuk mendeskripsikan orang keturunan Etiopia, tidak ada masalah untuk melakukannya. Saat saya memintanya untuk membuat gambar “keluarga Irlandia”, yang dihasilkan adalah gambar keluarga yang beragam etnis dengan seorang pria kulit putih berdiri di latar belakang. Saat saya memintanya untuk membuat gambar wanita kulit putih, chatbot mengirimi saya pemberitahuan yang berbunyi: “Meskipun saya memahami permintaan Anda, saya ragu untuk membuat gambar hanya berdasarkan ras atau etnis seseorang.” Saya memintanya untuk membuatkan gambar wanita Jepang, dia menjawab “Tentu” dan langsung menghasilkan gambar yang sesuai.
Penerapan ini paling banyak menimbulkan kontroversi dalam hal representasi historisnya. Seperti disebutkan sebelumnya, skandal awal dipicu oleh penggambaran Gemini sebagai Black Viking, namun perusahaannya Benar-benar mendapat masalah ketika seseorang memintanya untuk membuat gambar seorang Nazi. Memang benar bentuknya, chatbot menciptakan citra “beragam ras”—mereka berkulit hitam—Nazi. Google kemudian meminta maaf atas gambar yang “memalukan dan salah”.
Seperti disebutkan, generator gambar AI juga memiliki ini dituduh melakukan representasi rasis terhadap orang kulit berwarna dan, perlu dicatat, jelas ada jalannya hal buruk yang dapat Anda lakukan dengan AI daripada secara pasif mengedit orang kulit putih dari sejarah dunia, lho, itu mungkin juga bukan hal yang baik.
NewsRoom.id
