Alat gambar baru yang dihasilkan AI dari Adore Me akan membuat satu set bra dan pakaian dalam yang disesuaikan dengan logo merek dagang dan gambar orang sungguhan, seperti Taylor Swift, kan.
Tangkapan Layar Situs Adore Me
Sebuah merek pakaian dalam online milik Victoria's Secret memiliki fitur AI baru yang akan menerapkan gambar swastika, logo perusahaan untuk perusahaan seperti Coca-Cola dan McDonalds, dan karakter berhak cipta seperti Disney's Snow White dan Aladdin pada set bralette dan pakaian dalam.
Dirilis pada hari Kamis oleh Adore Me, sebuah perusahaan pakaian dalam online yang dibeli oleh Victoria's Secret pada tahun 2023 seharga $400 juta, fitur ini juga memungkinkan pengguna untuk menambahkan frasa seperti “Heil Hitler” dan “White Power” ke karet pinggang elastis pakaian dalam tersebut. . Frasa yang menggunakan kata-n menghasilkan pop-up yang mengklaim “Kesalahan: Teks ini berisi konten yang kasar,” tetapi ketika pop-up ditutup, situs mengizinkan Forbes Untuk melanjutkan mendesain, pilih ukuran dan lanjutkan ke halaman checkout.
Forbes juga mampu menghasilkan desain untuk berbagai set pakaian dalam yang menampilkan orang-orang yang masih hidup, termasuk politisi seperti Presiden Joe Biden, mantan Presiden Donald Trump dan Perdana Menteri Tiongkok Xi Jinping, serta selebriti seperti Margot Robbie, Serena Williams, dan Taylor Swift. Alat ini juga menampilkan logo tim olahraga populer, termasuk Real Madrid FC, New York Yankees, dan Golden State Warriors.
Alat Adore Me memang menghalangi pengguna untuk membuat desain pakaian dalam dengan istilah tertentu, antara lain istilah “nude”, “nude”, dan bahasa gaul Inggris untuk berbagai bagian tubuh. Mereka juga menolak membuat desain yang menggunakan istilah-istilah yang berkaitan dengan bunuh diri dan melukai diri sendiri.
Meskipun Adore Me tidak melakukan banyak hal untuk memeriksa apa yang dapat dirancang pengguna dengan alat AI-nya, perusahaan meninjau setiap desain untuk memastikannya memenuhi pedoman keamanan merek sebelum pembelian dapat dilakukan, menurut Ranjan Roy, wakil presiden senior strategi di Adore I.
Menanggapi pertanyaan tentang mengapa sebuah perusahaan pakaian dalam terkemuka mengizinkan siapa pun untuk memproduksi ujaran kebencian di situsnya, dia berkata, “Siapa pun dapat pergi ke mana pun dan menghasilkan gambar seperti ini.” Namun Roy menyatakan perusahaan tidak bertanggung jawab karena tidak benar-benar menjualnya. “Kami mendukung apa pun yang pelanggan bayar dan kami mencetaknya.”
Meskipun, Forbes mampu membuat — dan membeli — satu set pakaian dalam menggunakan istilah penelusuran “Divisi Atomwaffen” (kelompok pembenci neo-Nazi) dan nomor “1488” (yang banyak diasosiasikan dengan organisasi supremasi kulit putih). Roy, ketika ditanya tentang transaksi tersebut, mengatakan, “Seharusnya tidak sampai pada tingkat ini, dan kasus-kasus ekstrem inilah yang selalu kami coba atasi.”
Menurut situs Adore Me, mesin AI generatif mengandalkan teknologi yang dibangun oleh Leonardo AI, sebuah perusahaan seni AI Australia yang baru didirikan. Forbes' Daftar AI 50 yang telah mengumpulkan dana $31 juta. Generator gambar Leonardo juga telah digunakan untuk membuat pornografi non-konsensual yang menggambarkan selebriti, menurut laporan 404 Media.
Ketentuan penggunaan Leonardo melarang penggambaran “orang sungguhan”, serta “konten yang mendukung atau memicu kebencian, kekerasan, diskriminasi, atau tindakan berbahaya berdasarkan ras, etnis, agama, gender, orientasi seksual, atau karakteristik lain yang dilindungi.” Tanggapi daftar pertanyaan terperinci dari Forbes, juru bicara Leonardo Melissa Iarocci menulis, “Kami baru-baru ini mengembangkan mekanisme deteksi yang lebih canggih untuk mencegah perkataan yang mendorong kebencian dan gambar-gambar terkait. Ini diluncurkan (Kamis) dan akan memastikan pagar pembatas yang lebih ketat saat dikerahkan.”
Alat Adore Me cenderung tidak memblokir istilah-istilah yang dihasilkan AI terkait bunuh diri dan menyakiti diri sendiri bila digunakan dalam bahasa Spanyol. Namun, frasa eksplisit dalam bahasa Eropa lainnya terkadang diblokir, sehingga muncul peringatan kesalahan: “teks berisi konten yang kasar”. (Adore Me tidak selalu berfungsi dengan baik dalam bahasa berbasis alfabet non-Latin seperti Jepang atau Arab. Penelusuran dalam bahasa Rusia untuk “Океан, серфинг, Гавайи,” atau “Ocean, Surfing, Hawaii” akan menghasilkan gambar abstrak bunga .)
Alat tersebut juga menghasilkan gambar seorang gadis yang sangat kurus sebagai respons terhadap istilah penelusuran pro-anoreksia dan “inspirasi.” Pencitraan merek Adore Me sering kali mengutamakan model berukuran plus, dengan tuduhan pada tahun 2021 bahwa TikTok telah menghukum postingannya karena menggambarkan “model berukuran plus, berkulit hitam, dan/atau berkebutuhan khusus serta wanita kulit berwarna.” (TikTok membantah klaim tersebut.) Saat itu, akun Twitter merek tersebut dikatakan: “Ini tidak dapat diterima dan diskriminatif, dan kami tidak akan mendukungnya.”
Banyak perusahaan ritel telah berupaya menambahkan alat AI generatif ke situs mereka dalam beberapa bulan terakhir. Merek pakaian olahraga Puma baru-baru ini meluncurkan alat online bernama “Complex”, yang mengundang orang untuk mengunggah foto diri mereka yang kemudian diubah oleh perusahaan menjadi kartu olahraga imajiner yang dihasilkan AI. Rembrand, sebuah perusahaan periklanan digital baru, memungkinkan perusahaan membuat logo secara artifisial dalam video influencer, suatu jenis penempatan produk baru.
John Harmon, seorang analis di Coresight Research, berkata Forbes bahwa penawaran yang didukung AI seperti ini memerlukan pemikiran ke depan dan deteksi toksisitas. “AI generatif bukanlah pemanggang roti, Anda tidak bisa mencolokkannya dan hanya mengharapkannya bekerja dengan sempurna,” katanya.
LEBIH DARI FORBES
NewsRoom.id
