OpenAI memblokir pengguna untuk membuat video yang dibuat oleh AI dari mendiang pemimpin hak-hak sipil Martin Luther King Jr. dalam model video AI-nya, Sora. Perusahaan mengumumkan langkah tersebut pada hari Kamis dalam pernyataan bersama dengan King Estate.
Menurut OpenAI, beberapa pengguna telah membuat “penggambaran tidak sopan” terhadap King. Atas permintaan properti tersebut, perusahaan tersebut mengatakan bahwa mereka menghentikan kemampuan pengguna untuk membuat video aktivis tersebut karena perusahaan tersebut berupaya untuk “memperkuat pagar pembatas terhadap tokoh-tokoh sejarah.”
“Meskipun ada kepentingan kebebasan berpendapat yang kuat dalam menggambarkan tokoh-tokoh sejarah, OpenAI percaya bahwa tokoh masyarakat dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana kemiripan mereka digunakan,” kata perusahaan itu dalam pernyataannya.
OpenAI menambahkan bahwa perwakilan resmi atau pemilik properti dari tokoh sejarah lainnya kini dapat meminta agar kemiripan mereka tidak digunakan dalam video Sora.
OpenAI baru-baru ini meluncurkan model video AI tercanggihnya, Sora 2, bersama dengan aplikasi media sosial baru mirip TikTok. Aplikasi ini memungkinkan pengguna mengunggah kemiripan mereka sendiri, yang disebut akting cemerlang, untuk membuat video buatan AI yang menampilkan diri mereka sendiri, teman, selebritas, dan karakter fiksi.
Sejak debutnya beberapa minggu yang lalu, OpenAI telah mulai mengubah cara kerja aplikasinya untuk mencoba menavigasi keseimbangan yang masih suram antara kebebasan berekspresi dan penyalahgunaan AI.
Bahkan CEO OpenAI Sam Altman mengatakan dalam postingan di X bahwa perusahaan merasa “ragu-ragu” dalam meluncurkan model dan aplikasi media sosial terbarunya.
“Media sosial memberikan dampak baik bagi dunia, namun juga memberikan dampak buruk,” tulisnya. “Kami menyadari betapa layanan seperti ini dapat membuat ketagihan, dan kami dapat membayangkan banyaknya cara yang dapat digunakan untuk melakukan penindasan.”
Tidak butuh waktu lama bagi orang-orang untuk mulai bertingkah aneh terhadap Sora. The Washington Post melaporkan bahwa klip Sora yang menampilkan mendiang selebriti seperti Michael Jackson, Amy Winehouse, dan Whitney Houston dengan cepat membanjiri media sosial. Meskipun ada yang dimaksudkan sebagai penghormatan ringan, ada pula yang lebih tidak sopan.
Menurut The Post, beberapa pengguna membuat video King mengeluarkan suara monyet selama pidato “I Have a Dream” dan bergulat dengan sesama aktivis hak-hak sipil Malcolm X.
Beberapa keluarga korban dengan cepat mengeluh dan meminta orang-orang untuk berhenti membagikan video AI milik kerabat mereka.
Zelda Williams, putri mendiang aktor Robin Williams, memposting di Instagram awal bulan ini, mendesak orang-orang untuk berhenti mengirimkan video ayahnya yang dibuat oleh AI. Tidak jelas apakah video yang dia referensikan dibuat dengan mempertimbangkan Sora, tetapi postingannya mengikuti peluncuran aplikasi tersebut.
Bernice King, putri Martin Luther King Jr., menulis di postingan Instagram-nya tentang komentar Williams, “Saya setuju tentang ayah saya. Tolong berhenti.”
Langkah terbaru OpenAI mencerminkan perubahan dalam cara menangani materi berhak cipta.
Setelah awalnya mengharuskan pemegang hak cipta untuk memilih tidak menampilkan konten mereka di video buatan Sora, Altman mengumumkan awal bulan ini bahwa perusahaan akan beralih ke model “keikutsertaan” yang akan “memberikan pemegang hak kontrol yang lebih terperinci atas pembuatan karakter.”
NewsRoom.id
