Sayangnya, “Bergerak hati-hati dan tim merah” tidak semenarik “bergerak cepat dan hancurkan”. Namun tiga pendukung keselamatan AI menjelaskan kepada para pendiri startup bahwa bertindak terlalu cepat dapat menyebabkan masalah etika dalam jangka panjang.
“Kami berada pada titik perubahan di mana sejumlah besar sumber daya dipindahkan ke ruang ini,” kata Sarah Myers West, salah satu direktur eksekutif AI Now Institute, di atas panggung di TechCrunch Disrupt 2024. “Saya sangat khawatir bahwa saat ini kita hanya terburu-buru meluncurkan produk ke seluruh dunia, tanpa memikirkan pertanyaan lama tentang dunia seperti apa yang sebenarnya ingin kita tinggali, dan bagaimana teknologi yang dihasilkan dapat bermanfaat bagi dunia tersebut. atau secara aktif merusaknya.”
Percakapan ini terjadi pada saat masalah keamanan AI terasa lebih mendesak dari sebelumnya. Pada bulan Oktober, keluarga dari seorang anak yang meninggal karena bunuh diri menggugat perusahaan chatbot Character.AI atas dugaan perannya dalam kematian anak tersebut.
“Kisah ini benar-benar menunjukkan dampak besar dari pesatnya peluncuran teknologi berbasis AI yang kita lihat,” kata Myers West. “Beberapa di antaranya adalah masalah moderasi konten akibat penyalahgunaan online yang telah berlangsung lama dan hampir sulit untuk diselesaikan.
Namun selain masalah hidup atau mati, risiko yang ditimbulkan oleh AI tetap tinggi, mulai dari misinformasi hingga pelanggaran hak cipta.
“Kami sedang membangun sesuatu yang memiliki banyak kekuatan dan kemampuan untuk benar-benar memberikan dampak pada kehidupan masyarakat,” kata Jingna Zhang, pendiri platform sosial artist-forward, Cara. “Saat Anda berbicara tentang sesuatu seperti Character.AI, yang benar-benar melibatkan seseorang secara emosional, masuk akal jika menurut saya harus ada batasan dalam cara produk dibuat.”
Platform Zhang, Cara, diluncurkan setelah Meta menjelaskan bahwa mereka dapat menggunakan postingan publik pengguna mana pun untuk melatih AI-nya. Bagi artis seperti Zhang sendiri, kebijakan ini merupakan sebuah tamparan di wajah. Seniman perlu memposting karya mereka secara online untuk membangun pengikut dan mendapatkan klien potensial, namun dengan melakukan hal tersebut, karya mereka dapat digunakan untuk membentuk model AI yang suatu hari nanti dapat membuat mereka kehilangan pekerjaan.
“Hak cipta adalah hal yang melindungi kami dan memungkinkan kami mencari nafkah,” kata Zhang. Jika karya seni tersedia online, bukan berarti gratis — publikasi berita digital, misalnya, harus mendapatkan lisensi gambar dari fotografer agar dapat menggunakannya. “Ketika AI generatif mulai menjadi hal yang lumrah, apa yang kami lihat adalah bahwa AI tidak berfungsi seperti biasanya, seperti yang diatur dalam undang-undang. Dan jika mereka ingin menggunakan karya kami, mereka harus melisensikannya.”
Artis juga dapat terkena dampak dari produk seperti ElevenLabs, sebuah perusahaan kloning suara AI yang bernilai lebih dari satu miliar dolar. Sebagai kepala keselamatan di ElevenLabs, Aleksandra Pedraszewska bertanggung jawab untuk memastikan bahwa teknologi canggih perusahaan tidak dikooptasi untuk deepfake non-konsensual, dll.
“Saya pikir model tim merah, memahami perilaku yang tidak diinginkan dan konsekuensi yang tidak diinginkan dari setiap peluncuran baru yang dilakukan oleh perusahaan AI generatif sekali lagi (prioritas utama),” katanya. “ElevenLabs memiliki 33 juta pengguna saat ini. Ini adalah komunitas besar yang terkena dampak dari setiap perubahan yang kami lakukan pada produk kami.”
Pedraszewska mengatakan bahwa salah satu cara orang-orang yang berperan dalam perannya dapat lebih proaktif dalam menjaga keamanan platform adalah dengan menjalin hubungan yang lebih dekat dengan komunitas pengguna.
“Kita tidak bisa begitu saja bertindak di antara dua ekstrem, yang sepenuhnya anti-AI dan anti-GenAI, dan yang secara efektif berupaya mencapai nol regulasi di luar angkasa. “Saya kira kita perlu bertemu di tengah-tengah dalam hal regulasi,” ujarnya.
TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk mendapatkannya di kotak masuk Anda setiap hari Rabu.
NewsRoom.id
