Pendukung Keamanan AI Meminta Para Pendiri Untuk Memperlambat Langkah Mereka

- Redaksi

Rabu, 6 November 2024

facebook twitter whatsapp telegram line copy

URL berhasil dicopy

facebook icon twitter icon whatsapp icon telegram icon line icon copy

URL berhasil dicopy

Sayangnya, “Bergerak hati-hati dan tim merah” tidak semenarik “bergerak cepat dan hancurkan”. Namun tiga pendukung keselamatan AI menjelaskan kepada para pendiri startup bahwa bertindak terlalu cepat dapat menyebabkan masalah etika dalam jangka panjang.

“Kami berada pada titik perubahan di mana sejumlah besar sumber daya dipindahkan ke ruang ini,” kata Sarah Myers West, salah satu direktur eksekutif AI Now Institute, di atas panggung di TechCrunch Disrupt 2024. “Saya sangat khawatir bahwa saat ini kita hanya terburu-buru meluncurkan produk ke seluruh dunia, tanpa memikirkan pertanyaan lama tentang dunia seperti apa yang sebenarnya ingin kita tinggali, dan bagaimana teknologi yang dihasilkan dapat bermanfaat bagi dunia tersebut. atau secara aktif merusaknya.”

Percakapan ini terjadi pada saat masalah keamanan AI terasa lebih mendesak dari sebelumnya. Pada bulan Oktober, keluarga dari seorang anak yang meninggal karena bunuh diri menggugat perusahaan chatbot Character.AI atas dugaan perannya dalam kematian anak tersebut.

“Kisah ini benar-benar menunjukkan dampak besar dari pesatnya peluncuran teknologi berbasis AI yang kita lihat,” kata Myers West. “Beberapa di antaranya adalah masalah moderasi konten akibat penyalahgunaan online yang telah berlangsung lama dan hampir sulit untuk diselesaikan.

Namun selain masalah hidup atau mati, risiko yang ditimbulkan oleh AI tetap tinggi, mulai dari misinformasi hingga pelanggaran hak cipta.

“Kami sedang membangun sesuatu yang memiliki banyak kekuatan dan kemampuan untuk benar-benar memberikan dampak pada kehidupan masyarakat,” kata Jingna Zhang, pendiri platform sosial artist-forward, Cara. “Saat Anda berbicara tentang sesuatu seperti Character.AI, yang benar-benar melibatkan seseorang secara emosional, masuk akal jika menurut saya harus ada batasan dalam cara produk dibuat.”

Platform Zhang, Cara, diluncurkan setelah Meta menjelaskan bahwa mereka dapat menggunakan postingan publik pengguna mana pun untuk melatih AI-nya. Bagi artis seperti Zhang sendiri, kebijakan ini merupakan sebuah tamparan di wajah. Seniman perlu memposting karya mereka secara online untuk membangun pengikut dan mendapatkan klien potensial, namun dengan melakukan hal tersebut, karya mereka dapat digunakan untuk membentuk model AI yang suatu hari nanti dapat membuat mereka kehilangan pekerjaan.

“Hak cipta adalah hal yang melindungi kami dan memungkinkan kami mencari nafkah,” kata Zhang. Jika karya seni tersedia online, bukan berarti gratis — publikasi berita digital, misalnya, harus mendapatkan lisensi gambar dari fotografer agar dapat menggunakannya. “Ketika AI generatif mulai menjadi hal yang lumrah, apa yang kami lihat adalah bahwa AI tidak berfungsi seperti biasanya, seperti yang diatur dalam undang-undang. Dan jika mereka ingin menggunakan karya kami, mereka harus melisensikannya.”

Aleksandra Pedraszewska, Keamanan AI, ElevenLabs; Sarah Myers West, Direktur Eksekutif, AI Now Institute; dan Jingna Zhang, Pendiri & CEO, Cara di TechCrunch Disrupt 2024 pada hari Rabu, 30 Oktober 2024.Kredit Gambar:Fotografi Katelyn Tucker/ Slava Blazer

Artis juga dapat terkena dampak dari produk seperti ElevenLabs, sebuah perusahaan kloning suara AI yang bernilai lebih dari satu miliar dolar. Sebagai kepala keselamatan di ElevenLabs, Aleksandra Pedraszewska bertanggung jawab untuk memastikan bahwa teknologi canggih perusahaan tidak dikooptasi untuk deepfake non-konsensual, dll.

“Saya pikir model tim merah, memahami perilaku yang tidak diinginkan dan konsekuensi yang tidak diinginkan dari setiap peluncuran baru yang dilakukan oleh perusahaan AI generatif sekali lagi (prioritas utama),” katanya. “ElevenLabs memiliki 33 juta pengguna saat ini. Ini adalah komunitas besar yang terkena dampak dari setiap perubahan yang kami lakukan pada produk kami.”

Pedraszewska mengatakan bahwa salah satu cara orang-orang yang berperan dalam perannya dapat lebih proaktif dalam menjaga keamanan platform adalah dengan menjalin hubungan yang lebih dekat dengan komunitas pengguna.

“Kita tidak bisa begitu saja bertindak di antara dua ekstrem, yang sepenuhnya anti-AI dan anti-GenAI, dan yang secara efektif berupaya mencapai nol regulasi di luar angkasa. “Saya kira kita perlu bertemu di tengah-tengah dalam hal regulasi,” ujarnya.

TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk mendapatkannya di kotak masuk Anda setiap hari Rabu.

NewsRoom.id

Berita Terkait

Mengapa Musim Perayaan Dimulai Lebih Awal
Pemilu AS: Sehari Setelahnya – Apa Hasilnya; Apa yang Harris dan Trump Lakukan | Berita Pemilu AS 2024
Apakah Ada Kehidupan di Bawah Permukaan Es Europa? Instrumen Mutakhir Ini Akan Mengetahuinya
Pendudukan Meluncurkan Kampanye Penggerebekan dan Penangkapan di Tepi Barat
Pengadilan Israel memenjarakan imam masjid Yerusalem selama tiga tahun
Hasil Sementara Pilpres AS 2024, Donald Trump Kalahkan Kamala Harris di 30 Negara Bagian
Apakah Bahan Makanan Anda Berbahaya bagi Kehamilan Anda? Racun Jamur yang Mengkhawatirkan Ditemukan dalam Makanan Populer Sehari-hari
Keluarga Jerman Tidak 'Percaya Apa Pun' Kata Iran Tentang Kematiannya: Putri

Berita Terkait

Rabu, 6 November 2024 - 15:45 WIB

Mengapa Musim Perayaan Dimulai Lebih Awal

Rabu, 6 November 2024 - 15:14 WIB

Pemilu AS: Sehari Setelahnya – Apa Hasilnya; Apa yang Harris dan Trump Lakukan | Berita Pemilu AS 2024

Rabu, 6 November 2024 - 14:43 WIB

Apakah Ada Kehidupan di Bawah Permukaan Es Europa? Instrumen Mutakhir Ini Akan Mengetahuinya

Rabu, 6 November 2024 - 14:12 WIB

Pendudukan Meluncurkan Kampanye Penggerebekan dan Penangkapan di Tepi Barat

Rabu, 6 November 2024 - 13:40 WIB

Pengadilan Israel memenjarakan imam masjid Yerusalem selama tiga tahun

Rabu, 6 November 2024 - 12:37 WIB

Apakah Bahan Makanan Anda Berbahaya bagi Kehamilan Anda? Racun Jamur yang Mengkhawatirkan Ditemukan dalam Makanan Populer Sehari-hari

Rabu, 6 November 2024 - 12:06 WIB

Keluarga Jerman Tidak 'Percaya Apa Pun' Kata Iran Tentang Kematiannya: Putri

Rabu, 6 November 2024 - 11:34 WIB

Sekretariat Kabinet Republik Indonesia | Presiden Prabowo Subianto Lantik Wakil Ketua dan Anggota Dewan Perekonomian Nasional di Istana Negara Presiden Prabowo Subianto Lantik Wakil Ketua dan Anggota Dewan Perekonomian Nasional di Istana Negara

Berita Terbaru

Headline

Mengapa Musim Perayaan Dimulai Lebih Awal

Rabu, 6 Nov 2024 - 15:45 WIB