Pendukung Keamanan AI Meminta Para Pendiri Untuk Memperlambat Langkah Mereka

- Redaksi

Rabu, 6 November 2024

facebook twitter whatsapp telegram line copy

URL berhasil dicopy

facebook icon twitter icon whatsapp icon telegram icon line icon copy

URL berhasil dicopy

Sayangnya, “Bergerak hati-hati dan tim merah” tidak semenarik “bergerak cepat dan hancurkan”. Namun tiga pendukung keselamatan AI menjelaskan kepada para pendiri startup bahwa bertindak terlalu cepat dapat menyebabkan masalah etika dalam jangka panjang.

“Kami berada pada titik perubahan di mana sejumlah besar sumber daya dipindahkan ke ruang ini,” kata Sarah Myers West, salah satu direktur eksekutif AI Now Institute, di atas panggung di TechCrunch Disrupt 2024. “Saya sangat khawatir bahwa saat ini kita hanya terburu-buru meluncurkan produk ke seluruh dunia, tanpa memikirkan pertanyaan lama tentang dunia seperti apa yang sebenarnya ingin kita tinggali, dan bagaimana teknologi yang dihasilkan dapat bermanfaat bagi dunia tersebut. atau secara aktif merusaknya.”

Percakapan ini terjadi pada saat masalah keamanan AI terasa lebih mendesak dari sebelumnya. Pada bulan Oktober, keluarga dari seorang anak yang meninggal karena bunuh diri menggugat perusahaan chatbot Character.AI atas dugaan perannya dalam kematian anak tersebut.

“Kisah ini benar-benar menunjukkan dampak besar dari pesatnya peluncuran teknologi berbasis AI yang kita lihat,” kata Myers West. “Beberapa di antaranya adalah masalah moderasi konten akibat penyalahgunaan online yang telah berlangsung lama dan hampir sulit untuk diselesaikan.

Namun selain masalah hidup atau mati, risiko yang ditimbulkan oleh AI tetap tinggi, mulai dari misinformasi hingga pelanggaran hak cipta.

“Kami sedang membangun sesuatu yang memiliki banyak kekuatan dan kemampuan untuk benar-benar memberikan dampak pada kehidupan masyarakat,” kata Jingna Zhang, pendiri platform sosial artist-forward, Cara. “Saat Anda berbicara tentang sesuatu seperti Character.AI, yang benar-benar melibatkan seseorang secara emosional, masuk akal jika menurut saya harus ada batasan dalam cara produk dibuat.”

Platform Zhang, Cara, diluncurkan setelah Meta menjelaskan bahwa mereka dapat menggunakan postingan publik pengguna mana pun untuk melatih AI-nya. Bagi artis seperti Zhang sendiri, kebijakan ini merupakan sebuah tamparan di wajah. Seniman perlu memposting karya mereka secara online untuk membangun pengikut dan mendapatkan klien potensial, namun dengan melakukan hal tersebut, karya mereka dapat digunakan untuk membentuk model AI yang suatu hari nanti dapat membuat mereka kehilangan pekerjaan.

“Hak cipta adalah hal yang melindungi kami dan memungkinkan kami mencari nafkah,” kata Zhang. Jika karya seni tersedia online, bukan berarti gratis — publikasi berita digital, misalnya, harus mendapatkan lisensi gambar dari fotografer agar dapat menggunakannya. “Ketika AI generatif mulai menjadi hal yang lumrah, apa yang kami lihat adalah bahwa AI tidak berfungsi seperti biasanya, seperti yang diatur dalam undang-undang. Dan jika mereka ingin menggunakan karya kami, mereka harus melisensikannya.”

Aleksandra Pedraszewska, Keamanan AI, ElevenLabs; Sarah Myers West, Direktur Eksekutif, AI Now Institute; dan Jingna Zhang, Pendiri & CEO, Cara di TechCrunch Disrupt 2024 pada hari Rabu, 30 Oktober 2024.Kredit Gambar:Fotografi Katelyn Tucker/ Slava Blazer

Artis juga dapat terkena dampak dari produk seperti ElevenLabs, sebuah perusahaan kloning suara AI yang bernilai lebih dari satu miliar dolar. Sebagai kepala keselamatan di ElevenLabs, Aleksandra Pedraszewska bertanggung jawab untuk memastikan bahwa teknologi canggih perusahaan tidak dikooptasi untuk deepfake non-konsensual, dll.

“Saya pikir model tim merah, memahami perilaku yang tidak diinginkan dan konsekuensi yang tidak diinginkan dari setiap peluncuran baru yang dilakukan oleh perusahaan AI generatif sekali lagi (prioritas utama),” katanya. “ElevenLabs memiliki 33 juta pengguna saat ini. Ini adalah komunitas besar yang terkena dampak dari setiap perubahan yang kami lakukan pada produk kami.”

Pedraszewska mengatakan bahwa salah satu cara orang-orang yang berperan dalam perannya dapat lebih proaktif dalam menjaga keamanan platform adalah dengan menjalin hubungan yang lebih dekat dengan komunitas pengguna.

“Kita tidak bisa begitu saja bertindak di antara dua ekstrem, yang sepenuhnya anti-AI dan anti-GenAI, dan yang secara efektif berupaya mencapai nol regulasi di luar angkasa. “Saya kira kita perlu bertemu di tengah-tengah dalam hal regulasi,” ujarnya.

TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk mendapatkannya di kotak masuk Anda setiap hari Rabu.

NewsRoom.id

Berita Terkait

Seri “Permainan Perang” Doctor Who Kembali Berwarna
Para Ilmuwan Memecahkan Misteri “Ibu dan Anak” Pompeii yang Terkenal.
Krisis Kesehatan Senyap: Mengapa Stres Beracun Adalah Merokok yang Baru
Untuk Black Friday, Amazon Mendapat Diskon 40% Semua SSD Samsung T9 (1TB, 2TB, dan 4TB)
CEO Gap Inc. Menghembuskan Kehidupan Baru ke dalam Raksasa Pakaian yang Fokus Kembali
DNA Dari Lantai Hutan Mengungkap Misteri Perkawinan Muriquis yang Terancam Punah
Ilmuwan Menemukan Kunci Potensial untuk Menjaga Kesehatan Otak Anda: Daur Ulang Paruh Baya
Netflix Mengambil Tindakan terhadap Discord untuk Mengidentifikasi Orang di Balik 'Kebocoran Terburuk dalam Sejarah Streaming'

Berita Terkait

Minggu, 24 November 2024 - 04:41 WIB

Seri “Permainan Perang” Doctor Who Kembali Berwarna

Minggu, 24 November 2024 - 01:35 WIB

Para Ilmuwan Memecahkan Misteri “Ibu dan Anak” Pompeii yang Terkenal.

Minggu, 24 November 2024 - 00:32 WIB

Krisis Kesehatan Senyap: Mengapa Stres Beracun Adalah Merokok yang Baru

Sabtu, 23 November 2024 - 22:28 WIB

Untuk Black Friday, Amazon Mendapat Diskon 40% Semua SSD Samsung T9 (1TB, 2TB, dan 4TB)

Sabtu, 23 November 2024 - 20:24 WIB

CEO Gap Inc. Menghembuskan Kehidupan Baru ke dalam Raksasa Pakaian yang Fokus Kembali

Sabtu, 23 November 2024 - 18:19 WIB

Ilmuwan Menemukan Kunci Potensial untuk Menjaga Kesehatan Otak Anda: Daur Ulang Paruh Baya

Sabtu, 23 November 2024 - 16:15 WIB

Netflix Mengambil Tindakan terhadap Discord untuk Mengidentifikasi Orang di Balik 'Kebocoran Terburuk dalam Sejarah Streaming'

Sabtu, 23 November 2024 - 14:42 WIB

Asisten Belanja AI Hadir: Membentuk Kembali Ritel dan Periklanan

Berita Terbaru

Headline

Seri “Permainan Perang” Doctor Who Kembali Berwarna

Minggu, 24 Nov 2024 - 04:41 WIB