Tahun lalu, Gubernur California Gavin Newsom memveto RUU yang sangat populer (antara publik) dan sangat kontroversial (di antara perusahaan teknologi) yang akan menetapkan pedoman keselamatan yang kuat untuk pengembangan dan pengoperasian model intelijen buatan. Sekarang dia akan memiliki tembakan kedua – kali ini dengan setidaknya bagian dari industri teknologi yang memberinya lampu hijau. Pada hari Sabtu, anggota Parlemen California mengesahkan RUU Senat 53, undang -undang penting yang akan mengharuskan perusahaan AI untuk mengajukan tes keselamatan baru.
RUU Senat 53, yang sekarang sedang menunggu tanda tangan gubernur menjadi undang -undang di negara bagian, akan mengharuskan perusahaan untuk membangun model AI “perbatasan” -sistem yang membutuhkan sejumlah besar data dan daya komputasi untuk beroperasi -untuk memberikan lebih banyak transparansi ke dalam proses mereka. Itu akan mencakup mengungkapkan insiden keselamatan yang melibatkan perilaku berbahaya atau menipu oleh sistem AI otonom, memberikan lebih banyak kejelasan pada protokol evaluasi keselamatan dan keamanan dan risiko, dan memberikan perlindungan bagi whistleblower yang khawatir tentang potensi bahaya yang mungkin berasal dari model yang sedang mereka kerjakan.
RUU – yang akan berlaku untuk pekerjaan perusahaan seperti Openai, Google, XAI, Antropik, dan lainnya – tentu saja telah tumpul dari upaya sebelumnya untuk menciptakan kerangka keamanan yang luas untuk industri AI. RUU yang sangat Newsom tahun lalu, misalnya, akan menentukan “sakelar pembunuhan” bagi model untuk mengatasi potensi mereka untuk menjadi nakal. Itu tidak ditemukan di sini. Versi sebelumnya dari SB 53 juga menerapkan persyaratan keselamatan untuk perusahaan kecil, tetapi telah berubah. Dalam versi yang melewati Senat dan Majelis, perusahaan yang membawa pendapatan tahunan kurang dari $ 500 juta hanya harus mengungkapkan rincian tingkat keamanan yang tinggi daripada informasi granular yang lebih banyak, sesuai dengan politiso-perubahan yang dibuat sebagai bagian dari pesanan industri teknologi.
Apakah cukup untuk memuaskan Newsom (atau lebih khusus lagi, memuaskan perusahaan teknologi dari siapa ia ingin terus menerima kontribusi kampanye) belum terlihat. Antropik baru melunakkan hukum, memilih untuk melemparkan dukungannya di belakangnya hanya beberapa hari sebelum secara resmi disahkan. Tetapi kelompok perdagangan seperti Asosiasi Teknologi Konsumen (CTA) dan Kamar untuk Kemajuan, yang diperhitungkan di antara perusahaan -perusahaan anggota seperti Amazon, Google, dan Meta, bertentangan dengan RUU tersebut. Openai juga mengisyaratkan bahwa penentangannya terhadap peraturan California telah mengejar tanpa secara khusus menyebutkan SB 53.
Setelah pemerintah Trump mencoba dan gagal menerapkan moratorium 10 tahun ke negara-negara yang menerapkan peraturan tentang AI, California memiliki kesempatan untuk memimpin masalah ini-yang masuk akal, mengingat sebagian besar perusahaan di garis depan ruang beroperasi di perbatasan mereka. Tetapi fakta itu juga tampaknya menjadi bagian dari alasan Newsom sangat malu untuk menarik pemicu aturan meskipun ada semua kesalahannya untuk banyak masalah lainnya. Ambisi politiknya membutuhkan uang untuk dijalankan, dan perusahaan memiliki banyak hal untuk ditawarkan.
NewsRoom.id
