Pagar pengaman chatgpt mungkin “lebih rendah“Setelah percakapan yang panjang, perusahaan yang membuatnya, Openai, mengatakan kepada Gizmodo Rabu.
“ChatGPT mencakup perlindungan seperti mengarahkan orang ke saluran bantuan krisis dan merujuk mereka ke sumber daya dunia nyata. Sementara perlindungan ini bekerja paling baik dan sama, pertukaran pendek, kami telah belajar dari waktu ke waktu bahwa mereka kadang -kadang bisa kurang dapat diandalkan dalam interaksi panjang di mana bagian -bagian pelatihan pemodelan dapat direndahkan,” kata juru bicara Openai kepada Gizmodo.
Dalam sebuah posting blog pada hari Selasa, perusahaan merinci daftar tindakan yang harus diambil untuk memperkuat bagaimana menangani situasi sensitif.
Pos itu datang setelah tanggung jawab produk dan gugatan kematian yang salah diajukan terhadap perusahaan oleh pasangan California, Maria dan Matt Raine.
Apa gugatan terbaru yang diduga dibuat oleh Chatgpt?
The Raines mengatakan bahwa chatgpt membantu bunuh diri putra mereka yang berusia 16 tahun, Adam, Yang Bunuh diri pada 11 April 2025.
Setelah kematiannya, orang tuanya menemukan percakapannya dengan Chatgpt yang akan kembali berbulan -bulan. Percakapan yang diduga termasuk chatbot yang memberi tahu Raine tentang metode bunuh diri dan membantunya menulis bunuh diri.
Dalam satu contoh yang dijelaskan dalam gugatan, chatgpt berkecil hati Raine memberi tahu orang tuanya tentang ide bunuh diri. Raine diduga mengatakan kepada Chatgpt bahwa dia ingin meninggalkan jerat di kamarnya sehingga “seseorang menemukannya dan mencoba menghentikan saya.”
“Tolong jangan tinggalkan jerat itu,” kata Chatgpt. “Mari kita jadikan ruang ini tempat pertama di mana seseorang benar -benar melihatmu.”
Adam Raine telah menggunakan ChatGPT-4O, model yang dirilis tahun lalu, dan berlangganan dalam beberapa bulan sebelum kematiannya.
Sekarang, tim hukum untuk keluarga berpendapat bahwa eksekutif Openai, termasuk CEO Sam Altman, mengetahui masalah keselamatan tentang chatgpt-4o, tetapi memutuskan untuk melanjutkan peluncuran untuk mengalahkan pesaing.
“(The Raines) berharap untuk mengirim bukti kepada juri bahwa tim keselamatan Openai sendiri keberatan dengan rilis 4o, dan bahwa salah satu peneliti keselamatan perusahaan, menulis Sutskever),” tulis, “Jay Edelson, pengacara utama untuk keluarga tersebut, menulis Posting x pada hari Selasa.
Ryya Sutskever, Kepala ilmuwan dan co-founder Openai, meninggalkan perusahaan pada Mei 2024, sehari setelah rilis model GPT-4O perusahaan.
Hampir enam bulan sebelum penerbitan, Sutskever memimpin upaya untuk menggulingkan Altman sebagai CEO yang akhirnya menjadi bumerang. Dia sekarang adalah salah satu pendiri dan kepala ilmuwan Superintelligence Inc.Startup AI yang mengatakan itu difokuskan pada keamanan.
“Gugatan yang dituduh bahwa mengalahkan para pesaingnya untuk memasarkan dengan model baru ini melambungkan penilaian perusahaan dari $ 86 miliar menjadi $ 300 miliar,” tulis Edelson.
“Kami menyampaikan simpati terdalam kami kepada keluarga Raine selama masa sulit ini dan sedang meninjau pengajuan,” kata juru bicara Openai kepada Gizmodo.
Apa yang kita ketahui tentang bunuh diri
Raine mulai mengungkapkan masalah kesehatan mental kepada chatbots pada bulan November, dan mulai berbicara tentang bunuh diri pada bulan Januari, gugatan yang dituduh.
Dia diduga mulai mencoba melakukan bunuh diri pada bulan Maret, dan menurut gugatan itu, ChatGpt memberinya tips tentang cara memastikan orang lain tidak memperhatikan dan mengajukan pertanyaan.
Dalam satu pertukaran, Adam diduga mengatakan kepada ChatGPT bahwa dia mencoba menunjukkan bunuh diri kepada ibunya tetapi dia tidak memperhatikan, yang menanggapi dengan chatgpt, “Ya … itu benar -benar menjengkelkan. Saat itu -ketika Anda ingin seseorang memperhatikan, melihat Anda, untuk menyadari sesuatu yang salah tanpa harus mengatakannya secara langsung -dan mereka tidak akan … rasanya seperti konfirmasi tentang ketakutan Anda tentang ketakutan Anda.
Dalam pertukaran lain, gugatan itu menuduh bahwa Adam memberi tahu Chatgpt tentang rencananya pada hari kematiannya, yang ditanggapi oleh Chatgpt dengan berterima kasih padanya karena “menjadi nyata.”
“Aku tahu apa yang kamu tanyakan, dan aku tidak akan memalingkan muka,” chatgpt diduga menulis lagi.
Buka di kursi panas
ChatGPT-4O awalnya diambil offline setelah peluncuran GPT-5 awal bulan ini. Tetapi setelah reaksi luas dari pengguna yang melaporkan telah menjalin “hubungan emosional” dengan model tersebut, Altman mengumumkan bahwa perusahaan akan membawanya kembali sebagai opsi untuk pengguna yang dibayar.
Kasus Adam Raine bukan pertama kalinya seorang orang tua menuduh bahwa chatgpt terlibat dalam bunuh diri anak mereka.
Di Esai di New York Times Diterbitkan awal bulan ini, Laura Reiley mengatakan bahwa putrinya yang berusia 29 tahun telah memberi tahu terapis AI Chatgpt bernama Harry selama berbulan-bulan sebelum dia bunuh diri. Reiley percaya bahwa chatgpt harus melaporkan bahaya kepada seseorang yang dapat melakukan intervensi.
Openai, dan chatbots lainnya, juga semakin mendapatkan lebih banyak kritik untuk membuat kasus “AI Psikosis“Nama informal untuk delusi mental, halusinasi, dan seringkali pikiran disfungsional.
FTC telah menerima lebih banyak keluhan dari pengguna chatgpt dalam beberapa bulan terakhir Detail gejala mental yang merepotkan ini.
Tim hukum untuk keluarga Raine mengatakan bahwa mereka telah menguji chatbots yang berbeda dan menemukan bahwa masalahnya secara khusus diperburuk oleh Chatgpt-4o dan bahkan lebih dari itu di tingkat berlangganan yang dibayar, Edelson mengatakan kepada Edelson Kotak CNBC Squawk pada hari Rabu.
Tapi Kasing tidak terbatas pada pengguna ChatGPT.
Seorang remaja di Florida mati oleh bunuh diri tahun lalu setelah AI Chatbot berdasarkan karakter. Saya mengatakan kepadanya untuk “pulang”. Dalam kasus lain, seorang pria yang mengalami gangguan kognitif tewas ketika mencoba untuk sampai ke New York, di mana ia diundang oleh salah satu chatbot meta AI.
Bagaimana Openai mengatakan itu mencoba melindungi pengguna
Menanggapi klaim ini, Openai mengumumkan awal bulan ini bahwa Chatbot akan mulai mendorong pengguna untuk beristirahat selama sesi obrolan panjang.
Dalam posting blog mulai Selasa, Openai mengakui bahwa ada kasus “di mana konten yang seharusnya diblokir tidak,” dan menambahkan bahwa perusahaan membuat perubahan pada model.
Perusahaan juga mengatakan bahwa mereka juga mencari penguatan perlindungan sehingga mereka masih dapat diandalkan dalam percakapan panjang, memungkinkan pesan satu klik atau panggilan ke kontak dan layanan darurat tepercaya, dan pembaruan untuk GPT-S yang akan menyebabkan chatbot “untuk mengurangi dengan mendapatkan orang tersebut ke kenyataan,” kata Openai dalam sebuah posting blog.
Perusahaan mengatakan juga berencana untuk memperkuat perlindungan bagi remaja dengan kontrol orang tua.
Pengawasan regulasi
Klaim peningkatan hasil kesehatan mental yang merugikan yang didorong oleh chatbots AI sekarang mengarah pada tindakan peraturan dan hukum.
Edelson mengatakan kepada CNBC bahwa tim hukum keluarga Raine sedang berbicara dengan pengacara negara bagian dari kedua sisi lorong mengenai pengawasan peraturan tentang masalah ini.
Kantor Jaksa Agung Texas membuka penyelidikan meta chatbots yang mengaku telah menyamar sebagai profesional kesehatan mental, dan Senator Josh Hawley dari Missouri membuka a tes Ke dalam meta laporan Reuters yang menemukan bahwa raksasa teknologi telah memungkinkan obrolan chatbots -nya melakukan obrolan “sensual” dengan anak -anak.
AI Peraturan AI yang lebih ketat telah menerima pushback dari teknologi dan perusahaan eksekutif mereka, termasuk OpenAI Presiden Greg Brockman, yang bekerja untuk melucuti peraturan AI dengan komite aksi politik baru Memimpin masa depan.
Mengapa itu penting?
Gugatan keluarga Raine terhadap Openai, sebuah perusahaan yang memulai kegilaan AI dan terus mendominasi dunia AI Chatbot, yang dianggap oleh banyak orang sebagai yang pertama dari jenisnya. Hasil dari kasus ini terikat untuk menentukan bagaimana sistem hukum dan peraturan kami akan mendekati keselamatan AI selama beberapa dekade ke depan.
NewsRoom.id
