Kesepian di Hari Valentine? AI dapat membantu. Setidaknya, itulah yang akan diberitahukan oleh sejumlah perusahaan yang menjual chatbot “romantis” kepada Anda. Namun seiring terungkapnya kisah cinta robot Anda, ada pengorbanan yang mungkin tidak Anda sadari. Menurut studi baru dari proyek *Privasi Tidak Termasuk Mozilla, Pacar AI mengumpulkan informasi pribadi dalam jumlah yang mengejutkan, dan hampir semuanya menjual atau membagikan data yang mereka kumpulkan.
“Sejujurnya, pacar AI bukanlah teman Anda,” kata Misha Rykov, Peneliti Mozilla, dalam keterangan persnya. “Meskipun mereka dipasarkan sebagai sesuatu yang akan meningkatkan kesehatan mental dan kesejahteraan Anda, mereka berspesialisasi dalam menghilangkan kecanduan, kesepian, dan keracunan, sambil mengekstraksi sebanyak mungkin data dari Anda.”
Mozilla menggali lebih dalam 11 chatbot romansa AI yang berbeda, termasuk aplikasi populer seperti Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, dan CrushOn.AI. Masing-masing produk mendapatkan label Privasi Tidak Termasuk, menempatkan chatbot ini di antara kategori produk terburuk yang pernah diulas Mozilla. Aplikasi yang disebutkan dalam cerita ini tidak segera menanggapi permintaan komentar.
Anda pernah mendengar cerita tentang masalah data sebelumnya, namun menurut Mozilla, pacar AI melanggar privasi Anda dengan “cara baru yang mengganggu.” Misalnya, CrushOn.AI mengumpulkan detail termasuk informasi tentang kesehatan seksual, penggunaan obat-obatan, dan perawatan yang mendukung gender. 90% aplikasi mungkin menjual atau membagikan data pengguna untuk iklan bertarget dan tujuan lainnya, dan lebih dari setengahnya tidak mengizinkan Anda menghapus data yang mereka kumpulkan. Keamanan juga merupakan masalah. Hanya satu aplikasi, Genesia AI Friend & Partner, yang memenuhi standar keamanan minimum Mozilla.
Salah satu temuan yang lebih mengejutkan terjadi ketika Mozilla menghitung pelacak di aplikasi ini, potongan kecil kode yang mengumpulkan data dan membaginya dengan perusahaan lain untuk periklanan dan tujuan lainnya. Mozilla menemukan bahwa aplikasi pacar AI menggunakan rata-rata 2.663 pelacak per menit, meskipun jumlah tersebut ditingkatkan oleh Romantic AI, yang menyebutkan 24.354 pelacak hanya dalam satu menit penggunaan aplikasi.
Kekacauan privasi bahkan lebih meresahkan karena aplikasi secara aktif mendorong Anda untuk membagikan lebih banyak detail pribadi daripada hal-hal yang mungkin Anda masukkan ke dalam aplikasi biasa. EVA AI Chat & Soulmate Bot mendorong pengguna untuk “berbagi semua rahasia dan keinginan Anda,” dan secara khusus meminta foto dan rekaman suara. Perlu dicatat bahwa EVA adalah satu-satunya chatbot yang tidak terpengaruh oleh cara ia menggunakan data tersebut, meskipun aplikasi tersebut memiliki masalah keamanan.
Selain masalah data, aplikasi ini juga membuat beberapa klaim yang meragukan tentang manfaatnya. EVA AI Chat Bot & Soulmate menyebut dirinya sebagai “penyedia perangkat lunak dan konten yang dikembangkan untuk meningkatkan suasana hati dan kesejahteraan Anda.” AI Romantis mengatakan “di sini untuk menjaga KESEHATAN MENTAL Anda.” Namun ketika Anda membaca persyaratan dan layanan perusahaan, mereka berusaha menjauhkan diri dari klaim mereka sendiri. Kebijakan Romantic AI, misalnya, menyatakan bahwa AI “bukanlah penyedia layanan kesehatan atau medis atau menyediakan layanan medis, layanan kesehatan mental, atau layanan profesional lainnya.”
Hal ini mungkin menjadi dasar hukum yang penting untuk dibahas, mengingat sejarah permohonan ini. Replika dilaporkan mendorong upaya seorang pria untuk melakukan hal itu membunuh Ratu Inggris. Diduga Chai chatbot mendorong pengguna untuk bunuh diri.
NewsRoom.id
