Chatbot dengan kecerdasan buatan seperti ChatGPT OpenAI dijual sebagai alat revolusioner yang dapat membantu pekerja menjadi lebih efisien dalam pekerjaannya, dan mungkin akan menggantikan orang-orang tersebut sepenuhnya di masa depan. Tapi luar biasa studi baru telah menemukan ChatGPT menjawab pertanyaan pemrograman komputer dengan salah sebanyak 52%.
Penelitian dari Universitas Purdue ini pertama kali ditemukan oleh outlet berita Futurismedisajikan awal bulan ini di Konferensi Interaksi Komputer-Manusia di Hawaii dan melihat 517 pertanyaan pemrograman di Stack Overflow yang kemudian dimasukkan ke ChatGPT.
“Analisis kami menunjukkan bahwa 52% jawaban ChatGPT berisi informasi yang salah dan 77% bertele-tele,” jelas studi baru tersebut. “Meskipun demikian, peserta studi pengguna kami masih lebih menyukai jawaban ChatGPT sebanyak 35% karena kelengkapan dan bahasa yang diartikulasikan dengan baik.”
Yang meresahkan, programmer dalam penelitian ini tidak selalu menangkap kesalahan yang dihasilkan oleh AI chatbot.
“Namun, mereka juga mengabaikan informasi yang salah dalam jawaban ChatGPT sebanyak 39%,” menurut penelitian tersebut. “Hal ini menyiratkan perlunya memerangi misinformasi dalam jawaban ChatGPT terhadap pertanyaan pemrograman dan meningkatkan kesadaran akan risiko yang terkait dengan jawaban yang tampaknya benar.”
Tentu saja, ini hanya satu studi yang tersedia membaca online, namun hal ini menyoroti masalah yang mungkin dialami oleh siapa pun yang telah menggunakan alat ini. Saat ini, perusahaan teknologi besar menggelontorkan miliaran dolar untuk AI dalam upaya menghadirkan chatbot paling kuat. Meta, Microsoft, dan Google berlomba-lomba mendominasi ruang baru yang berpotensi mengubah hubungan kita dengan internet secara radikal. Namun ada sejumlah kendala yang menghadang.
Salah satu masalah terbesarnya adalah AI sering kali tidak dapat diandalkan, terutama jika pengguna mengajukan pertanyaan yang benar-benar unik. Pencarian baru Google yang didukung AI terus dilakukan menyemburkan sampah sering kali diambil dari sumber yang tidak dapat dipercaya. Faktanya, ada beberapa kali dalam minggu ini Google Penelusuran mengembalikan artikel satir dari The Onion sebagai informasi terpercaya.
Sementara itu, Google membela diri dengan menegaskan bahwa jawaban yang salah adalah sebuah anomali.
“Contoh yang kami lihat umumnya merupakan pertanyaan yang sangat jarang, dan tidak mewakili pengalaman kebanyakan orang,” kata juru bicara Google kepada Gizmodo melalui email. awal minggu ini. “Sebagian besar Ikhtisar AI memberikan informasi berkualitas tinggi, dengan tautan untuk menggali lebih dalam di web.”
Namun pembelaan yang menyatakan bahwa “pertanyaan yang tidak umum” menunjukkan jawaban yang salah, sungguh menggelikan. Haruskah pengguna hanya menanyakan pertanyaan paling biasa pada chatbot ini? Bagaimana hal ini bisa diterima, padahal ada janji bahwa alat-alat ini harus revolusioner?
OpenAI tidak segera menanggapi permintaan komentar pada hari Jumat tentang studi baru atas jawaban ChatGPT. Gizmodo akan memperbarui posting ini jika kami mendengarnya kembali.
NewsRoom.id
