Dunia sudah ada terkoyak oleh deepfake yang dihasilkan AI, dan upaya setengah-setengah yang dilakukan baru-baru ini untuk menghentikannya tidak membuahkan hasil. Regulator federal melarang robocall deepfake pada hari Kamis, seperti itu meniru Presiden Biden di pemilihan pendahuluan di New Hampshire. Sementara itu, OpenAI dan Google merilis tanda air minggu ini untuk memberi label pada gambar sebagai hasil buatan AI. Namun, langkah-langkah ini tidak cukup untuk menghentikan deepfake AI.
“Mereka akan tetap ada,” kata Vijay Balasubramaniyan, CEO Pindrop, yang mengidentifikasi ElevenLabs sebagai layanan yang digunakan untuk membuat robocall Biden palsu. “Teknologi deteksi deepfake perlu diterapkan di sumbernya, di titik penularan, dan di tujuan. Itu hanya perlu terjadi secara menyeluruh.”
Upaya Pencegahan Deepfake Hanya Kecil
Komisi Komunikasi Federal (FCC) yang melarang robocall deepfake adalah langkah ke arah yang benar, menurut Balasubramaniyan, tetapi hanya ada sedikit klarifikasi tentang bagaimana hal ini akan ditegakkan. Saat ini, kita sedang berada menangkap deepfake setelah kerusakan terjadi, dan jarang menghukum penjahat yang bertanggung jawab. Ini terlalu lambat dan tidak menyelesaikan masalah yang ada.
OpenAI memperkenalkan tanda air pada gambar Dall-E minggu ini, baik secara visual maupun tertanam dalam metadata foto. Namun, perusahaan secara bersamaan Diakui bahwa hal ini dapat dengan mudah dihindari dengan mengambil tangkapan layar. Hal ini terasa bukan sebuah solusi, dan lebih seperti perusahaan yang berkata, “Setidaknya kami sudah mencoba!”
Sementara itu, seorang bos pekerja keuangan di Hong Kong melakukan deepfake menipu dia sebesar $ 25 juta. Ini adalah kasus mengejutkan yang menunjukkan betapa teknologi deepfake mengaburkan batas-batas realitas.
Masalah Deepfake Akan Menjadi Lebih Buruk
Solusi-solusi ini saja tidak cukup. Masalahnya, teknologi deteksi deepfake masih baru dan belum secepat AI generatif. Platform seperti Meta, X, dan bahkan perusahaan telepon Anda perlu menerapkan deteksi deepfake. Perusahaan-perusahaan ini menjadi berita utama tentang semua fitur AI baru mereka, tetapi bagaimana dengan fitur deteksi AI mereka?
Jika Anda menonton video deepfake di Facebook, mereka akan mendapat peringatan tentang hal itu. Jika Anda menerima panggilan telepon palsu, penyedia layanan Anda harus memiliki perangkat lunak untuk menangkapnya. Perusahaan-perusahaan ini tidak bisa menyerah begitu saja, namun mereka pasti berusaha untuk menyerah.
Teknologi deteksi deepfake juga perlu ditingkatkan dan diperluas secara luas. Saat ini, deteksi deepfake tidak 100% akurat, menurut CEO CopyLeaks Alon Yamin. Perusahaannya memiliki salah satu alat yang lebih baik untuk mendeteksi teks yang dihasilkan AI, namun mendeteksi ucapan dan video AI merupakan tantangan lain. Deteksi deepfake tertinggal dibandingkan AI generatif, dan perlu ditingkatkan dengan cepat.
Deepfake memang benar adanya informasi yang salah baru, tapi ini jauh lebih meyakinkan. Ada harapan bahwa teknologi dan regulator akan segera mengambil tindakan untuk mengatasi masalah ini, namun para ahli sepakat bahwa deepfake hanya akan menjadi lebih buruk sebelum menjadi lebih baik.
NewsRoom.id
