Semua orang tahu bahwa disinformasi online adalah masalah besar—bisa dibilang masalah yang sangat besar komunitas yang terkoyakmemanipulasi pemilu, dan merugikan segmen tertentu dari populasi global kehilangan akal sehat mereka. Tentu saja, tampaknya tidak ada seorang pun yang peduli untuk memperbaiki masalah ini. Faktanya, institusi paling bertanggung jawab karena disinformasi online (dan oleh karena itu, pihak-pihak yang paling berkepentingan untuk melakukan sesuatu untuk mengatasinya)—yaitu perusahaan teknologi—tampaknya berniat melakukan apa saja untuk memperburuk masalah ini secara eksponensial.
Contoh kasus: OpenAI meluncurkan Sora, generator teks-ke-video barunya, pada hari Kamis. Model ini dirancang untuk memungkinkan pengguna web menghasilkan video AI berkualitas tinggi hanya dengan perintah teks. Aplikasi ini saat ini memukau internet dengan beragam gambar visualnya yang aneh—apa pun Parade Tahun Baru Imlekseorang pria berlari mundur di atas treadmill dalam kegelapan, seekor kucing di tempat tiduratau dua kapal bajak laut berputar-putar di cangkir kopi.
Pada titik ini, terlepas dari misinya untuk “mengubah dunia”, dapat dikatakan bahwa kontribusi terbesar OpenAI terhadap internet adalah menghasilkan sampah digital yang tak terhitung jumlahnya dalam sekejap. Semua alat perusahaan yang terbuka dan umum adalah pembuat konten, seperti, para ahli telah memperingatkansiap digunakan dalam kampanye penipuan dan disinformasi.
Di dalamnya postingan blog Mengenai Sora, tim OpenAI secara terbuka mengakui bahwa mungkin ada beberapa potensi kerugian pada aplikasi baru mereka. Perusahaan tersebut mengatakan bahwa mereka sedang mengerjakan beberapa teknologi watermarking untuk menandai konten yang telah dibuat oleh generatornya dan sedang dalam proses melibatkan orang-orang yang berpengetahuan luas untuk mencari cara agar banjir sampah buatan AI yang Sora keluarkan tidak terlalu beracun. Sora belum dibuka untuk umum dan, sementara itu, OpenAI mengatakan sedang menciptakan sistem yang akan menolak pengguna yang ingin membuat gambar kekerasan atau seksual. Pernyataan itu mencatat:
Kami akan melibatkan para pembuat kebijakan, pendidik, dan seniman di seluruh dunia untuk memahami kekhawatiran mereka dan mengidentifikasi kasus penggunaan positif teknologi baru ini. Meskipun telah dilakukan penelitian dan pengujian yang ekstensif, kami tidak dapat memprediksi semua manfaat yang akan diperoleh orang-orang dari penggunaan teknologi kami, atau semua cara orang akan menyalahgunakannya.
Pembingkaian masalah ini agak lucu karena sangat jelas terlihat bahwa alat baru OpenAI berpotensi disalahgunakan. Sora akan memproduksi konten palsu dalam skala besar—itu sudah jelas. Beberapa konten tersebut kemungkinan besar akan digunakan untuk tujuan disinformasi politik online, beberapa di antaranya, secara hipotetis, dapat digunakan untuk membantu berbagai penipuan dan penipuan, dan beberapa di antaranya dapat digunakan untuk menghasilkan konten beracun. OpenAI menyatakan ingin memberi batasan berarti pada konten kekerasan dan seksual, namun pengguna web dan peneliti telah menunjukkan betapa pintarnya mereka. dalam melakukan jailbreak pada sistem AI untuk menghasilkan jenis konten yang tidak mematuhi kebijakan penggunaan perusahaan. Semua konten Sora ini jelas akan membanjiri saluran media sosial, sehingga menyulitkan masyarakat awam untuk membedakan mana yang asli dan mana yang palsu, serta membuat internet secara umum semakin menyebalkan. Saya rasa panel ahli global tidak diperlukan untuk menyelesaikan masalah ini.
Ada juga sejumlah kelemahan lain yang jelas terlihat. Di satu sisi, Sora—dan orang lain yang menyukainya—mungkin tidak akan memberikan dampak lingkungan yang paling besar. Para peneliti telah mendemonstrasikan generator teks-ke-gambar jauh lebih buruk, dalam hal lingkungan, dibandingkan generator teks, dan membuat gambar AI saja memerlukan jumlah energi yang sama dengan yang dibutuhkan untuk mengisi daya hingga penuh ponsel cerdas Anda. Selain itu, teknologi pembuatan teks-ke-video baru kemungkinan besar akan merugikan perekonomian pembuatan video, karena mengapa perusahaan harus membayar orang untuk membuat konten visual padahal yang diperlukan untuk membuat video hanyalah mengklik tombol?
Bagi kelas korporasi di negeri ini, tidak ada yang lebih penting selain uang. Persetan dengan lingkungan, persetan dengan artis, persetan dengan internet yang bebas disinformasi, persetan dengan kesehatan wacana politik, persetan dengan apa pun yang menghalangi motif keuntungan. Apa pun yang dapat diperas untuk menghasilkan uang harus diperas, meskipun itu adalah program perangkat lunak yang kegunaan sebenarnya hanya untuk menghasilkan video seekor hamster koboi yang menunggangi seekor naga. Sebagai satu pengguna X menaruhnya: “Untuk itulah orang-orang bodoh mengorbankan lingkungan. Bodoh. Kotoran. Menyukai. Ini.”
NewsRoom.id
