Sebuah penelitian memperkirakan bahwa penjahat akan menggunakan AI setiap hari pada pertengahan tahun 2024 untuk menyebarkan konten beracun ke komunitas online arus utama, yang berpotensi berdampak pada pemilu. Kredit: SciTechDaily.com
Sebuah penelitian memperkirakan bahwa pada pertengahan tahun 2024, para penjahat diperkirakan akan semakin banyak memanfaatkan AI dalam aktivitas sehari-hari mereka. Penelitian yang dilakukan oleh Neil F. Johnson dan timnya ini melibatkan eksplorasi komunitas online yang terkait dengan kebencian. Metodologi mereka mencakup pencarian terminologi yang tercantum dalam Database Simbol Kebencian Liga Anti-Pencemaran Nama Baik, serta mengidentifikasi kelompok yang ditandai oleh Southern Poverty Law Center.
Dari daftar awal komunitas “aktor jahat” yang ditemukan menggunakan istilah-istilah ini, penulis menilai komunitas yang terkait dengan komunitas aktor jahat tersebut. Para penulis mengulangi prosedur ini untuk menghasilkan peta jaringan komunitas kriminal—dan kelompok online yang lebih mainstream yang terhubung dengan mereka.
Komunitas Arus Utama Dikategorikan sebagai “Subset Ketidakpercayaan”
Beberapa komunitas arus utama dikategorikan sebagai “bagian dari ketidakpercayaan” jika mereka mengadakan diskusi yang signifikan COVID 19, MPX, aborsi, pemilu, atau perubahan iklim. Dengan menggunakan peta yang dihasilkan dari “medan perang” para penjahat online saat ini, yang mencakup lebih dari 1 miliar individu, penulis memproyeksikan bagaimana AI dapat digunakan oleh para penjahat tersebut.
Ekosistem arus utama yang kriminal dan rentan (panel kiri). Komunitas ini terdiri dari komunitas kriminal yang saling terkait (simpul berwarna) dan komunitas arus utama yang rentan (simpul putih, yaitu komunitas yang mempunyai hubungan langsung dengan komunitas kriminal). Jaringan empiris ini ditampilkan menggunakan algoritma tata letak ForceAtlas2 yang bersifat spontan, sehingga kumpulan komunitas (node) tampak lebih berdekatan saat mereka berbagi lebih banyak tautan. Warna yang berbeda sesuai dengan platform yang berbeda. Cincin merah kecil menunjukkan komunitas YouTube penembak Texas pada tahun 2023 sebagai ilustrasi. Panel kanan menunjukkan diagram Venn dari topik yang dibahas dalam subset ketidakpercayaan. Setiap lingkaran menunjukkan kategori komunitas yang membahas serangkaian topik tertentu, yang tercantum di bawah. Angka berukuran sedang adalah jumlah komunitas yang membahas serangkaian topik tertentu, dan angka terbesar adalah jumlah individu yang sesuai, misalnya lingkaran abu-abu menunjukkan bahwa 19,9 juta individu (73 komunitas) membahas kelima topik tersebut. Angka berwarna merah jika mayoritas anti vaksinasi; hijau jika mayoritas netral terhadap vaksin. Hanya wilayah dengan > 3% dari total komunitas yang diberi label. Anti-vaksinasi mendominasi. Secara keseluruhan, angka-angka ini menunjukkan bagaimana pelaku kejahatan AI dapat dengan cepat mencapai jangkauan global dan juga dapat berkembang dengan menarik masyarakat yang tidak percaya. Kredit: Johnson dkk.
Para penulis memperkirakan bahwa penjahat akan semakin banyak menggunakan AI untuk terus mendorong konten beracun ke komunitas arus utama dengan menggunakan alat AI yang sudah ada sejak awal, karena program ini memiliki lebih sedikit filter yang dirancang untuk mencegah penggunaannya oleh penjahat dan tersedia secara gratis serta berukuran cukup kecil untuk diakses. bugar. laptop.
Serangan Bertenaga AI Hampir Setiap Hari pada Pertengahan 2024
Para penulis memperkirakan bahwa serangan aktor jahat AI akan terjadi hampir setiap hari pada pertengahan tahun 2024—yang akan berdampak pada pemilu AS dan pemilu global lainnya. Para penulis menekankan bahwa karena AI masih baru, maka prediksi mereka bersifat spekulatif, namun mereka berharap hasil penelitian mereka akan tetap menjadi titik awal diskusi kebijakan mengenai pengelolaan ancaman AI yang bertindak jahat.
Referensi: “Mengontrol aktivitas aktor jahat-kecerdasan buatan dalam skala besar di medan perang online” oleh Neil F Johnson, Richard Sear, dan Lucia Illari, 23 Januari 2024, Komunikasi PNAS.
DOI: 10.1093/pnasnexus/pgae004
NewsRoom.id
