Sebuah startup baru yang bertujuan untuk memerangi momok deepfake dan bukti palsu di era AI memamerkan dagangannya di panggung Startup Battlefield di TechCrunch Disrupt 2024 minggu ini. ForceField sedang membangun serangkaian API “patent pending” yang dijuluki MARQ, yang pertama dirancang untuk mengautentikasi konten.
Sebagai konteksnya, laporan tahun 2022 dari lembaga penegak hukum Eropa, Europol, memperkirakan bahwa 90% dari seluruh konten online akan dihasilkan oleh AI pada tahun 2026. Internet sudah dibanjiri dengan konten yang dimanipulasi — baik yang seluruhnya dihasilkan oleh mesin, atau dibuat dengan bantuan AI. . — memaksa perusahaan teknologi besar untuk mengembangkan alat baru untuk mengatasi masalah ini. Google bulan lalu mengumumkan bahwa mereka akan segera mulai menandai gambar yang dihasilkan AI di mesin pencarinya, mengikuti jejak Meta, yang sudah melakukan hal yang sama di Facebook dan Instagram – meskipun keakuratannya masih dipertanyakan.
Sementara itu, YouTube kini mengizinkan orang untuk meminta penghapusan konten yang meniru wajah atau suara mereka.
Permasalahan konten “palsu” terus berlanjut dan menjadi isu yang memunculkan banyak startup yang menyikapi permasalahan tersebut melalui berbagai cara, seperti Clarity, Reality Defender, dan Truepic yang kesemuanya mengangkat isu yang cukup besar. jumlah pendukung nama besar dalam beberapa tahun terakhir.
ForceField, pada bagiannya, berfokus pada tingkat perangkat daripada makna konten setiap aliran data, di perangkat apa pun, yang dilengkapi dengan teknologi ForceField. Ini bisa berupa aplikasi seluler dengan ForceField API yang terintegrasi, atau sistem manajemen video kamera pengintai atau perangkat keras drone — yang dapat “menandatangani dan melakukan hash untuk verifikasi” secara real-time.
'Rantai hak asuh'
Produk pertama ForceField, yang disebut HashMarq, memverifikasi postingan konten dan memberi label sebagai konten asli, lengkap dengan lencana keaslian. Daripada menggunakan teknik tangensial seperti AI adversarial (yaitu melawan AI dengan AI) atau watermarking, teknologi Forcefield menetapkan “rantai pengawasan” untuk menentukan asal-usulnya dengan mencari tahu apakah suatu konten tertentu telah diubah — teknologi ini melakukannya dengan melihat metadata aliran data dan perangkat yang dimaksud. terhubung. Apa yang kita bicarakan di sini adalah teknologi blockchain, meskipun pendiri dan CEO ForceField MC Spano (gambar di atas) menekankan bahwa ini bukanlah startup “web3”.
“Kami memanfaatkan blockchain, kami tidak menggunakan koin atau kripto — kami bukan perusahaan web3,” kata Spano kepada TechCrunch. “Kami menggunakan blockchain dengan cara yang paling alami dan terarah, yaitu kontrak pintar. Kami mengautentikasi apa pun yang dikumpulkan, seperti video, foto, file audio, tangkapan layar di perangkat seluler — namun kami juga mengamankan dan mengautentikasi multimedia apa pun yang dikumpulkan di IoT apa pun, mulai dari BlackBerry hingga robot. Namun apa pun data streaming yang dikumpulkan, kami menandatanganinya, melakukan hash, dan kemudian kami menggunakan teknologi buku besar.”
“Kontrak pintar” ini ada di blockchain (meskipun ForceField tidak mengungkapkan yang mana) untuk memastikan keamanan, transparansi, dan kekekalannya — kontrak tersebut tidak dapat diubah. Pelanggan perusahaan – yang dapat mencakup siapa saja mulai dari kepala petugas informasi hingga tim kepercayaan dan keselamatan – dapat mengakses teknologi melalui API atau SDK yang mereka integrasikan ke dalam aplikasi mereka sendiri. Jadi HashMarq pada dasarnya berfungsi sebagai sertifikat digital untuk konten yang telah lolos pemeriksaan pembuktian.
“Kami membangun teknologi untuk orang-orang baik – kami mengantisipasi bahwa pasar, yang berarti pemerintah, perusahaan, perusahaan kecil, bahkan individu, perlu membuktikan bahwa apa yang mereka tawarkan adalah nyata,” kata Spano. “Ini dibandingkan dengan apa yang dilakukan Meta dan perusahaan lain, di mana mereka pada dasarnya memberi label pada sesuatu yang dihasilkan oleh AI.”
Jadi, apa sebenarnya yang dilihat oleh teknologi ForceField saat menilai kebenaran suatu aset?
“Kami sedang mencari sekitar 90 bukti, tapi saya tidak bisa membagikan semuanya,” kata Spano. “Ide kami adalah kami melihat kecerdasan geospasial di sekitar perangkat itu, apa yang ada di sekitar pada saat itu, sinyal apa, perangkat lain apa, dan waktu. Jam berapa tepatnya perangkat ini mengumpulkan video ini? Dan berapa lama waktu yang dibutuhkan dari pengambilan hingga pengiriman? Poin-poin ini saja dapat memberikan informasi lebih banyak kepada jurnalis, organisasi berita, atau penegak hukum daripada yang mereka ketahui sebelumnya, dan juga dapat menunjukkan dengan tepat lokasi geografis.”
Meskipun ForceField secara resmi mulai membuahkan hasil pada tahun 2021, Spano mengatakan bahwa produk tersebut berasal dari tahun 2018 ketika ia diserang di New York City, dan kemudian menghadapi kendala besar dalam mengumpulkan dan menyerahkan bukti yang diperlukan kepada penegak hukum.
“Saya tahu ada kamera, saya tahu bukti bisa dikumpulkan,” kata Spano. “Tetapi ketika saya berurusan dengan NYPD untuk mendapatkan bukti, mereka tidak mendapat panggilan pengadilan — jadi saya harus menemui pemilik kamera sendiri untuk meminta rekamannya. Saya merekamnya dengan telepon saya, dan ketika saya menyerahkan rekaman itu ke NYPD, mereka mengatakan itu tidak diperbolehkan. Dan saat itulah saya menyadari bahwa sistem peradilan dimulai jauh lebih awal dibandingkan di pengadilan.”
Dan hal ini menjadi inti masalah yang coba dipecahkan oleh Spano dan ForceField – masalah yang menjadi lebih besar di era AI generatif, di mana siapa pun yang memiliki laptop dapat membuat “bukti” yang masuk akal, namun sepenuhnya palsu. ”
Bukti konsep
Ini masih tahap awal, namun ForceField sedang mengembangkan bukti konsep (PoC) dengan raksasa asuransi Erie, sementara Spano mengatakan perusahaan juga telah menandatangani surat perjanjian dengan tiga pelanggan tambahan, dengan rencana untuk menyelesaikan PoC dan meluncurkannya secara komersial pada tahun 2017. Q1 2025.
Meskipun asuransi pada awalnya akan menjadi pasar yang besar bagi ForceField, Spano mengatakan bahwa dengan munculnya AI dan kemampuan hampir semua orang untuk menciptakan aset yang tampak asli, tidak ada batasan nyata bagi industri di mana asuransi dapat diterapkan. Seorang jurnalis warga, misalnya, yang telah merekam video di perangkat selulernya, dapat mengirimkannya ke stasiun berita, yang akan berintegrasi dengan ForceField API untuk menentukan keaslian sumber data. Penegakan hukum juga dapat menggunakan teknologi ini untuk memverifikasi laporan saksi atau korban.
Dalam hal pembiayaan, perusahaan sejauh ini didanai melalui gabungan bootstrapping (Spano menjual perusahaan sebelumnya) dan modal yang disediakan oleh para malaikat, termasuk aktor Debra Messing, serta Wilfredo Fernandez, kepala urusan pemerintahan X dan pramuka di Perusahaan VC Lightspeed. ForceField juga menerima uang melalui partisipasinya di Techstars tahun lalu, sementara itu baru saja menerima pendanaan institusional pertamanya melalui investasi strategis dari pelanggannya, Erie Insurance.
Spano juga mengatakan bahwa dia berharap dapat menyelesaikan tahap awal pada akhir tahun ini, seraya menambahkan bahwa dia yakin salah satu aspek terpenting dari perusahaan ini adalah bahwa perusahaan tersebut sepenuhnya dipimpin oleh perempuan di lingkungan yang sangat didominasi laki-laki.
“Ada masalah besar dalam mendanai tim solo wanita di Amerika,” kata Spano. “Saya satu-satunya perempuan yang membangun teknologi semacam ini saat ini, semua pesaing lainnya dipimpin oleh laki-laki — jadi memiliki suara perempuan, transparansi, kejujuran, dan kebenaran… sangatlah penting.”
NewsRoom.id
