Tumbuh sebagai seorang imigran, Cyril Gorlla belajar sendiri cara membuat kode — dan berlatih seolah-olah dia kerasukan.
“Saya lulus kursus pemrograman community college milik ibu saya pada usia 11 tahun, di tengah pemadaman utilitas rumah tangga secara berkala,” katanya kepada TechCrunch.
Di sekolah menengah, Gorlla belajar tentang AI, dan menjadi begitu terobsesi dengan ide untuk melatih model AI-nya sehingga dia membongkar laptopnya untuk meningkatkan pendingin internal. Upaya ini menghasilkan magang di Intel selama tahun kedua kuliah Gorlla, di mana ia meneliti optimalisasi dan interpretabilitas model AI.
Masa kuliah Gorlla bertepatan dengan ledakan AI – dengan perusahaan seperti OpenAI mengumpulkan miliaran dolar untuk teknologi AI mereka. Gorlla percaya bahwa AI mempunyai potensi untuk mengubah seluruh industri. Namun dia juga berpendapat bahwa keselamatan tidak lagi menjadi prioritas bagi produk-produk baru yang cemerlang.
“Saya merasa perlu ada perubahan mendasar dalam cara kita memahami dan melatih AI,” katanya. “Kurangnya kepastian dan kepercayaan terhadap keluaran model merupakan hambatan utama dalam penerapannya di industri seperti layanan kesehatan dan keuangan, di mana AI dapat membuat perbedaan terbesar.”
Jadi, bersama Trevor Tuttle, yang ia temui saat masih menjadi mahasiswa sarjana, Gorlla keluar dari sekolah pascasarjana untuk memulai sebuah perusahaan, CTGT, guna membantu organisasi menerapkan AI dengan lebih bijak. CTGT dipresentasikan hari ini di TechCrunch Disrupt 2024 sebagai bagian dari kompetisi Startup Battlefield.
“Orang tua saya percaya saya masih bersekolah,” katanya. “Membaca ini mungkin akan mengejutkan mereka.”
CTGT bekerja dengan perusahaan untuk mengidentifikasi keluaran yang bias dan halusinasi dari model, dan berupaya mengatasi akar permasalahannya.
Tidak mungkin untuk sepenuhnya menghilangkan kesalahan dari suatu model. Namun Gorlla mengklaim pendekatan audit CTGT dapat memberdayakan perusahaan untuk memitigasi masalah tersebut.
“Kami menjelaskan pengertian konsep internal suatu model,” jelasnya. “Meskipun model yang meminta pengguna untuk memasukkan lem ke dalam resep mungkin lucu, respons yang merekomendasikan pesaing ketika pelanggan meminta perbandingan produk bukanlah hal yang sepele. Seorang pasien yang diberi informasi dari studi klinis yang sudah ketinggalan zaman, atau keputusan kredit yang dibuat berdasarkan informasi halusinasi, tidak dapat diterima.”
Jajak pendapat terbaru dari Cnvrg menemukan bahwa keandalan adalah kekhawatiran utama perusahaan yang mengadopsi aplikasi AI. Dalam studi terpisah yang dilakukan Riskonnect, penyedia perangkat lunak manajemen risiko, lebih dari separuh eksekutif mengatakan mereka khawatir dengan karyawan yang mengambil keputusan berdasarkan informasi yang tidak akurat dari alat AI.
Gagasan tentang platform khusus untuk mengevaluasi pengambilan keputusan model AI bukanlah hal baru. TruEra dan Patronus AI termasuk di antara perusahaan rintisan yang mengembangkan alat untuk menafsirkan perilaku model, seperti halnya Google dan Microsoft.
Namun Gorlla mengklaim teknik CTGT lebih berperforma — sebagian karena teknik ini tidak bergantung pada pelatihan “hakim” AI untuk memantau model dalam produksi.
“Interpretabilitas kami yang dijamin secara matematis berbeda dari metode tercanggih saat ini, yang tidak efisien dan melatih ratusan model lain untuk mendapatkan wawasan tentang suatu model,” katanya. “Seiring dengan semakin banyaknya perusahaan yang sadar akan biaya komputasi, dan transisi AI perusahaan dari demo ke memberikan nilai nyata, nilai kami sangat penting dalam memberikan perusahaan kemampuan untuk menguji secara ketat keamanan AI tingkat lanjut tanpa melatih model tambahan atau menggunakan model lain sebagai evaluator. ”
Untuk mengurangi ketakutan calon pelanggan terhadap kebocoran data, CTGT menawarkan opsi lokal selain paket terkelola. Ini mengenakan biaya tahunan yang sama untuk keduanya.
“Kami tidak memiliki akses ke data pelanggan, sehingga memberi mereka kendali penuh atas bagaimana dan di mana data tersebut digunakan,” kata Gorlla.
CTGT, lulusan akselerator Character Labs, mendapat dukungan dari mantan mitra GV Jake Knapp dan John Zeratsky (yang ikut mendirikan Character VC), Mark Cuban, dan salah satu pendiri Zapier, Mike Knoop.
“AI yang tidak dapat menjelaskan alasannya tidak cukup pintar untuk banyak bidang yang menerapkan aturan dan persyaratan yang rumit,” kata Cuban dalam sebuah pernyataan. “Saya berinvestasi di CTGT karena bisa mengatasi masalah ini. Yang lebih penting lagi, kami melihat hasil dari penggunaan AI.”
Dan — meski masih dalam tahap awal — CTGT memiliki beberapa pelanggan, termasuk tiga merek Fortune 10 yang tidak disebutkan namanya. Gorlla mengatakan bahwa CTGT bekerja sama dengan salah satu perusahaan ini untuk meminimalkan bias dalam algoritma pengenalan wajah mereka.
“Kami mengidentifikasi bias dalam model yang terlalu fokus pada rambut dan pakaian untuk membuat prediksi,” katanya. “Platform kami memberikan para praktisi wawasan langsung tanpa perlu menebak-nebak dan membuang-buang waktu seperti metode interpretasi tradisional.”
Fokus CTGT dalam beberapa bulan mendatang adalah membangun tim tekniknya (saat ini hanya Gorlla dan Tuttle) dan menyempurnakan platformnya.
Jika CTGT berhasil mendapatkan pijakan di pasar interpretabilitas AI yang sedang berkembang, hal ini tentu akan sangat menguntungkan. Perusahaan analisis Markets and Markets memproyeksikan bahwa “AI yang dapat dijelaskan” sebagai sebuah sektor dapat bernilai $16,2 miliar pada tahun 2028.
“Ukuran model jauh melebihi Hukum Moore dan kemajuan dalam chip pelatihan AI,” kata Gorlla. “Ini berarti kita perlu fokus pada pemahaman dasar tentang AI – untuk mengatasi inefisiensi dan sifat keputusan model yang semakin kompleks.”
NewsRoom.id
