Flow Mengklaim Dapat 100x Kekuatan CPU Apa Pun Dengan Chip Pendampingnya Dan Sedikit Pelumas Siku

Sebuah startup Finlandia bernama Flow Computing membuat salah satu klaim paling liar yang pernah terdengar di bidang rekayasa silikon: dengan menambahkan chip pendamping miliknya, CPU apa pun dapat menggandakan kinerjanya secara instan, meningkat hingga 100x dengan penyesuaian perangkat lunak.

Jika berhasil, hal ini dapat membantu industri memenuhi permintaan komputasi yang tak terpuaskan dari para pembuat AI.

Flow adalah cabang dari VTT, sebuah organisasi penelitian yang didukung negara Finlandia yang serupa dengan laboratorium nasional. Teknologi chip yang dikomersialkan, diberi nama Parallel Processing Unit, merupakan hasil penelitian yang dilakukan di lab (walaupun VTT adalah investor, IP-nya dimiliki oleh Flow).

Klaim tersebut, yang pertama kali diakui oleh Flow, sungguh menggelikan. Anda tidak dapat secara ajaib memeras kinerja ekstra dari CPU di seluruh arsitektur dan basis kode. Jika demikian, Intel atau AMD atau siapa pun telah melakukannya bertahun-tahun yang lalu.

Tapi Flow telah mengerjakan sesuatu itu memiliki secara teoritis hal ini mungkin terjadi — hanya saja belum ada yang mampu melakukannya.

Unit Pemrosesan Pusat (Central Processing Unit) telah banyak mengalami kemajuan sejak awal mula ditemukannya tabung vakum dan kartu berlubang (punch card), namun dalam beberapa hal mendasar mereka tetap sama. Keterbatasan utama mereka adalah sebagai prosesor serial dan bukan paralel, mereka hanya dapat melakukan satu hal dalam satu waktu. Tentu saja, mereka mengalihkannya sekitar satu miliar kali per detik di berbagai inti dan jalur — tetapi semua ini adalah cara untuk mengakomodasi sifat satu jalur dari CPU. (Sebaliknya, GPU melakukan banyak penghitungan terkait sekaligus, namun dikhususkan untuk operasi tertentu.)

“CPU adalah mata rantai terlemah dalam komputasi,” kata salah satu pendiri dan CEO Flow, Timo Valtonen. “Ini bukan tugas yang tepat, dan ini perlu diubah.”

CPU telah menjadi sangat cepat, namun bahkan dengan responsivitas tingkat nanodetik, terdapat sejumlah besar pemborosan dalam cara mengeksekusi instruksi hanya karena keterbatasan dasar bahwa satu tugas harus diselesaikan sebelum tugas berikutnya dimulai. (Saya menyederhanakannya di sini, bukan menjadi insinyur chip sendiri.)

Apa yang Flow klaim telah lakukan adalah menghilangkan batasan ini, mengubah CPU dari jalan satu jalur menjadi jalan raya multi jalur. CPU masih terbatas untuk melakukan satu tugas pada satu waktu, namun PPU Flow, sebagaimana mereka menyebutnya, pada dasarnya melakukan manajemen lalu lintas skala nanodetik untuk memindahkan tugas masuk dan keluar dari prosesor lebih cepat dari sebelumnya.

Bayangkan CPU sebagai koki yang bekerja di dapur. Seorang koki hanya bisa bekerja begitu cepat, tapi bagaimana jika orang tersebut memiliki asisten manusia super yang menukarkan pisau dan peralatan dari tangan koki, membersihkan makanan yang sudah disiapkan dan menambahkan bahan-bahan baru, menghilangkan semua tugas yang bukan pekerjaan koki sebenarnya? ? Koki masih hanya memiliki dua tangan, namun kini koki dapat bekerja sepuluh kali lebih cepat.

Ini bukan analogi yang sempurna, tetapi ini memberi Anda gambaran tentang apa yang terjadi di sini, setidaknya menurut pengujian internal dan demo Flow dengan industri (dan mereka berbicara dengan semua orang). PPU tidak meningkatkan frekuensi clock atau menggerakkan sistem dengan cara lain apa pun yang dapat menyebabkan panas atau daya ekstra; dengan kata lain, chef tidak diminta memotong dua kali lebih cepat. Ini hanya menggunakan siklus CPU yang sudah berjalan dengan lebih efisien.

Hal semacam ini bukanlah hal baru, kata Valtonen. “Hal ini telah dipelajari dan dibahas di kalangan akademisi tingkat tinggi. Anda sudah dapat memparalelkan, tetapi itu merusak kode lama, dan kemudian tidak ada gunanya.”

Jadi itu bisa dilakukan. Hal ini tidak dapat dilakukan tanpa menulis ulang semua kode di dunia dari awal, sehingga membuatnya tidak dapat dimulai. Masalah serupa diselesaikan oleh perusahaan komputasi Nordik lainnya, ZeroPoint, yang mencapai kompresi memori tingkat tinggi sambil menjaga transparansi data dengan seluruh sistem.

Dengan kata lain, pencapaian besar Flow bukanlah manajemen lalu lintas berkecepatan tinggi, melainkan melakukannya tanpa harus mengubah kode apa pun pada CPU atau arsitektur yang diuji. Kedengarannya tidak masuk akal untuk mengatakan bahwa kode arbitrer dapat dieksekusi dua kali lebih cepat pada chip apa pun tanpa modifikasi apa pun selain mengintegrasikan PPU dengan dadu.

Di sinilah letak tantangan utama keberhasilan Flow sebagai sebuah bisnis: tidak seperti produk perangkat lunak, teknologi Flow perlu disertakan pada tingkat desain chip, yang berarti teknologi ini tidak bekerja secara surut, dan chip pertama dengan PPU tentunya akan menjadi solusi yang tepat. di jalan. Flow telah menunjukkan bahwa teknologi ini berfungsi dalam pengaturan pengujian berbasis FPGA, namun pembuat chip harus mengeluarkan cukup banyak sumber daya untuk melihat manfaat yang diharapkan.

Besarnya keuntungan tersebut, dan fakta bahwa peningkatan CPU bersifat iteratif dan fraksional selama beberapa tahun terakhir, mungkin akan membuat para pembuat chip tersebut segera mengetuk pintu Flow. Jika Anda benar-benar dapat menggandakan kinerja Anda dalam satu generasi dengan satu perubahan tata letak, itu adalah hal yang mudah.

Peningkatan kinerja lebih lanjut berasal dari pemfaktoran ulang dan kompilasi ulang perangkat lunak agar bekerja lebih baik dengan kombinasi PPU-CPU. Flow mengatakan telah melihat peningkatan hingga 100x dengan kode yang telah dimodifikasi (meskipun belum tentu ditulis ulang sepenuhnya) untuk memanfaatkan teknologi tersebut. Perusahaan berupaya menawarkan alat kompilasi ulang untuk mempermudah tugas ini bagi pembuat perangkat lunak yang ingin mengoptimalkan chip berkemampuan Flow.

Analis Kevin Krewell dari Tirias Research, yang diberi penjelasan singkat tentang teknologi Flow dan disebut-sebut sebagai sudut pandang luar mengenai masalah ini, lebih memperhatikan penyerapan industri dibandingkan fundamentalnya.

Dia menunjukkan dengan tepat bahwa akselerasi AI adalah pasar terbesar saat ini, sesuatu yang dapat ditargetkan dengan silikon khusus seperti H100 Nvidia yang populer. Meskipun CPU dengan akselerasi PPU akan memberikan manfaat secara keseluruhan, pembuat chip mungkin tidak ingin memaksakan diri terlalu keras. Dan pertanyaannya adalah apakah perusahaan-perusahaan ini bersedia menginvestasikan sumber daya yang signifikan pada teknologi yang sebagian besar belum terbukti ketika mereka memiliki rencana lima tahun untuk kecewa dengan pilihan tersebut.

Akankah teknologi Flow menjadi komponen yang wajib dimiliki oleh setiap pembuat chip di luar sana, sehingga melambungkan mereka menjadi kaya dan terkenal? Atau akankah pembuat chip yang kekurangan uang memutuskan untuk tetap mengikuti perkembangan dan terus memanfaatkan pasar komputasi yang sedang berkembang? Mungkin berada di antara keduanya – namun hal ini menunjukkan bahwa, meskipun Flow telah mencapai prestasi teknis yang besar di sini, sama seperti semua startup, masa depan perusahaan bergantung pada pelanggannya.

Flow kini muncul secara diam-diam, dengan pendanaan awal sebesar €4 juta (sekitar $4,3 juta) yang dipimpin oleh Butterfly Ventures, dengan partisipasi dari FOV Ventures, Sarsia, Stephen Industries, Superhero Capital, dan Business Finland.