Mistral Meluncurkan Layanan Baru, SDK yang Memungkinkan Pelanggan Meningkatkan Modelnya

Startup AI Perancis, Mistral, memperkenalkan opsi penyesuaian model AI baru, termasuk paket berbayar, sehingga pengembang — dan perusahaan — dapat menyempurnakan model generatifnya untuk kasus penggunaan tertentu.

Yang pertama adalah layanan mandiri. Mistral telah merilis kit pengembangan perangkat lunak (SDK), Mistral-Finetune, untuk menyempurnakan modelnya pada stasiun kerja, server, dan node pusat data kecil.

Dalam readme untuk repositori GitHub SDK, Mistral mencatat bahwa SDK dioptimalkan untuk pengaturan multi-GPU tetapi dapat diturunkan ke satu GPU Nvidia A100 atau H100 untuk menyempurnakan model yang lebih kecil seperti Mistral 7B. Menyempurnakan kumpulan data seperti UltraChat, kumpulan 1,4 juta dialog dengan ChatGPT OpenAI, membutuhkan waktu sekitar setengah jam menggunakan Mistral-Finetune pada delapan H100, kata Mistral.

Untuk pengembang dan perusahaan yang lebih memilih solusi yang lebih terkelola, layanan kustomisasi Mistral yang baru diluncurkan tersedia melalui API perusahaan. Kompatibel dengan dua model Mistral saat ini, Mistral Small dan Mistral 7B yang disebutkan di atas, Mistral mengatakan layanan peningkatan ini akan mendapatkan dukungan untuk lebih banyak modelnya dalam beberapa minggu mendatang.

Terakhir, Mistral meluncurkan layanan pelatihan khusus — yang saat ini hanya tersedia bagi pelanggan terpilih — untuk menyempurnakan model Mistral apa pun untuk aplikasi organisasi menggunakan data mereka. “Pendekatan ini memungkinkan terciptanya model yang sangat terspesialisasi yang dioptimalkan untuk domain spesifik mereka,” jelas perusahaan tersebut dalam postingan di blog resminya.

Mistral, yang baru-baru ini dilaporkan oleh rekan saya Ingrid Lunden sedang berupaya mengumpulkan sekitar $600 juta dengan penilaian $6 miliar dari investor termasuk DST, General Catalyst, dan Lightspeed Venture Partners, tidak diragukan lagi berupaya meningkatkan pendapatan karena menghadapi persaingan yang besar — ​​​​dan terus berkembang — di bidang AI generatif.

Sejak Mistral meluncurkan model generatif pertamanya pada September 2023, Mistral telah merilis beberapa model generatif lainnya, termasuk model penghasil kode, dan meluncurkan API berbayar. Namun mereka belum mengungkapkan berapa banyak pengguna yang mereka miliki dan seperti apa pendapatannya.