Mistral AI Meluncurkan Model Ministral 3B dan 8B untuk Edge Computing

AI Mistral memiliki diumumkan peluncuran dua model baru, Ministral 3B dan Ministral 8B, pada ulang tahun pertama model Mistral 7B. Model-model baru ini berfokus pada komputasi pada perangkat dan aplikasi edge, sehingga meningkatkan kemampuan di berbagai bidang seperti penalaran pengetahuan dan pemanggilan fungsi.

Model ministral dapat menangani hingga 128k panjang konteks dan menawarkan pola perhatian jendela geser yang unik untuk inferensi yang efisien, terutama di lingkungan dengan sumber daya terbatas. Mereka bertujuan untuk memenuhi permintaan inferensi lokal dan yang mengutamakan privasi dalam aplikasi seperti terjemahan pada perangkat, asisten cerdas, analisis lokal, dan robotika. Model tersebut berfungsi sebagai perantara untuk model yang lebih besar, meningkatkan perutean tugas dan panggilan API di berbagai konteks.

Tolok ukur menunjukkan bahwa model Ministral mengungguli pesaing, termasuk Gemma 2 2B dan Llama 3.2 3B dan Llama 3.1 8B

Kedua model tersedia untuk penggunaan komersial, dengan harga ditetapkan sebesar $0,04 per juta token untuk Ministral 3B dan $0,1 untuk Ministral 8B. Bobot model untuk model Instruksi 8B akan tersedia untuk penggunaan penelitian. Bulan lalu, Mistral AI diluncurkan piksel 12B, model yang mampu memproses gambar dan teks. Dengan sekitar 12 miliar parameter, ia menggunakan pengkodean visi untuk menafsirkan gambar dan teks.

Sehari setelah Meta dirilis Lama 3.1, AI Mistral juga diluncurkan Mistral Besar 2generasi terbaru dari model andalannya, menawarkan peningkatan substansial dalam pembuatan kode, matematika, dan dukungan multibahasa. Model ini memperkenalkan kemampuan pemanggilan fungsi tingkat lanjut dan tersedia di la Plateforme.

Sumber

LEAVE A REPLY

Please enter your comment!
Please enter your name here