@LiquidAI'dan LFM2-24B-A2B, yüksek hacimli çok ajanlı boru hatları için optimize edilmiş 24B parametrelerine sahip hibrit bir MoE modeli sunuyoruz. Yapay zeka yerlileri artık LFM2-24B-A2B'yi Together AI'da kullanabilir ve maliyet etkin üretim ölçekli ajan iş akışları için güvenilir çıkarımdan faydalanabilir.
Öne Çıkanlar: 👉 Maliyet etkin çıkarım — sadece 2.3B aktif olan 24B parametre büyük miktarda ajan eşzamanlılığını mümkün kılan 👉 Hızlı iç döngü modeli — Yerel fonksiyon çağrısına sahip yüksek hacimli çok ajanlı boru hatları için optimize edilmiştir 👉 Hibrit mimari — verimli üretim çıkarımı için 30 kaplı kısa konvolüsyon bloğu + 10 GQA bloğu 👉 Yapay Zeka Yerel Bulut'ta üretime hazır — %99,9 SLA, 32K bağlam, 9 dil desteği, sunucusuz ve özel altyapı
59