🚀 vLLM az önce 70 bin GitHub yıldızına ulaştı! 🎉 Motor son dönüm noktasından bu yana hızla gelişmeye devam etti. NVIDIA Blackwell'de WideEP ve uzman paralellik ile üretim düzeyinde çok düğümlü destek — büyük ölçekli hizmet vermeye çok sıkı sıkıya çalışıyoruz; bu da en büyük modelleri ölçekte servis etmeyi pratik hale getiriyor. Daha fazla model, daha fazla donanım, daha yüksek veri verimliliği için asenkron zamanlama, konuşma ve ses için gerçek zamanlı akış ve metin, görme, video ve ses üzerinde büyüyen çok modlu bir hikaye. Sponsorlarımıza, 2.100+ katkıda bulunanımıza, @PyTorch, @huggingface Transformers'taki dostlarımıza ve yakın çalıştığımız model laboratuvarlarına — @deepseek_ai, @Alibaba_Qwen, @MiniMax_AI, @Kimi_Moonshot, @MistralAI ve buraya sığmadığımız @NVIDIAAIDev, @RedHat_AI, @AIatAMD, @AIatMeta ve daha birçok ortak — büyük teşekkürler. Bu ekosistemi olduğu gibi yapıyorsunuz. 💛💙 Ayrıca bu dönemde, vLLM'in yaratıcıları ve çekirdek koruyucuları tarafından @inferact, vLLM'i büyütmeye ve çıkarımı daha ucuz ve hızlı hale getirmeye adanmış olarak kuruldu. Bir sonraki bölüme geçelim — birlikte. Herkes için kolay, hızlı ve ucuz LLM servisi. 🌍