El proyecto SGLang lanzó la versión 0.5.22. Esta acelera DeepSeek‑V4.1 hasta 2.3× en GPU NVIDIA H200 y añade compatibilidad con AMD MI350X/MI355X, con un rendimiento de hasta 1.9×. También incorpora nuevos modelos, como EmbeddingGemma 2 y Kandinsky 6. Ahora, el motor puede ejecutarse en Mac con Apple Silicon usando el backend estándar de PyTorch. Para actualizar, se necesita Python 3.11 o una versión posterior.
Por qué importa
Los desarrolladores pueden ejecutar modelos LLM más grandes y rápidos en más equipos, incluidos los Mac, sin tener que comprar servidores nuevos.
