SGLang
Framework de serving de LLMs y modelos multimodales creado por LMSYS; con RadixAttention logra latencias mínimas y ya sirve billones de tokens diarios en producción.
- Ingeniería
- ia
- open-source
- inferencia
26 ago
Índice curado
Herramientas de IA, modelos abiertos y stack de creación, curados por categoría y etiqueta.
46 recursos · Quitar filtros
Framework de serving de LLMs y modelos multimodales creado por LMSYS; con RadixAttention logra latencias mínimas y ya sirve billones de tokens diarios en producción.
26 ago
Librería minimalista de Hugging Face para crear agentes que razonan escribiendo código Python; ideal para aprender agentes sin la complejidad de frameworks grandes.
26 ago
Lab chino de modelos multimodales; Step 3.7 Flash (198B MoE con visión, pesos abiertos) apunta a agentes de código y búsqueda de alto volumen.
26 ago
Librería para hacer fine-tuning y RL de modelos abiertos 2x más rápido y con 70% menos VRAM; permite entrenar LLMs gratis en Colab o con GPUs modestas.
26 ago
Motor de inferencia y serving de LLMs de alto rendimiento con PagedAttention; el estándar open source para servir modelos en producción con máximo throughput.
26 ago
Familia de video generativo de Alibaba; Wan 2.7 es open source (Apache 2.0) y Wan 3.0, en beta, genera clips de 30 s con audio en una sola pasada.
26 ago