O vLLM Semantic Router anunciou a Decision 3.0, uma família de 5 modelos open-weight para roteamento de semântica em tempo real. Todos são pós-treinados a partir do Qwen3-VL e licenciados com Apache-2.0.
Os 5 modelos
| Modelo | Parâmetros | Ativos | Preco (entrada/mil) | Destaque |
|---|---|---|---|---|
| Decision-3.0-0.8B | 0.8B | 0.8B | $0.04 | Ultra-leve, edge |
| Decision-3.0-4B | 4B | 0.5B (MoE) | $0.06 | Custo-benefício |
| Decision-3.0-8B | 8B | 1.3B (MoE) | $0.10 | Equilíbrio |
| Decision-3.0-14B | 14B | 2.0B (MoE) | $0.18 | Alta acurácia |
| Decision-3.0-27B | 27B | 3.4B (MoE) | $0.24 | Máximo desempenho |
Capacidades
- Multimodal: texto + imagem + vídeo (27B suporta vídeo até 60s)
- Contexto: 32K-128K tokens dependendo do modelo
- Latência: ~50ms (0.8B) a ~200ms (27B) em H100
- Uso: roteamento de intenções, classificação de documentos, triagem de conteúdo
Benchmarks
- BANKING77: 93.2% (8B) a 95.1% (27B)
- CLINC150+OOS: 96.5% (8B) a 97.8% (27B)
- Amazon ESCI: 55.2% (8B) a 58.9% (27B)
Fontes:
Fontes e referências
Encontrou uma informação que precisa de correção? Fale com a redação.