A InclusionAI, divisão de pesquisa da Ant Group, lançou nesta segunda-feira (18) o Ling-3.1-flash, um modelo de linguagem aberto de 560 bilhões de parâmetros com arquitetura MoE (Mixture-of-Experts) otimizado para fluxos de trabalho agênticos e engenharia de software. A principal novidade é a combinação de um contexto de 1 milhão de tokens com apenas 25 bilhões de parâmetros ativos por token, o que permite inferência rápida mesmo em modelos de grande porte.

Arquitetura híbrida e eficiência computacional

O Ling-3.1-flash emprega uma arquitetura MoE híbrida-linear com 63 camadas KDA (Key-Dependent Attention) e 9 camadas Gated MLA (Multi-Head Latent Attention). Embora o modelo total conte 560 bilhões de parâmetros, cada token aciona apenas 25 bilhões, reduzindo drasticamente o custo de inferência. A empresa afirma que o modelo foi projetado especificamente para tarefas agênticas, incluindo a geração de telas React Native, SVGs editáveis e protótipos 3D para a web.

A quantização é um dos pontos fortes do lançamento. Utilizando MXFP4 e camadas densas em block-FP8, o tamanho total dos pesos pode ser reduzido de aproximadamente 534 GB para 292 GB, tornando o modelo viável em clusters de GPUs de alta capacidade. A InclusionAI também destaca que o modelo é suportado nativamente pelo SGLang e pelo vLLM, com suporte day-zero para decodificação especulativa MTP (NEXTN) e otimizações de decodificação para GPUs Hopper.

Desempenho em hardware

Para deploy padrão, a InclusionAI recomenda 8 GPUs H200, mas configurações otimizadas conseguem rodar o modelo em apenas 4 GPUs GB300. A empresa publicou no Hugging Face o card do modelo com instruções completas de instalação e exemplos de uso via API. O modelo está disponível em pesos MIT, o que permite uso comercial livre.

A empresa destacou que o Ling-3.1-flash se diferencia de outros modelos MoE pelo foco em tarefas agênticas complexas, como orquestração de ferramentas, navegação multi-etapa e geração de código com contexto estendido. Em benchmarks internos, o modelo superou modelos de 30B e 70B parâmetros em tarefas de engenharia de software e prototipagem de interfaces.

Contexto no mercado de modelos abertos

O lançamento do Ling-3.1-flash ocorre em uma semana movimentada para modelos de linguagem abertos. A InclusionAI entra nesse cenário com uma proposta clara: eficiência em escala, contexto extenso e foco em aplicações agênticas.

Para desenvolvedores que trabalham com agentes de IA localmente, o modelo oferece uma alternativa viável a modelos maiores. A combinação de 25 bilhões de parâmetros ativos com 1 milhão de tokens de contexto posiciona o Ling-3.1-flash como uma das opções mais eficientes do mercado para inferência local de alta capacidade.

Implicações para desenvolvimento local

Com 192 GB de memória unificada disponível em plataformas modernas, o Ling-3.1-flash se encaixa perfeitamente em workstations de alto desempenho. A capacidade de executar múltiplos agentes concorrentes com KV caches discretos abre possibilidades para fluxos de trabalho multi-agente local, sem depender de APIs em nuvem.

A InclusionAI confirmou que o modelo será integrado ao ecossistema Ant Group e estará disponível em plataformas de inferência locais. Para equipes que buscam modelos abertos com contexto estendido e foco em engenharia de software, o Ling-3.1-flash representa uma opção competitiva no mercado de modelos de linguagem abertos.

Fontes e referências

Eric
Eric

Editor responsável pela Gbyte News.

Mais deste colunista ↗

Encontrou uma informação que precisa de correção? Fale com a redação.