A Perplexity lançou o pplx-embed-v2-late, um modelo de embeddings open-source com dois componentes: um modelo de 0.6B para query (edge) e um de 9B para indexação, usando arquitetura ColBERT-style com vetores de 128 dimensões por token. Disponível no Hugging Face com licença MIT.
O que é o pplx-embed-v2-late
O modelo é composto por duas partes:
- Modelo de query (0.6B): leve, roda em edge, gera vetores de 128 dimensões por token
- Modelo de indexação (9B): mais pesado, usado no tempo de indexação para gerar os vetores do corpus
A arquitetura ColBERT-style permite matching de tokens individuais, em vez de um único vetor por documento — o que melhora a precisão em buscas semânticas complexas.
Desempenho
- MADQA: 92.4% (melhor resultado)
- ViDoRe v3 Markdown: 61.2% (ponto mais fraco)
- Comparação: o modelo de query 0.6B + indexação 9B supera ambos os modelos de 0.6B nos dois lados
Disponibilidade
- Plataforma: Hugging Face
- Licença: MIT
- Parâmetros: 0.6B (query) + 9B (index)
Por que importa
O pplx-embed-v2-late é notável por três razões:
Arquitetura ColBERT-style: o matching de tokens individuais é superior ao embedding de frase única para buscas semânticas complexas, especialmente em documentos longos e estruturados.
Licença MIT: o modelo é totalmente open-source, o que permite uso comercial e modificação sem restrições.
Separação query/index: a abordagem de usar modelos diferentes para query e indexação é um padrão emergente em RAG (Retrieval-Augmented Generation) — permite otimizar cada estágio independentemente.
Os resultados de 92.4% no MADQA colocam o modelo entre os melhores embeddings disponíveis, mas o ponto fraco no ViDoRe v3 Markdown (61.2%) sugere que a arquitetura tem limitações em documentos com formatação complexa — uma ressalva importante para aplicações de RAG em PDFs e Markdown.
A Perplexity, conhecida por seu motor de busca com IA, está claramente investindo em infraestrutura de embeddings open-source — um movimento que pode beneficiar a comunidade de RAG em geral.
Fontes e referências
Encontrou uma informação que precisa de correção? Fale com a redação.