Perplexity lança modelos abertos pplx-embed-v2-late

A família pplx-embed-v2-late busca direto em páginas visuais sem OCR e une versões de 0,6B e 9B sob o mesmo espaço vetorial.

A Perplexity publicou no Hugging Face a família de modelos pplx-embed-v2-late sob licença MIT. O pacote traz dois modelos abertos de interação tardia baseados na arquitetura Qwen3.5, com 0,6 bilhão e 9 bilhões de parâmetros, voltados para sistemas de recuperação de documentos e geração aumentada por recuperação (RAG). O anúncio saiu no blog de engenharia da empresa e no perfil oficial no X (@perplexity_ai).

Busca visual direta sem etapas de OCR

Sistemas corporativos de busca costumam converter páginas em texto puro via OCR antes de gerar vetores. Em apresentações de slides, relatórios financeiros ou manuais com tabelas e gráficos, essa etapa intermediária perde formatação e quebra a leitura de elementos visuais complexos. Os novos modelos da Perplexity recebem o arquivo diretamente como imagem renderizada ou texto, gerando representações que preservam diagramas e disposições visuais originais sem conversão prévia.

Espaço vetorial compartilhado entre os tamanhos

A linha adota a lógica de interação tardia, inspirada no ColBERT. Em vez de condensar uma página inteira em um vetor denso único, o sistema gera vetores de 128 dimensões para cada token. Na consulta, a relevância resulta da soma das maiores similaridades entre cada termo da pergunta e os termos do documento (operação MaxSim).

A decisão técnica central está no alinhamento das duas variantes. O modelo de 0,6B (com 340 milhões de parâmetros ativos) e o de 9B (com 7,4 bilhões de parâmetros ativos) operam no mesmo espaço vetorial. Esse alinhamento viabiliza uma arquitetura assimétrica: equipes de dados podem indexar arquivos pesados em lote com a capacidade do modelo de 9B e colocar a versão leve de 0,6B para responder consultas de usuários em tempo real, economizando hardware e tempo de resposta sem reconstruir o índice.

Destilação e suporte em bibliotecas abertas

Ambos os modelos passaram por destilação a partir de um modelo professor de 18 bilhões de parâmetros, mantido restrito para uso interno da Perplexity. O modelo menor recebeu ajuste fino completo, enquanto a versão de 9B combinou camadas LoRA com ajuste fino nas oito camadas finais. Os pesos funcionam em bibliotecas padrão do ecossistema Python pela classe MultiVectorEncoder no sentence-transformers (versão 6.0.0 em diante) e transformers (versão 5.4.0 em diante).

Resultados reportados e limites operacionais

Nos números divulgados pela Perplexity para o benchmark ViDoRe v3, o modelo de 9B marcou nDCG@10 de 65,2% em imagens e 64,7% em markdown. A versão de 0,6B obteve 62,3% e 61,2% nos mesmos testes. Em 72 avaliações textuais especializadas, os índices foram de 81,3% e 78,0%, respectivamente.

Como esses índices vêm de medições internas da própria empresa, o comportamento real com bases corporativas desorganizadas ainda depende de validação independente. Sistemas de interação tardia também demandam mais capacidade de armazenamento do que modelos de vetor único, já que guardam dezenas de vetores por página indexada. A Perplexity citou interesse em levar os modelos à sua API comercial no futuro, mas não publicou cronograma de disponibilidade nem tabela de preços.