Modelos abertos da Perplexity focam em decisão e busca

A empresa disponibilizou no Hugging Face o pplx-decider de 27 bilhões de parâmetros e um modelo contextual de embeddings para baratear rotinas técnicas de software.

A Perplexity AI publicou no Hugging Face dois modelos abertos da Perplexity voltados para infraestrutura técnica: o pplx-decider-v1-27b, projetado para classificação direta e triagem de fluxos, e o pplx-embed-v2-context-9b-preview, criado para recuperação de dados em sistemas de busca vetorial. O anúncio foi feito pelo presidente-executivo da companhia, Aravind Srinivas, em paralelo ao lançamento de uma interface de programação comercial com foco em baixo custo.

Decisões estruturadas em vez de texto livre

O pplx-decider-v1-27b usa como ponto de partida o modelo Qwen3.8-27B, desenvolvido pela Alibaba. Ele aceita entradas de texto e imagem e suporta uma janela de contexto de 250 mil tokens, unidade básica de texto processada por uma inteligência artificial. A proposta, porém, foge do formato de chatbots tradicionais. O modelo não serve para escrever redações ou manter conversas abertas. O objetivo dele é calcular probabilidades sobre alternativas predeterminadas, como escolher o departamento certo em um suporte ou responder checagens lógicas simples de sim ou não.

Em números divulgados pela própria Perplexity, o decider obteve média de 85,71% em 11 testes de classificação, superando a versão base do Qwen (74,76%) e concorrentes como o Jev (84,51%). No teste de consistência RAGTruth, a empresa registrou 88,80%, com a versão v1.1 chegando a 94,5% no benchmark de decisões. Para quem não quer gerenciar servidores próprios, a Decisions API começou custando US$ 0,04 por milhão de tokens de entrada com saída gratuita, valor reduzido para US$ 0,02 na revisão seguinte. Rodar o modelo localmente, por outro lado, exige placas de vídeo profissionais com suporte a CUDA e cerca de 49 GiB de memória de vídeo dedicada.

Embeddings que preservam o contexto da página

A segunda peça da entrega é o pplx-embed-v2-context-9b-preview, com cerca de 9 bilhões de parâmetros. Em sistemas de recuperação aumentada por geração (RAG, na sigla em inglês), textos extensos precisam ser transformados em vetores, que são representações numéricas do significado de cada frase. O método convencional fatia o documento em pedaços isolados, fazendo cada trecho perder a visão geral do arquivo. O modelo da Perplexity contorna essa falha ao processar os fragmentos em conjunto, permitindo que cada índice retenha o contexto do documento inteiro.

De acordo com o diretor de tecnologia Denis Yarats, o modelo passou por destilação a partir de um compressor sensível à consulta. Os vetores saem comprimidos em formato INT8 com 2048 dimensões e suportam redução estruturada para 1024 dimensões. Nesse tamanho menor, cada representação ocupa 1 KB em disco, consumindo oito vezes menos espaço que o padrão Float32 comum na indústria. Em testes cegos conduzidos pela empresa de infraestrutura turbopuffer, com quase 39 mil documentos avaliados, o modelo superou o voyage-context-4 em 14,4 pontos percentuais na taxa de recuperação de respostas.

Limites dos modelos abertos da Perplexity e a briga técnica

Apesar do termo pesos abertos, a iniciativa não entrega código aberto irrestrito. A Perplexity liberou os arquivos para download sob os termos herdados da base Qwen, mas manteve em segredo os conjuntos de dados de treinamento e o código dos pipelines de curadoria. Além disso, a empresa classificou o modelo de embeddings como uma versão prévia técnica. Isso significa que dimensões vetoriais e estrutura interna podem mudar antes da edição estável, sem garantia de reaproveitamento para bancos de dados montados agora.

O movimento indica uma tentativa prática de disputar o mercado corporativo com fornecedores como OpenAI, Anthropic e Cohere. Em arquiteturas com múltiplos agentes autônomos, gastar chamadas de modelos gigantes de fronteira apenas para classificar uma mensagem ou puxar parágrafos em um banco vetorial encarece a operação desnecessariamente. A Perplexity aposta em ferramentas especializadas para resolver essas etapas mecânicas por uma fração do preço.