Ex-OpenAI aponta limites do RLHF na automação com IA
Diogo Almeida, coautor do InstructGPT, afirma que modelos treinados por RLHF servem para diálogo, mas falham em fluxos autônomos sem supervisão humana.
Diogo Almeida, coautor do InstructGPT, afirma na conferência Runtime que grandes modelos foram feitos para dialogar com pessoas, não para substituir equipes sem supervisão.
O Vale do Silício passa boa parte do tempo prometendo agentes autônomos capazes de assumir cargos inteiros. Mas quem ajudou a construir os modelos mais populares da atualidade diz que essa conta não fecha. Diogo Almeida, ex-pesquisador da OpenAI e coautor do artigo seminal do InstructGPT, levou esse ceticismo ao palco da conferência Runtime, organizada pela Modal em São Francisco, apontando diretamente os limites do RLHF na automação com IA. Em apresentação acompanhada pelo The Information, Almeida questionou a falta de automação real na indústria e sustentou que os modelos comerciais foram treinados para agradar avaliadores humanos em conversas diretas, não para executar tarefas sem supervisão.
Os limites do RLHF no trabalho corporativo
Almeida trabalhou mais de quatro anos na OpenAI em pesquisas sobre alinhamento e aprendizado por reforço com feedback humano (RLHF). A técnica moldou o ChatGPT ao ensinar o sistema a escolher respostas que soam úteis e articuladas para uma pessoa diante da tela. O método funciona com eficiência para tirar dúvidas, resumir textos e debater ideias.
O problema começa quando empresas colocam esses mesmos modelos em fluxos operacionais que exigem limites lógicos estritos. Como o treinamento premia a geração de texto plausível e convincente para cumprir a solicitação, o sistema não opera sob regras rígidas de execução. Em processos longos com várias etapas sem revisão humana, pequenos desvios iniciais acumulam erros em cadeia até derrubar o fluxo inteiro. Na visão de Almeida, o setor confundiu facilidade de diálogo com capacidade de execução determinística.
O confronto no palco: assistência versus autonomia
A fala dividiu os quase 800 desenvolvedores reunidos no espaço The Midway. No mesmo evento, outros nomes do setor defenderam o caminho oposto. Scott Wu, CEO da Cognition, empresa criadora do assistente de código Devin, sustentou que a evolução do raciocínio nas novas gerações de modelos aproxima as empresas da autonomia real na programação.
Esse choque reflete a realidade das equipes de engenharia. Ferramentas que atuam ao lado do profissional sugerindo código ganharam tração imediata. Já as iniciativas que tentaram substituir equipes de suporte ou operações internas esbarram em custos altos de correção, integrações frágeis e na obrigação de manter humanos monitorando cada saída para barrar respostas inventadas.
Saídas tipadas e o teste de mercado
Depois de deixar a OpenAI, Almeida fundou a TypeSafe AI. A startup captou US$ 40 milhões em rodada seed liderada pelo fundo DCVC em setembro de 2026 para construir o Jev. O modelo recorre ao aprendizado por reforço orientado a regras e código (RLCD) para entregar saídas tipadas e determinísticas, desenhadas para se conectar diretamente às regras de software das empresas em vez de tentar imitar um funcionário genérico.
Essa aposta precisa agora provar sua viabilidade econômica diante do domínio consolidado de OpenAI, Anthropic e Google. Ao mesmo tempo, engenheiros continuam debatendo se técnicas recentes de raciocínio em tempo de inferência conseguirão fechar essa lacuna de confiabilidade sem abandonar a arquitetura tradicional de chat. A OpenAI não se manifestou formalmente sobre as declarações de seu ex-pesquisador.