A Architect (architect.inference), fundada pelo ex-executivo do OpenAI Sahil Lavingia, lançou o Liquid Inference: um marketplace onde cada request de LLM é leiloado em tempo real entre provedores de inferência — com o preço máximo travado antes do primeiro token ser gerado

O que é

  • Modelo: leilão por request — o usuário define o preço máximo aceitável, e o sistema roteia a chamada para o provedor que atende dentro desse teto
  • Compatibilidade: OpenAI + Anthropic API (drop-in)
  • Segurança: ZDR (zero data retention), regiões fixas, allowlists de provedores
  • Transparência: book de ordens ao vivo — o usuário vê as ofertas antes de aceitar
  • Onboarding: $20 de créditos gratuitos para os 500 primeiros usuários; 20% de referral; pagamentos via Stripe

Como funciona

  1. O cliente envia a request via API compatível OpenAI/Anthropic
  2. O sistema consulta os provedores disponíveis dentro das restrições (região, ZDR, allowlist)
  3. Um leilão reverso roda: provedores enviam ofertas de preço
  4. O preço máximo do cliente é o teto absoluto — não há surpresa na fatura
  5. A request é roteada para o vencedor; o token stream é entregue normalmente

Por que importa

  • Custo previsível: ao contrário de "pay per token" com preço flutuante, o Liquid Inference inverte o fluxo: o cliente define o teto, não o provedor
  • Mercado competitivo: provedores competem por cada request em vez de fixar preço unilateral — pressão de mercado em um setor historicamente fechado
  • Governança: ZDR + regiões + allowlists atendem requisitos corporativos de compliance sem abrir mão da flexibilidade
  • Transparência total: o book de ordens ao vivo é um diferencial inédito em inferência de LLMs

Contexto

O Liquid Inference se encaixa na onda de mercados descentralizados de IA — similar a OrcaRouter, que também oferece roteamento entre provedores com benchmarks públicos, mas com modelo de pricing fixo. A abordagem de leilão por request da Architect é mais agressiva: transforma cada chamada em uma micro-transação competitiva.

A Architect não divulgou os provedores iniciais nem a lista de modelos suportados. Os 500 primeiros usuários ganham $20 de créditos para testar.

Fontes e referências

Eric
Eric

Editor responsável pela Gbyte News.

Mais deste colunista ↗

Encontrou uma informação que precisa de correção? Fale com a redação.