Roteador de Modelos (Agregador e Gateway)
As camadas entre você e o modelo: API direta, agregador tipo OpenRouter e gateway de provedores tipo OmniRoute. É onde mora a maior economia possível.
Camadas de acesso
O mesmo modelo pode ser acessado de lugares diferentes. Os nomes que você vai encontrar são provedor, agregador, roteador e proxy. Na prática existem três níveis:
1. API direta
Você contrata na plataforma oficial. Contrata a Anthropic, usa modelo da Anthropic. Simples e limitado a um catálogo só.
2. Agregador
O OpenRouter é o exemplo mais conhecido. Reúne praticamente todos os modelos de todas as empresas num lugar só, com uma chave só. Serve para centralizar: você não quer criar oito contas e configurar oito chaves.
É um serviço pago (você coloca crédito e usa), mas mantém uma lista de modelos gratuitos, tipicamente entre 18 e 20, que inclui modelos bons de verdade. Imagem e vídeo quase nunca aparecem de graça. Voz aparece.
3. Gateway de provedores
Um segundo nível de abstração. O OmniRoute é o exemplo: em vez de oferecer vários modelos, ele oferece várias plataformas, na casa das centenas, sendo boa parte delas gratuitas.
Ele roda como servidor local na sua máquina. Você conecta as suas contas e chaves ali dentro, gera uma única chave e usa em qualquer harness.
Estratégias de roteamento
A parte que dá poder de verdade é montar um combo (uma pré-seleção de pares provedor e modelo) e escolher como o sistema alterna entre eles:
- Prioridade: segue exatamente a ordem que você montou.
- Aleatório: sorteia a cada requisição.
- Round robin: força um ciclo, um por um. Isso evita estourar a cota de um provedor só.
Por que isso economiza tanto
Além do acesso gratuito, dois efeitos colaterais importam:
- Privacidade. Como o gateway roda na sua máquina, os seus dados não passam pelas empresas.
- Múltiplas contas. Nada impede cadastrar mais de uma conta no mesmo provedor, multiplicando a cota gratuita.
O aviso honesto: conectar assinaturas existentes a um proxy é possível, mas as empresas não gostam de redirecionamento de tráfego e existe uma chance pequena de bloqueio de conta. Faça por sua conta e risco.