Módulo 4: Provedores, agregadores e roteadores

Um modelo, vários lugares de acesso

O mesmo modelo pode ser acessado de lugares diferentes. Isso se chama camada de acesso, e os nomes que você vai encontrar são provedor, agregador, roteador e proxy.

1. API direta. Você entra na plataforma oficial e contrata o serviço deles. Contrata a Anthropic, usa modelo da Anthropic. Contrata a DeepSeek, usa modelo da DeepSeek. Simples e limitado.

2. Agregador. O OpenRouter é o exemplo mais conhecido. Se você contrata direto na OpenAI, só usa modelo da OpenAI, porque são os modelos dela. No OpenRouter aparecem praticamente todos: digita “claude” e vê a linha inteira da Anthropic, digita “gpt” e vê a da OpenAI. Serve para centralizar. Você não quer fazer oito contas diferentes e configurar oito chaves.

3. Gateway de provedores. É um segundo nível de abstração, e é aqui que a coisa fica interessante.

OpenRouter na prática

Dentro do perfil existe a seção API Keys, que você vai encontrar em praticamente todo site do mundo de IA. Ao criar uma chave, três configurações valem o clique:

• Nome: para você saber depois qual chave é de qual projeto.
• Expiração: defina uma. Chave eterna é chave esquecida.
• Teto de gasto e reset: por exemplo, dez dólares com reset diário, semanal ou mensal. Sem reset, é um teto de uso único: bate os dez dólares e a chave morre. Que é exatamente o que você quer para um teste.

Copie a chave na hora, porque depois que você fecha a janela não dá para ver de novo.

O OpenRouter é um agregador pago: você coloca crédito e usa o modelo que quiser, entre mais de 400 disponíveis. Mas se você filtrar por free, aparecem cerca de 18 a 20 modelos gratuitos, e são bons de verdade. Modelos de fronteira aparecem nessa lista, e às vezes a plataforma libera vários dias sem limite.

Vale reparar em duas coisas ao filtrar por categoria: não existe modelo de imagem gratuito ali, e imagem e vídeo em geral são o que menos aparece de graça. Já em voz existem opções gratuitas interessantes, que valem teste para quem quer sair do ElevenLabs.

OmniRoute

O OmniRoute é um gateway open source criado por um brasileiro, o Diego. Ele funciona parecido com o OpenRouter, mas com uma proposta diferente: juntar o máximo de coisa gratuita possível para você nunca precisar pagar.

A diferença de nível é essa:

• O OpenRouter é um provedor que oferece vários modelos.
• O OmniRoute é um gateway que oferece vários provedores, na casa das centenas. Entre muitas aspas, é como ter centenas de OpenRouters dentro de um só lugar.

Na tela de provedores aparecem cerca de 295 plataformas conectáveis. Filtrando só pelos planos gratuitos, sobram em torno de 126. Alguns nomes que aparecem verdinhos quando conectados: Cerebras, DeepSeek, Google AI Studio, Groq, Kiro AI, LLM7, Ollama Cloud, NVIDIA, OpenRouter, OpenCode Free, Token Router, Hugging Face e GitHub.

Ele roda como um servidor local na sua máquina. Você conecta ali dentro as suas contas e chaves, e ele faz o gerenciamento. Depois, gera uma única chave (a do próprio OmniRoute) e usa ela onde quiser.

O passo a passo real

1. Instala e roda. Se der erro na primeira execução, Ctrl+C e roda de novo, que na segunda vez sobe rápido.
2. Abre o site local que ele indica. A senha padrão é changeme, com C maiúsculo.
3. Vai em Provedores, escolhe um, clica em adicionar, dá um nome e cola a chave de API.
4. Clica em verificar para confirmar que a chave é válida.
5. Marque importar apenas modelos gratuitos, senão ele traz os 400 e você não quer isso.

Combos e estratégia de roteamento

Essa é a parte que dá poder de verdade. Você cria um combo, dá um nome, e escolhe manualmente cada par de provedor e modelo que quer usar, na ordem que quiser. Existem templates prontos, como o FreeStack, que usa só coisa gratuita.

Depois vem a estratégia de roteamento, que define como ele troca de um modelo para o outro:

• Prioridade: segue exatamente a ordem que você montou.
• Aleatório: o nome já diz.
• Round robin: força um ciclo, um por um. Fez uma requisição no provedor A, a próxima vai para o B, a seguinte para o C. Isso evita que você estoure a cota de um provedor só.

E existe monitoramento de uso, que é onde a economia fica visível. Num mês de uso real dentro do OmniRoute deu para consumir cerca de 35 milhões de tokens de entrada e quase 1 milhão de saída, tudo gratuito. Fazendo a conta com o preço de um modelo de fronteira (4 dólares por milhão de entrada e 20 por milhão de saída), isso equivale a algo em torno de 150 dólares que não foram gastos.

Dois pontos que fecham o argumento: como o gateway roda na sua máquina, nenhum dado seu é compartilhado com as empresas, o que melhora bastante a privacidade. E como ele é open source, qualquer pessoa pode ler o código antes de rodar.

Modelos locais

A outra ponta é rodar o modelo dentro do seu computador, sem depender de ninguém. Programas como o Ollama e o LM Studio baixam os modelos abertos (arquivos de alguns gigabytes) e rodam localmente, de forma privada e sem pagar nada.

Aqui existe uma relação direta e sem escapatória entre a qualidade do seu PC e a qualidade do modelo que você consegue rodar.

Como escolher a sua abordagem

Não existe resposta única. Existem quatro perguntas:

1. Custo e acesso. Qual é o preço por token de cada opção?
2. Latência e estabilidade. Usando só coisa gratuita, você perde um pouco de velocidade e estabilidade, e as respostas variam porque hoje pode cair num modelo e amanhã em outro. Para alguns casos isso é perfeito. Para outros, é inaceitável.
3. Limites. Se você usa pouco, faz sentido pagar só pelo pouco que usa por API em vez de R$ 100 por mês. Se usa muito, os R$ 100 viram lucro.
4. Ideologia. Tem gente que não quer financiar empresa chinesa, tem gente que não quer financiar empresa americana, tem gente que só quer rodar em casa. É um critério legítimo.

Próximo módulo

No Módulo 5 a gente sai do modelo e vai para a camada que realmente muda o seu trabalho: o harness.