Como Configurar e Rodar Modelos de IA Locais com Ollama: Guia Completo de Hardware e Agentes

Por Que Rodar Modelos de IA Localmente?

A execução local de Grandes Modelos de Linguagem (LLMs) tornou-se uma prática essencial para criadores de conteúdo e desenvolvedores que buscam:

1. Custo Zero por Token: Execute loops intensivos de raciocínio, geração de ideias e transcrições sem pagar faturas recorrentes de APIs.
2. Privacidade e Confidencialidade: Roteiros em desenvolvimento, pesquisas não publicadas e dados sensíveis nunca saem da sua máquina.
3. Disponibilidade e Resiliência: Operação 100% offline, imune a instabilidades ou quedas de servidores em nuvem.
4. Customização Total de Parâmetros: Controle absoluto sobre temperatura, penalidade de repetição e janelas de contexto.

---

1. Matriz de Hardware: Escolhendo o Modelo por VRAM

A quantidade de memória de vídeo dedicada (VRAM) da sua GPU é o gargalo que define qual tamanho de modelo e qual quantização podem ser carregados integralmente na placa.

VRAM da GPU	Modelos Recomendados	Quantização	Caso de Uso Ideal
4 GB a 6 GB	llama3.2:3b, qwen2.5:3b, phi3.5:3.8b	Q4_K_M	Triagem rápida de texto, ganchos e resumos curtos
8 GB	llama3.1:8b, qwen2.5:7b, mistral:7b	Q4_K_M	Roteirização, reescrita de parágrafos e análise de pauta
12 GB a 16 GB	deepseek-r1:14b, qwen2.5:14b, llama3.1:8b (Q8)	Q4_K_M / Q8	Raciocínio profundo, lógica estruturada e código
24 GB (RTX 3090/4090)	deepseek-r1:32b, qwen2.5:32b, command-r:35b	Q4_K_M	Agentes autônomos complexos e geração de artigos longos
48 GB+ (Multi-GPU)	llama3.3:70b, deepseek-r1:70b	Q4_K_M / Q8	Produção editorial em nível industrial e tradução multilíngue

[!TIP] Quantização Explicada: Um modelo de 8 bilhões de parâmetros em precisão total (16 bits) consome ~16 GB de VRAM. Ao usar a quantização Q4_K_M (4 bits), o modelo é comprimido para ~4.8 GB com perda quase imperceptível de qualidade em tarefas criativas.

---

2. Instalação e Comandos Essenciais

Instalação no Windows / macOS / Linux

Baixe o executável oficial em ollama.com ou instale via terminal no Linux/WSL:

curl -fsSL https://ollama.com/install.sh | sh

Comandos Principais do CLI

# Baixar e iniciar uma conversa no terminal
ollama run llama3.1:8b

# Listar modelos instalados localmente
ollama list

# Exibir uso de memória e modelo atualmente carregado na VRAM
ollama ps

# Atualizar um modelo para a versão mais recente
ollama pull deepseek-r1:14b

# Remover um modelo para liberar espaço em disco
ollama rm mistral:7b

---

3. Criando Modelfiles Customizados para Produção de Conteúdo

O Ollama permite empacotar um prompt de sistema, parâmetros de temperatura e templates em um modelo próprio através de um arquivo Modelfile.

Exemplo: Modelfile de Roteirista Dark Sem Filtro

Crie um arquivo chamado Modelfile:

FROM llama3.1:8b

# Parâmetros de execução
PARAMETER temperature 0.65
PARAMETER top_p 0.9
PARAMETER num_ctx 8192

# Prompt de Sistema Especializado
SYSTEM """
Você é o roteirista sênior do canal Dark Sem Filtro.
Seu objetivo é escrever roteiros para vídeos documentais e investigativos no YouTube.
Regras fundamentais de estilo:
1. Proibido usar clichês motivacionais, saudações vazias ou introduções enroladas.
2. Comece direto pelo gancho de conflito nos primeiros 5 segundos.
3. Use frases curtas, cadência rítmica e quebras de padrão regulares.
4. Mantenha tom sóbrio, analítico, fundamentado em fatos e números verificáveis.
5. Indique marcações de áudio [SFX: Whoosh], [SFX: Braam] e visuais [B-ROLL: Gráfico em queda].
"""

Compile e crie o novo modelo local:

ollama create dsf-writer -f ./Modelfile
ollama run dsf-writer "Crie a estrutura de um vídeo de 10 minutos sobre a bolha do CAC no SaaS em 2026."

---

4. Conectando o Ollama a Agentes e Ferramentas

O Ollama expõe automaticamente uma API REST compatível com o formato da OpenAI em http://localhost:11434/v1.

Chamada cURL Direta

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.1:8b",
    "messages": [
      {"role": "user", "content": "Gere 5 variações de títulos de alto impacto para o YouTube sobre monetização com IA."}
    ],
    "temperature": 0.7
  }'

Integração com Claude Code, Cursor e OpenCode

Para usar o modelo local em ferramentas de código ou agentes:

{
  "apiBase": "http://localhost:11434/v1",
  "apiKey": "ollama",
  "model": "qwen2.5:14b"
}

---

5. Otimizações de Desempenho e Memória

• Ajuste de Janela de Contexto (num_ctx): Por padrão, o Ollama aloca 2.048 tokens de contexto. Para análises de roteiros longos, configure PARAMETER num_ctx 8192 ou 16384 no Modelfile. Note que contextos maiores exigem mais VRAM.
• Offloading Parcial de Camadas (GPU/CPU): Se um modelo for ligeiramente maior que sua VRAM, o Ollama divide as camadas automaticamente entre GPU e memória RAM (CPU), permitindo a execução sem travar o sistema.