Skip to content
patrickbrandaoPublic

About

Thinker — gateway LLM entre agentes de IA (harnesses) e provedores de inferência. Self-hosted, Docker.

Topics

Resources

Code of conduct

Contributing

Security policy

Stars

1 star

Watchers

0 watching

Forks

Latest commit

 

History

220 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Thinker LLM Gateway

Gateway de LLM open source e auto-hospedado para agentes de IA

Docker pulls   Tamanho da imagem Docker   Status da CI   Licença

O que é o Thinker

O Thinker fica entre os seus agentes de IA (os "harnesses": Claude Code, Codex, OpenCode, OpenClaw, Hermes, aplicações com SDK) e os provedores de inferência (chaves de API, assinaturas, modelos locais, endpoints customizados). Ele expõe um endpoint compatível com OpenAI e Anthropic, escolhe o modelo certo para cada requisição e registra custo, tokens e o corpo completo de cada chamada.

  • Roteamento: chaves de API, assinaturas, modelos locais e provedores customizados, com tiers por complexidade da requisição.
  • Fallback: quando uma tentativa falha, o Thinker tenta os modelos de reserva configurados.
  • Registro completo: corpo de requisições e respostas, de sucesso e de erro, com retenção de 30 dias por padrão.
  • Custos: tokens e custo por requisição, por harness, provedor e modelo, com limites e notificações.
  • Sem phone-home: o produto não envia telemetria nem verifica atualizações. Veja Privacidade.

Início rápido

O Thinker é distribuído como imagem Docker (linux/amd64 e linux/arm64). O caminho oficial de instalação é Docker/Compose.

bash <(curl -sSL https://raw.githubusercontent.com/patrickbrandao/thinker/main/docker/install.sh)

O instalador baixa o docker-compose.yml, gera BETTER_AUTH_SECRET e THINKER_ENCRYPTION_KEY e sobe a stack em ~/thinker. Depois:

  1. Abra http://localhost:2099/setup.

  2. O cadastro público é fechado. O primeiro administrador exige o token de setup impresso no log:

    cd ~/thinker && docker compose logs thinker | grep 'setup token'
  3. Conecte um provedor, crie um harness (agente) e copie a chave thk_. Veja Primeiros passos.

Instalação manual com Compose, porta, proxy reverso e backup: Instalação com Docker.

Harnesses suportados

Harness Superfície Guia
Claude Code Anthropic Messages (/v1/messages) Conectar harnesses
Codex OpenAI Responses (/v1/responses) Conectar harnesses
OpenCode Chat Completions (/v1/chat/completions) Conectar harnesses
OpenClaw, Hermes, Nanobot, Craft Chat Completions Conectar harnesses
SDKs (OpenAI, Anthropic, Vercel AI SDK, LangChain), n8n, cURL Chat Completions, Messages ou Responses Conectar harnesses

Provedores

O Thinker conecta dezenas de provedores embutidos e qualquer endpoint customizado compatível com OpenAI ou Anthropic. Use sua chave de API, reaproveite uma assinatura paga ou rode modelos localmente. Envie "model": "auto" e o Thinker escolhe o modelo. Os catálogos são descobertos quando as credenciais são conectadas; a tabela abaixo é representativa, não exaustiva.

Provedor API key / local Assinatura Catálogo de modelos
OpenAI ✅ ✅ ChatGPT Plus / Pro / Team GPT-5.6 (Sol / Terra / Luna), GPT-5.5, GPT-5.4, Codex, o-series
Anthropic ✅ ✅ Claude Max / Pro Claude Opus 5, Sonnet 5, Fable 5, Haiku 4.5
Google ✅ ✅ Sign in with Google Gemini 3.5 Flash, 3.1 Flash-Lite, Gemini 2.5
Google Vertex AI ✅ — Gemini models via Vertex AI
Meta ✅ — Muse Spark 1.2 / 1.1 + Contributor route (Meta Model API)
xAI ✅ ✅ Grok subscription Grok 4.5, Grok 4.3, Grok Build, Grok 4.20
AWS Bedrock ✅ — Claude, GPT, Kimi, MiniMax, Nemotron, Nova via Bedrock
Alibaba Cloud / Qwen ✅ ✅ Qwen Token Plan Qwen 3.7 Max / Plus / Flash, DeepSeek, Kimi, GLM
DeepSeek ✅ — DeepSeek V4 Pro, V4 Flash, V3.2, R1
Mistral ✅ ✅ Mistral Vibe Mistral Large, Medium 3.5, Devstral, Codestral
Moonshot (Kimi) ✅ ✅ Kimi Coding Plan Kimi K3, K2.7 Code, Kimi for Coding
MiniMax ✅ ✅ MiniMax Coding Plan MiniMax M3, M2.7, M2.5
Xiaomi MiMo ✅ ✅ MiMo Token Plan MiMo V2.5 Pro, V2.5, Flash
Z.ai ✅ ✅ GLM Coding Plan GLM 5.2, GLM 5.1, GLM 5 Turbo
BytePlus — ✅ ModelArk Coding Plan Ark Code, Seed Code, GLM, Kimi, DeepSeek, GPT-OSS
GitHub Copilot — ✅ Copilot subscription Claude, GPT, Gemini, Grok via Copilot
Kiro — ✅ Kiro subscription kiro/auto, Claude, DeepSeek, MiniMax, GLM, Qwen
Command Code — ✅ Command Code subscription Claude, DeepSeek V4, Qwen 3.7, Gemini, Kimi
ClinePass — ✅ ClinePass subscription cline-pass/glm-5.2, Kimi, DeepSeek, MiMo, MiniMax, Qwen
NousResearch — ✅ NousResearch subscription NousResearch Portal model catalog
OpenCode Go — ✅ OpenCode Go DeepSeek V4, Qwen 3.7, GLM, Kimi, MiMo
Ollama / Ollama Cloud 🖥️ Local ✅ Ollama Cloud Local tags: Llama, Qwen, Gemma. Cloud: DeepSeek V4, GLM, Kimi
LM Studio 🖥️ Local — Modelos GGUF locais, porta 1234
llama.cpp 🖥️ Local — Modelos GGUF locais, porta 8080
OpenRouter ✅ — 300+ models across labs
OpenCode ✅ — Pay-as-you-go Claude, GPT, Gemini and free models (no key)
Kilo ✅ — Kilo Gateway catalog
Cerebras ✅ — GPT-OSS, GLM, Gemma on Cerebras inference
Fireworks AI ✅ — DeepSeek V4, Kimi K2.7, Qwen 3.7, Nemotron
Groq ✅ — Llama 4, Qwen 3.6, GPT-OSS, Gemma
Hugging Face ✅ — Open models through Hugging Face Inference Providers
NVIDIA NIM ✅ — Nemotron 3, GLM, Kimi, MiniMax, Qwen
Pioneer ✅ — OpenAI-compatible and fine-tuned Pioneer models
Custom ✅ — Qualquer endpoint /v1/chat/completions ou /v1/messages

Detalhes de configuração: Provedores e roteamento e Provedores por assinatura.

Documentação

Licença e atribuição

O Thinker é distribuído sob a licença MIT.

O projeto nasceu de um snapshot de mnfst/llm-gateway (manifest@6.28.6, licença MIT, copyright MNFST, Inc.) e evolui de forma independente, sem obrigação de compatibilidade com o original.

O logo do Thinker é um desenho original, inspirado em um ícone de cérebro de terceiros: geometria, proporções e trilhas são próprias, e nenhum traço do ícone de referência foi reaproveitado. Detalhes em Marca do Thinker.

About

Thinker — gateway LLM entre agentes de IA (harnesses) e provedores de inferência. Self-hosted, Docker.

Topics

Resources

Code of conduct

Contributing

Security policy

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Used by

Contributors

Languages