Combine mais de 230 provedores de inteligência artificial em um único gateway
O OmniRoute é uma ferramenta de infraestrutura de código aberto que reúne mais de 230 grandes modelos de linguagem e provedores de IA em um único endpoint compatível com OpenAI (gateway de API). Ele reduz os custos de IA corporativa com fallback automático, balanceamento de carga e compressão de tokens.
Atualizações
- 14 de setembro de 2026: Estrelas 62,672 → 65,889, versão mais recente v3.8.50 (26 de agosto de 2026).
- 8 de setembro de 2026: Estrelas 59,514 → 62,672, versão mais recente v3.8.50 (26 de agosto de 2026).
- 1 de setembro de 2026: Estrelas 56,571 → 59,514, versão mais recente v3.8.50 (26 de agosto de 2026).
- 27 de agosto de 2026: Estrelas 53,963 → 56,571, versão mais recente v3.8.50 (26 de agosto de 2026).
O que você ganha
- Compatibilidade Universal de API: Chame modelos da OpenAI, Anthropic, Gemini, Mistral e modelos locais a partir de um único endpoint /v1/chat/completions.
- Compensação Inteligente de Erros (Fallback): Redirecione solicitações para um modelo alternativo em milissegundos quando o provedor principal atingir o limite de taxa (rate limit) ou sofrer uma interrupção.
- Otimização de Tokens e Custos: Evite o inchaço desnecessário de contexto com algoritmos internos de compressão de prompts e reduza seus gastos com API.
- Telemetri ve Gözlemlenebilirlik Kapsamı: Yanıt sürelerini, hata oranlarını ve harcanan bütçeyi sağlayıcılar arasında tek bir kontrol panelinden izleyin.
Arquitetura técnica e princípio de funcionamento
O OmniRoute funciona como um proxy reverso de alta eficiência entre o cliente e os provedores de IA:
Etapas de instalação e implantação
git clone https://github.com/danielfrg/omniroute.git
cd omniroute
cp .env.example .env
docker compose up -dcurl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "gpt-4o-mini", "messages": [{"role": "user", "content": "Merhaba!"}]}'Prompt de IA para não programadores
Prepare uma configuração de roteamento usando o gateway de IA OmniRoute que inclua modelos da OpenAI, Anthropic e Ollama local. Crie uma regra de fallback que mude automaticamente para o segundo modelo caso o modelo principal não responda e liste os passos para executar com Docker Compose.
Antes de começar, verifique em qual sistema operacional estamos e se as ferramentas necessárias (ex: Python, Node.js, Git, Docker) estão instaladas. Instale as que faltarem passo a passo de acordo com este sistema.
Crie uma pasta nova e vazia para trabalhar. Não toque em arquivos fora desta pasta e não exclua nada. Antes de executar cada comando, diga o que você vai fazer em uma frase.
Diga-me o que devo ver na tela ao final de cada etapa. Se ocorrer um erro, colarei a mensagem de erro para você exatamente como ela é, e vamos corrigi-la juntos.
Avisos críticos e limitações
- Segurança da Chave de API: Proteja as chaves de API nas variáveis de ambiente do servidor de gateway; ao expor o gateway à internet pública, certifique-se de implementar a autorização (Bearer Token).
- Diferenças nos Parâmetros do Modelo: As janelas de contexto máximas e os limites de temperatura suportados pelos provedores variam; utilize parâmetros comuns nas solicitações.
- Latência de Rede: A distância geográfica entre a localização do gateway e os data centers do provedor pode criar alguns milissegundos adicionais de latência.
Termos relacionados do glossário
Links
A TreScout não desenvolveu esta ferramenta · nós a encontramos nas tendências do GitHub e a apresentamos. Esta página descreve o repositório em 2026-07-01: A contagem de estrelas e o nosso texto são daquele dia, o repositório pode ter mudado desde então. Consulte o link do repositório para ver o estado atual. O texto de apresentação foi preparado com IA a partir da própria documentação do repositório e esta página foi traduzida automaticamente do original em turco · a versão turca é a que vale.