Consolide más de 230 proveedores de IA en una única puerta de enlace
OmniRoute es una herramienta de infraestructura de código abierto que reúne más de 230 principales modelos de lenguajes y proveedores de IA en un único punto final compatible con OpenAI (puerta de enlace API). Reduce los costos de IA empresarial con respaldo automático, equilibrio de carga y compresión de tokens.
Actualizaciones
- 14 de septiembre de 2026: Estrellas 62,672 → 65,889, última versión v3.8.50 (26 de agosto de 2026).
- 8 de septiembre de 2026: Estrellas 59,514 → 62,672, última versión v3.8.50 (26 de agosto de 2026).
- 1 de septiembre de 2026: Estrellas 56,571 → 59,514, última versión v3.8.50 (26 de agosto de 2026).
- 27 de agosto de 2026: Estrellas 53,963 → 56,571, última versión v3.8.50 (26 de agosto de 2026).
Qué aporta
- Compatibilidad de API universal: llame a OpenAI, Anthropic, Gemini, Mistral y modelos nativos desde un único punto final /v1/chat/completions.
- Compensación de errores inteligente (alternativa): redirige las solicitudes al modelo alternativo en milisegundos cuando el proveedor principal está atascado en el límite de velocidad o experimenta una interrupción.
- Optimización de tokens y costos: evite la sobrecarga innecesaria de contexto y reduzca su gasto en API con algoritmos de compresión rápida integrados.
- Telemetría y observabilidad integrales: supervise los tiempos de respuesta entre proveedores, las tasas de error y el presupuesto gastado desde un único panel.
Arquitectura técnica y principio de funcionamiento
OmniRoute funciona como un proxy inverso altamente eficiente entre el cliente y los proveedores de IA:
Pasos de instalación e implementación
git clone https://github.com/danielfrg/omniroute.git
cd omniroute
cp .env.example .env
docker compose up -dcurl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "gpt-4o-mini", "messages": [{"role": "user", "content": "Merhaba!"}]}'Mensaje de inteligencia artificial para aquellos que no saben codificar
Prepare una configuración de enrutamiento que incluya modelos OpenAI, Anthropic y Ollama nativos utilizando la puerta de enlace OmniRoute AI. Cree una regla alternativa que cambie automáticamente al segundo modelo si el modelo principal no responde y enumere los pasos para ejecutarlo con Docker Compose.
Antes de empezar, comprueba en qué sistema operativo estamos y si las herramientas necesarias (ej. Python, Node.js, Git, Docker) están instaladas. Instala las que falten paso a paso según este sistema.
Crea una carpeta nueva y vacía para trabajar. No toques ningún archivo fuera de esta carpeta y no borres nada. Antes de ejecutar cada comando, dime qué vas a hacer en una frase.
Dime qué debería ver en la pantalla al final de cada paso. Si ocurre un error, te pegaré el mensaje de error tal cual y lo solucionaremos juntos.
Advertencias y límites críticos
- Seguridad de clave API: claves API seguras en las variables de entorno del servidor de puerta de enlace; Asegúrese de aplicar la autorización (Token portador) al abrir la puerta de enlace a la Internet pública.
- Diferencias de parámetros del modelo: las ventanas de contexto máximas y los límites de temperatura admitidos por los proveedores son diferentes; Utilice parámetros comunes en las solicitudes.
- Latencia de la red: la distancia geográfica entre la ubicación de la puerta de enlace y los centros de datos del proveedor puede crear retrasos adicionales de varios milisegundos.
Términos relacionados del glosario
Enlaces
TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-07-01: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. El texto de presentación se preparó con IA a partir de la propia documentación del repositorio y esta página se tradujo automáticamente del original en turco · prevalece la versión turca.