← Descubrir
GitHub · NVIDIA-NeMo/Switchyard↑ +421 hoy

Router que gestiona el tráfico de inteligencia artificial

Desarrollado por NVIDIA, Switchyard es un motor de inferencia de inteligencia artificial de alto rendimiento escrito en lenguaje Rust. Ofrece un entorno de ejecución optimizado para ejecutar modelos de lenguaje grandes (LLM) de manera eficiente en diferentes infraestructuras de hardware.

Actualizaciones

  • 27 de septiembre de 2026: Estrellas 2,617 → 3,227, última versión v0.3.0 (22 de septiembre de 2026).
  • 31 de agosto de 2026: Estrellas 1,566 → 2,617, última versión v0.2.0 (10 de agosto de 2026).
  • 15 de agosto de 2026: Estrellas 923 → 1,566, última versión v0.2.0 (10 de agosto de 2026).

Qué aporta

  • Enrutamiento del tráfico entre diferentes modelos de inteligencia artificial
  • Traducción entre los formatos OpenAI y Anthropic API
  • Seguimiento de métricas de transacciones y registros de errores

Instalación

Instalación como herramienta de línea de comando
curl -LsSf https://astral.sh/uv/install.sh | sh
source "$HOME/.local/bin/env"
uv tool install --python 3.10 "nemo-switchyard[cli]"
Instalación como servidor
cargo install --locked switchyard-server
switchyard-server --help

Ejecución

Verificar el estado del servidor
curl http://localhost:4000/health

Si no programa

Pegue esto en su agente (Claude Code · Codex · Antigravity)

Actúa como un enrutador de tráfico de IA para mí. Con Switchyard, quiero que distribuya las solicitudes de mis agentes de codificación como Claude Code o Codex entre diferentes modelos, traduzca automáticamente entre los formatos OpenAI y Anthropic API y supervise todas las métricas operativas. Administre las solicitudes entrantes con algoritmos de enrutamiento estructurados y realice pruebas A/B o equilibrio de carga entre diferentes modelos cuando sea necesario.

Repositorio: https://github.com/NVIDIA-NeMo/Switchyard. Sigue las instrucciones oficiales del archivo README de este repositorio para la instalación y ejecución.

Antes de empezar, comprueba en qué sistema operativo estamos y si las herramientas necesarias (ej. Python, Node.js, Git, Docker) están instaladas. Instala las que falten paso a paso según este sistema.

Crea una carpeta nueva y vacía para trabajar. No toques ningún archivo fuera de esta carpeta y no borres nada. Antes de ejecutar cada comando, dime qué vas a hacer en una frase.

Dime qué debería ver en la pantalla al final de cada paso. Si ocurre un error, te pegaré el mensaje de error tal cual y lo solucionaremos juntos.

Términos relacionados del glosario

InferenceRuntimeLLMRustAPIArtificial Intelligence
Para quién esEs para desarrolladores que desean gestionar de manera eficiente grandes modelos de lenguaje en diferentes proveedores de hardware y servicios.
LicenciaApache-2.0

Enlaces

TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-08-13: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. El texto de presentación se preparó con IA a partir de la propia documentación del repositorio y esta página se tradujo automáticamente del original en turco · prevalece la versión turca.