Gérez vos modèles d'intelligence artificielle depuis un endroit unique
LiteLLM est une passerelle IA (AI gateway) qui unifie plus de 100 interfaces de grands modèles de langage (LLM) dans un format standard unique. Il facilite la transition entre différents fournisseurs de modèles pour les développeurs en offrant des fonctionnalités telles que le suivi des coûts, la répartition de charge et des garde-fous (guardrails).
Mises à jour
- 26 octobre 2026: Étoiles 61,984 → 62,039, dernière version v1.106.4 (25 octobre 2026).
- 25 octobre 2026: Étoiles 61,793 → 61,984, dernière version v1.106.3 (24 octobre 2026).
- 22 octobre 2026: Étoiles 61,715 → 61,793, dernière version v1.106.2 (21 octobre 2026).
- 21 octobre 2026: Étoiles 61,706 → 61,715, dernière version v1.107.0 (21 octobre 2026).
Ce que ça vous apporte
- Il évite la complexité du code en unifiant plus de cent fournisseurs de LLM (Grand Modèle de Langage) dans un format standard unique.
- Il élimine la nécessité de réécrire votre base de code lors du passage d'un modèle d'IA à un autre.
- Il offre une infrastructure de gestion de niveau entreprise avec des outils tels que des clés virtuelles, le suivi budgétaire et la répartition de charge.
Installation
uv add litellmExécution
uv tool install 'litellm[proxy]'
litellm --model gpt-4oSi vous ne codez pas
Tu es un assistant de développement logiciel. Dans notre projet, nous souhaitons utiliser l'outil LiteLLM pour gérer différents modèles d'intelligence artificielle depuis un point central unique. Tout d'abord, permets-moi d'installer la bibliothèque en exécutant la commande 'uv add litellm' dans le terminal. Ensuite, explique-moi étape par étape comment démarrer un serveur de passerelle local pour le grand modèle de langage gpt-4o avec les commandes 'uv tool install 'litellm[proxy]'' et 'litellm --model gpt-4o', et comment je peux router les modèles via ce serveur.
Dépôt : https://github.com/BerriAI/litellm. Base-toi sur les instructions officielles du fichier README de ce dépôt pour l'installation et l'exécution.
Avant de commencer, vérifie quel système d'exploitation nous utilisons et si les outils nécessaires (ex: Python, Node.js, Git, Docker) sont installés. Installe ceux qui manquent étape par étape selon ce système.
Crée un nouveau dossier vide pour travailler. Ne touche pas aux fichiers en dehors de ce dossier et ne supprime rien. Avant chaque commande, décris ce que tu vas faire en une phrase.
Dis-moi ce que je devrais voir à l'écran à la fin de chaque étape. Si une erreur survient, je te copierai le message d'erreur tel quel et nous la corrigerons ensemble.
Termes liés du glossaire
Liens
TreScout n'a pas développé cet outil · nous l'avons repéré dans les tendances GitHub et présenté. Cette page décrit le dépôt tel qu'il était le 2026-10-09 : Le nombre d'étoiles et notre texte datent de ce jour, le dépôt a pu changer depuis. Consultez le lien du dépôt pour l'état actuel. Le texte de présentation a été préparé avec l’IA à partir de la propre documentation du dépôt et cette page a été traduite automatiquement depuis l’original turc · la version turque fait foi.