Moteur d'exécution et de service rapide pour les modèles d'intelligence artificielle
vllm-project/vllm est un moteur d'inférence et de service pour les grands modèles de langage (LLM) offrant un débit élevé et une grande efficacité mémoire. Développé en Python, cet outil vise à accélérer les processus d'exécution des modèles d'intelligence artificielle.
Mises à jour
- 21 octobre 2026: Étoiles 94,616 → 94,625, dernière version v0.32.0 (18 octobre 2026).
Ce que ça vous apporte
- offre une gestion PagedAttention garantissant l'efficacité de la mémoire
- fonctionne en compatibilité avec les modèles Hugging Face populaires
- intègre le support d'un serveur API compatible OpenAI
Installation
uv pip install vllm
vllm download-kernels # precompiled kernels for faster startupSi vous ne codez pas
Je veux installer le moteur vllm sur mon ordinateur. Pour effectuer l'installation, utilise ces commandes : uv pip install vllm vllm download-kernels # precompiled kernels for faster startup
Dépôt : https://github.com/vllm-project/vllm. Base-toi sur les instructions officielles du fichier README de ce dépôt pour l'installation et l'exécution.
Avant de commencer, vérifie quel système d'exploitation nous utilisons et si les outils nécessaires (ex: Python, Node.js, Git, Docker) sont installés. Installe ceux qui manquent étape par étape selon ce système.
Crée un nouveau dossier vide pour travailler. Ne touche pas aux fichiers en dehors de ce dossier et ne supprime rien. Avant chaque commande, décris ce que tu vas faire en une phrase.
Dis-moi ce que je devrais voir à l'écran à la fin de chaque étape. Si une erreur survient, je te copierai le message d'erreur tel quel et nous la corrigerons ensemble.
Termes liés du glossaire
Liens
TreScout n'a pas développé cet outil · nous l'avons repéré dans les tendances GitHub et présenté. Cette page décrit le dépôt tel qu'il était le 2026-10-21 : Le nombre d'étoiles et notre texte datent de ce jour, le dépôt a pu changer depuis. Consultez le lien du dépôt pour l'état actuel. Le texte de présentation a été préparé avec l’IA à partir de la propre documentation du dépôt et cette page a été traduite automatiquement depuis l’original turc · la version turque fait foi.