Motor para la ejecución y servicio rápido de modelos de inteligencia artificial
vllm-project/vllm es un motor de inferencia y servicio para grandes modelos de lenguaje (LLM) que ofrece un alto rendimiento y eficiencia de memoria. Desarrollado en Python, esta herramienta tiene como objetivo acelerar los procesos de ejecución de los modelos de inteligencia artificial.
Actualizaciones
- 21 de octubre de 2026: Estrellas 94,616 → 94,625, última versión v0.32.0 (18 de octubre de 2026).
Qué aporta
- ofrece gestión pagedattention que proporciona eficiencia de memoria
- funciona de manera compatible con los modelos populares de Hugging Face
- incluye compatibilidad con servidores API compatibles con OpenAI
Instalación
uv pip install vllm
vllm download-kernels # precompiled kernels for faster startupSi no programa
Quiero instalar el motor vllm en mi ordenador. Para realizar la instalación, utiliza los siguientes comandos: uv pip install vllm vllm download-kernels # precompiled kernels for faster startup
Repositorio: https://github.com/vllm-project/vllm. Sigue las instrucciones oficiales del archivo README de este repositorio para la instalación y ejecución.
Antes de empezar, comprueba en qué sistema operativo estamos y si las herramientas necesarias (ej. Python, Node.js, Git, Docker) están instaladas. Instala las que falten paso a paso según este sistema.
Crea una carpeta nueva y vacía para trabajar. No toques ningún archivo fuera de esta carpeta y no borres nada. Antes de ejecutar cada comando, dime qué vas a hacer en una frase.
Dime qué debería ver en la pantalla al final de cada paso. Si ocurre un error, te pegaré el mensaje de error tal cual y lo solucionaremos juntos.
Términos relacionados del glosario
Enlaces
TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-10-21: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. El texto de presentación se preparó con IA a partir de la propia documentación del repositorio y esta página se tradujo automáticamente del original en turco · prevalece la versión turca.