Mecanismo para execução e entrega rápida de modelos de inteligência artificial
vllm-project/vllm é um motor de inferência e atendimento que fornece alta vazão e eficiência de memória para grandes modelos de linguagem (LLMs). Desenvolvido em Python, esta ferramenta visa acelerar os processos de execução de modelos de inteligência artificial.
Atualizações
- 21 de outubro de 2026: Estrelas 94,616 → 94,625, versão mais recente v0.32.0 (18 de outubro de 2026).
O que você ganha
- oferece gerenciamento PagedAttention que garante eficiência de memória
- funciona de forma compatível com os modelos populares do Hugging Face
- inclui suporte a servidor de API compatível com OpenAI
Instalação
uv pip install vllm
vllm download-kernels # precompiled kernels for faster startupSe você não programa
Quero instalar o motor vllm no meu computador. Para realizar a instalação, use estes comandos: uv pip install vllm vllm download-kernels # precompiled kernels for faster startup
Repositório: https://github.com/vllm-project/vllm. Baseie-se nas instruções oficiais no arquivo README deste repositório para a instalação e execução.
Antes de começar, verifique em qual sistema operacional estamos e se as ferramentas necessárias (ex: Python, Node.js, Git, Docker) estão instaladas. Instale as que faltarem passo a passo de acordo com este sistema.
Crie uma pasta nova e vazia para trabalhar. Não toque em arquivos fora desta pasta e não exclua nada. Antes de executar cada comando, diga o que você vai fazer em uma frase.
Diga-me o que devo ver na tela ao final de cada etapa. Se ocorrer um erro, colarei a mensagem de erro para você exatamente como ela é, e vamos corrigi-la juntos.
Termos relacionados do glossário
Links
A TreScout não desenvolveu esta ferramenta · nós a encontramos nas tendências do GitHub e a apresentamos. Esta página descreve o repositório em 2026-10-21: A contagem de estrelas e o nosso texto são daquele dia, o repositório pode ter mudado desde então. Consulte o link do repositório para ver o estado atual. O texto de apresentação foi preparado com IA a partir da própria documentação do repositório e esta página foi traduzida automaticamente do original em turco · a versão turca é a que vale.