Execute modelos de inteligência artificial massivos localmente
Colibri é um motor baseado na linguagem C que permite executar modelos de mistura de especialistas (Mixture of Experts) de grande escala em computadores locais com baixos requisitos de hardware. Ao processar camadas de especialistas via streaming a partir do disco, torna possível executar modelos de IA de alta capacidade em hardware limitado.
Atualizações
- 16 de outubro de 2026: Estrelas 40,157 → 42,279, versão mais recente v2.0.0 (6 de outubro de 2026).
- 7 de outubro de 2026: Estrelas 39,698 → 40,157, versão mais recente v2.0.0 (6 de outubro de 2026).
- 5 de outubro de 2026: Estrelas 37,791 → 39,698, versão mais recente v1.12.1 (24 de setembro de 2026).
- 27 de setembro de 2026: Estrelas 36,260 → 37,791, versão mais recente v1.12.1 (24 de setembro de 2026).
O que você ganha
- Executa modelos de alta capacidade em hardware limitado
- Gerencia VRAM, RAM e memória de disco como uma única camada
- Proporciona eficiência processando camadas de especialistas via streaming
Instalação
git clone https://github.com/JustVugg/colibri && cd colibri/c
./setup.sh # checks gcc/OpenMP, builds, self-testsExecução
cd c
make deepseek-v4
python ./coli chat --model /path/to/DeepSeek-V4-Flash --ram 32
# also: coli run / coli serve / coli web
# Windows CUDA tier: make cuda-dsv4-dll CUDA_ARCH=portable (+ make cuda-dsv4-dg-dll on RTX 50)Se você não programa
Quero executar modelos de IA de grande escala no meu computador local usando o motor Colibri. Configure-me para usar meus recursos de hardware (VRAM, RAM e disco NVMe) da maneira mais eficiente possível. Explique passo a passo como posso otimizar e executar modelos como GLM ou DeepSeek de acordo com a capacidade de memória do meu sistema.
Repositório: https://github.com/JustVugg/colibri. Baseie-se nas instruções oficiais no arquivo README deste repositório para a instalação e execução.
Antes de começar, verifique em qual sistema operacional estamos e se as ferramentas necessárias (ex: Python, Node.js, Git, Docker) estão instaladas. Instale as que faltarem passo a passo de acordo com este sistema.
Crie uma pasta nova e vazia para trabalhar. Não toque em arquivos fora desta pasta e não exclua nada. Antes de executar cada comando, diga o que você vai fazer em uma frase.
Diga-me o que devo ver na tela ao final de cada etapa. Se ocorrer um erro, colarei a mensagem de erro para você exatamente como ela é, e vamos corrigi-la juntos.
Termos relacionados do glossário
Links
A TreScout não desenvolveu esta ferramenta · nós a encontramos nas tendências do GitHub e a apresentamos. Esta página descreve o repositório em 2026-09-11: A contagem de estrelas e o nosso texto são daquele dia, o repositório pode ter mudado desde então. Consulte o link do repositório para ver o estado atual. O texto de apresentação foi preparado com IA a partir da própria documentação do repositório e esta página foi traduzida automaticamente do original em turco · a versão turca é a que vale.