← Descobrir
Descobrir · GitHub · Colibri↑ +98 hoje

Execute modelos de inteligência artificial massivos localmente

Colibri é um motor baseado na linguagem C que permite executar modelos de mistura de especialistas (Mixture of Experts) de grande escala em computadores locais com baixos requisitos de hardware. Ao processar camadas de especialistas via streaming a partir do disco, torna possível executar modelos de IA de alta capacidade em hardware limitado.

Atualizações

  • 11 de setembro de 2026: Estrelas 27,608 → 27,610, versão mais recente v1.10.2 (6 de setembro de 2026).

O que você ganha

  • Executa modelos de alta capacidade em hardware limitado
  • Gerencia VRAM, RAM e memória de disco como uma única camada
  • Proporciona eficiência processando camadas de especialistas via streaming

Instalação

Compilando a partir do código-fonte
git clone https://github.com/JustVugg/colibri && cd colibri/c
./setup.sh                                # checks gcc/OpenMP, builds, self-tests

Execução

Iniciar interface de chat
cd c
make deepseek-v4
python ./coli chat --model /path/to/DeepSeek-V4-Flash --ram 32
# also: coli run / coli serve / coli web
# Windows CUDA tier: make cuda-dsv4-dll CUDA_ARCH=portable  (+ make cuda-dsv4-dg-dll on RTX 50)

Se você não programa

🤖 Cole isto no seu agente (Claude Code · Codex · Antigravity)

Quero executar modelos de IA de grande escala no meu computador local usando o motor Colibri. Configure-me para usar meus recursos de hardware (VRAM, RAM e disco NVMe) da maneira mais eficiente possível. Explique passo a passo como posso otimizar e executar modelos como GLM ou DeepSeek de acordo com a capacidade de memória do meu sistema.

Termos relacionados do glossário

Mixture of ExpertsVRAMRAMArtificial Intelligence
Para quem éDestinado a pesquisadores e desenvolvedores que desejam executar grandes modelos de linguagem em seus próprios computadores com recursos de hardware limitados.
LicençaApache-2.0

Links

A TreScout não desenvolveu esta ferramenta · nós a encontramos nas tendências do GitHub e a apresentamos. Esta página descreve o repositório em 2026-09-11: A contagem de estrelas e o nosso texto são daquele dia, o repositório pode ter mudado desde então. Consulte o link do repositório para ver o estado atual. Esta página foi traduzida automaticamente do original em turco · a versão turca é a que vale.