Treinamento de inteligência artificial com pouca memória
Soup é uma biblioteca Python que permite o ajuste fino de grandes modelos de linguagem por meio de um único arquivo YAML. Ele pode treinar modelos com 8 bilhões de parâmetros usando o método de streaming de camada em processadores gráficos de laptop com 4 GB de memória.
Atualizações
- 15 de outubro de 2026: Estrelas 8,615 → 9,069, versão mais recente v0.76.1 (14 de outubro de 2026).
- 12 de outubro de 2026: Estrelas 7,988 → 8,615, versão mais recente v0.76.0 (12 de outubro de 2026).
- 2 de outubro de 2026: Estrelas 7,309 → 7,988, versão mais recente v0.75.2 (1 de outubro de 2026).
- 27 de setembro de 2026: Estrelas 6,267 → 7,309, versão mais recente v0.75.1 (21 de setembro de 2026).
O que você ganha
- Você pode treinar modelos com 8 bilhões de parâmetros em laptops com 4 GB de memória gráfica.
- Com o método de fluxo de camadas, você não precisa lidar com instalações complexas superando restrições de hardware.
- Você pode gerenciar todo o processo de treinamento através de um único arquivo de configuração.
Instalação
pip install "soup-cli[train]"pip install "soup-cli[all]"Execução
soup init --template chat
soup trainSe você não programa
Quero treinar um modelo de inteligência artificial com 8 bilhões de parâmetros usando a biblioteca Soup no meu computador com 4 GB de memória gráfica. Ajude-me a criar um arquivo de configuração YAML que permite streaming de camadas e usa quantização de 4 bits. Prepare o conteúdo do arquivo sopa.yaml necessário para iniciar o processo de treinamento e, a seguir, explique passo a passo como iniciar o treinamento usando este arquivo.
Repositório: https://github.com/MakazhanAlpamys/Soup. Baseie-se nas instruções oficiais no arquivo README deste repositório para a instalação e execução.
Antes de começar, verifique em qual sistema operacional estamos e se as ferramentas necessárias (ex: Python, Node.js, Git, Docker) estão instaladas. Instale as que faltarem passo a passo de acordo com este sistema.
Crie uma pasta nova e vazia para trabalhar. Não toque em arquivos fora desta pasta e não exclua nada. Antes de executar cada comando, diga o que você vai fazer em uma frase.
Diga-me o que devo ver na tela ao final de cada etapa. Se ocorrer um erro, colarei a mensagem de erro para você exatamente como ela é, e vamos corrigi-la juntos.
Termos relacionados do glossário
Links
A TreScout não desenvolveu esta ferramenta · nós a encontramos nas tendências do GitHub e a apresentamos. Esta página descreve o repositório em 2026-08-16: A contagem de estrelas e o nosso texto são daquele dia, o repositório pode ter mudado desde então. Consulte o link do repositório para ver o estado atual. O texto de apresentação foi preparado com IA a partir da própria documentação do repositório e esta página foi traduzida automaticamente do original em turco · a versão turca é a que vale.