Entrenamiento de inteligencia artificial en baja memoria.
Soup es una biblioteca de Python que permite ajustar modelos de lenguaje grandes a través de un único archivo YAML. Puede entrenar modelos con 8 mil millones de parámetros utilizando el método de transmisión por capas en procesadores gráficos de portátiles con 4 GB de memoria.
Actualizaciones
- 15 de octubre de 2026: Estrellas 8,615 → 9,069, última versión v0.76.1 (14 de octubre de 2026).
- 12 de octubre de 2026: Estrellas 7,988 → 8,615, última versión v0.76.0 (12 de octubre de 2026).
- 2 de octubre de 2026: Estrellas 7,309 → 7,988, última versión v0.75.2 (1 de octubre de 2026).
- 27 de septiembre de 2026: Estrellas 6,267 → 7,309, última versión v0.75.1 (21 de septiembre de 2026).
Qué aporta
- Puede entrenar modelos con 8 mil millones de parámetros en computadoras portátiles con 4 GB de memoria gráfica.
- Con el método de flujo de capas, no tiene que lidiar con instalaciones complejas superando restricciones de hardware.
- Podrás gestionar todo el proceso de formación a través de un único archivo de configuración.
Instalación
pip install "soup-cli[train]"pip install "soup-cli[all]"Ejecución
soup init --template chat
soup trainSi no programa
Quiero entrenar un modelo de inteligencia artificial con 8 mil millones de parámetros usando la biblioteca Soup en mi computadora con 4 GB de memoria gráfica. Ayúdame a crear un archivo de configuración YAML que permita la transmisión de capas y utilice cuantificación de 4 bits. Prepare el contenido del archivo sopa.yaml necesario para iniciar el proceso de capacitación y luego explique paso a paso cómo iniciar la capacitación utilizando este archivo.
Repositorio: https://github.com/MakazhanAlpamys/Soup. Sigue las instrucciones oficiales del archivo README de este repositorio para la instalación y ejecución.
Antes de empezar, comprueba en qué sistema operativo estamos y si las herramientas necesarias (ej. Python, Node.js, Git, Docker) están instaladas. Instala las que falten paso a paso según este sistema.
Crea una carpeta nueva y vacía para trabajar. No toques ningún archivo fuera de esta carpeta y no borres nada. Antes de ejecutar cada comando, dime qué vas a hacer en una frase.
Dime qué debería ver en la pantalla al final de cada paso. Si ocurre un error, te pegaré el mensaje de error tal cual y lo solucionaremos juntos.
Términos relacionados del glosario
Enlaces
TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-08-16: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. El texto de presentación se preparó con IA a partir de la propia documentación del repositorio y esta página se tradujo automáticamente del original en turco · prevalece la versión turca.