Entrenamiento de inteligencia artificial en baja memoria.
Soup es una biblioteca de Python que permite ajustar modelos de lenguaje grandes a través de un único archivo YAML. Puede entrenar modelos con 8 mil millones de parámetros utilizando el método de transmisión por capas en procesadores gráficos de portátiles con 4 GB de memoria.
Actualizaciones
- 5 de septiembre de 2026: Estrellas 4,285 → 5,332, última versión v0.74.0 (4 de septiembre de 2026).
- 1 de septiembre de 2026: Estrellas 3,235 → 4,285, última versión v0.73.3 (18 de agosto de 2026).
- 27 de agosto de 2026: Estrellas 2,222 → 3,235, última versión v0.73.3 (18 de agosto de 2026).
- 18 de agosto de 2026: Estrellas 1,739 → 2,222, última versión v0.73.3 (18 de agosto de 2026).
Qué aporta
- Puede entrenar modelos con 8 mil millones de parámetros en computadoras portátiles con 4 GB de memoria gráfica.
- Con el método de flujo de capas, no tiene que lidiar con instalaciones complejas superando restricciones de hardware.
- Podrás gestionar todo el proceso de formación a través de un único archivo de configuración.
Instalación
pip install "soup-cli[train]"pip install "soup-cli[all]"Ejecución
soup init --template chat
soup trainSi no programa
Quiero entrenar un modelo de inteligencia artificial con 8 mil millones de parámetros usando la biblioteca Soup en mi computadora con 4 GB de memoria gráfica. Ayúdame a crear un archivo de configuración YAML que permita la transmisión de capas y utilice cuantificación de 4 bits. Prepare el contenido del archivo sopa.yaml necesario para iniciar el proceso de capacitación y luego explique paso a paso cómo iniciar la capacitación utilizando este archivo.
Términos relacionados del glosario
Enlaces
TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-08-16: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. Esta página se tradujo automáticamente del original en turco · prevalece la versión turca.