Training der künstlichen Intelligenz bei geringem Gedächtnis
Soup ist eine Python-Bibliothek, die die Feinabstimmung großer Sprachmodelle über eine einzige YAML-Datei ermöglicht. Es kann Modelle mit 8 Milliarden Parametern mithilfe der Layer-Streaming-Methode auf Laptop-Grafikprozessoren mit 4 GB Speicher trainieren.
Aktualisierungen
- 5. September 2026: Sterne 4,285 → 5,332, neueste Version v0.74.0 (4. September 2026).
- 1. September 2026: Sterne 3,235 → 4,285, neueste Version v0.73.3 (18. August 2026).
- 27. August 2026: Sterne 2,222 → 3,235, neueste Version v0.73.3 (18. August 2026).
- 18. August 2026: Sterne 1,739 → 2,222, neueste Version v0.73.3 (18. August 2026).
Was es bringt
- Auf Laptops mit 4 GB Grafikspeicher können Sie Modelle mit 8 Milliarden Parametern trainieren.
- Mit der Layer-Flow-Methode müssen Sie sich nicht mit komplexen Installationen auseinandersetzen, indem Sie Hardwarebeschränkungen überwinden.
- Sie können den gesamten Trainingsprozess über eine einzige Konfigurationsdatei verwalten.
Installation
pip install "soup-cli[train]"pip install "soup-cli[all]"Ausführung
soup init --template chat
soup trainWenn Sie nicht programmieren
Ich möchte mithilfe der Soup-Bibliothek auf meinem Computer mit 4 GB Grafikspeicher ein Modell der künstlichen Intelligenz mit 8 Milliarden Parametern trainieren. Helfen Sie mir, eine YAML-Konfigurationsdatei zu erstellen, die Layer-Streaming ermöglicht und 4-Bit-Quantisierung verwendet. Bereiten Sie den Inhalt der Datei „soup.yaml“ vor, die zum Starten des Trainingsprozesses erforderlich ist, und erklären Sie dann Schritt für Schritt, wie Sie das Training mithilfe dieser Datei starten.
Verwandte Begriffe aus dem Glossar
Links
TreScout hat dieses Werkzeug nicht entwickelt · wir haben es in den GitHub-Trends gefunden und stellen es vor. Diese Seite beschreibt das Repository so, wie es am 2026-08-16 war: Die Anzahl der Sterne und unser Text stammen von diesem Tag, das Repository kann sich seitdem geändert haben. Den aktuellen Stand finden Sie über den Link zum Repository. Diese Seite wurde maschinell übersetzt aus dem türkischen Original · maßgeblich ist die türkische Fassung.