Formez votre propre modèle LLM à partir de zéro
train-llm-from-scratch propose une méthode simple, étape par étape, pour entraîner un grand modèle de langage à partir de zéro, du téléchargement de l'ensemble de données à la génération de texte. C'est une ressource pratique pour votre processus d'apprentissage.
Mises à jour
- 19 octobre 2026: Étoiles 11,240 → 12,282.
- 27 septembre 2026: Étoiles 8,864 → 11,240.
- 2 août 2026: Étoiles 2,086 → 8,864.
Qu'est-ce qu'on apprend ?
- Flux de bout en bout couvrant le téléchargement des données, la formation et la production de textes.
- Méthode de candidature basée sur le fonctionnement interne du LLM.
- Utilisation pratique avec des ordinateurs portables directement utilisables.
Comment installer, comment utiliser ?
Ce référentiel (FareedKhan-dev/train-llm-from-scratch) est un tutoriel sur la formation d'un transformateur/LLM à partir de zéro avec PyTorch. Consultez le README et donnez-moi un plan de mise en œuvre étape par étape en turc : expliquant le matériel requis (GPU), le téléchargement et le prétraitement des données, la configuration du modèle, les étapes de formation et de génération de texte, dans l'ordre.
Dépôt : https://github.com/FareedKhan-dev/train-llm-from-scratch. Base-toi sur les instructions officielles du fichier README de ce dépôt pour l'installation et l'exécution.
Avant de commencer, vérifie quel système d'exploitation nous utilisons et si les outils nécessaires (ex: Python, Node.js, Git, Docker) sont installés. Installe ceux qui manquent étape par étape selon ce système.
Crée un nouveau dossier vide pour travailler. Ne touche pas aux fichiers en dehors de ce dossier et ne supprime rien. Avant chaque commande, décris ce que tu vas faire en une phrase.
Dis-moi ce que je devrais voir à l'écran à la fin de chaque étape. Si une erreur survient, je te copierai le message d'erreur tel quel et nous la corrigerons ensemble.
git clone https://github.com/FareedKhan-dev/train-llm-from-scratch.git
cd train-llm-from-scratchpip install -r requirements.txtTermes liés du glossaire
Liens
TreScout n'a pas développé cet outil · nous l'avons repéré dans les tendances GitHub et présenté. Cette page décrit le dépôt tel qu'il était le 2026-05-30 : Le nombre d'étoiles et notre texte datent de ce jour, le dépôt a pu changer depuis. Consultez le lien du dépôt pour l'état actuel. Le texte de présentation a été préparé avec l’IA à partir de la propre documentation du dépôt et cette page a été traduite automatiquement depuis l’original turc · la version turque fait foi.