Exécutez des modèles d’IA sur votre ordinateur
Llama.cpp est une bibliothèque d'inférence basée sur C et C++ qui permet d'exécuter efficacement de grands modèles de langage sur du matériel standard. Le logiciel facilite l'exécution de modèles d'intelligence artificielle sur des appareils locaux grâce à sa faible utilisation de mémoire et sa structure orientée hautes performances.
Mises à jour
- 5 novembre 2026: Étoiles 132,691 → 133,399, dernière version v0.9.0 (4 novembre 2026).
- 29 octobre 2026: Étoiles 131,352 → 132,691, dernière version v0.8.0 (28 octobre 2026).
- 16 octobre 2026: Étoiles 130,447 → 131,352, dernière version v0.7.0 (15 octobre 2026).
- 6 octobre 2026: Étoiles 129,621 → 130,447, dernière version v0.6.0 (5 octobre 2026).
Ce que ça vous apporte
- Il exécute efficacement de grands modèles de langage sur du matériel standard.
- Fournit des performances élevées avec une faible utilisation de la mémoire.
- Facilite l’exécution de modèles d’IA sur des appareils locaux.
Installation
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cppExécution
llama-cli -m my_model.ggufSi vous ne codez pas
Je souhaite exécuter de grands modèles de langage localement sur mon ordinateur. Comment puis-je exécuter mon propre fichier de modèle à l'aide de l'outil llama.cpp avec la commande «llama-cli -m my_model.gguf» ou télécharger et lancer un modèle directement depuis Hugging Face avec la commande «llama-cli -hf ggml-org/gemma-3-1b-it-GGUF» ? Pouvez-vous m'aider avec la configuration matérielle requise ou la sélection du modèle auquel je dois prêter attention dans ce processus ?
Dépôt : https://github.com/ggml-org/llama.cpp. Base-toi sur les instructions officielles du fichier README de ce dépôt pour l'installation et l'exécution.
Avant de commencer, vérifie quel système d'exploitation nous utilisons et si les outils nécessaires (ex: Python, Node.js, Git, Docker) sont installés. Installe ceux qui manquent étape par étape selon ce système.
Crée un nouveau dossier vide pour travailler. Ne touche pas aux fichiers en dehors de ce dossier et ne supprime rien. Avant chaque commande, décris ce que tu vas faire en une phrase.
Dis-moi ce que je devrais voir à l'écran à la fin de chaque étape. Si une erreur survient, je te copierai le message d'erreur tel quel et nous la corrigerons ensemble.
Termes liés du glossaire
Liens
TreScout n'a pas développé cet outil · nous l'avons repéré dans les tendances GitHub et présenté. Cette page décrit le dépôt tel qu'il était le 2026-06-08 : Le nombre d'étoiles et notre texte datent de ce jour, le dépôt a pu changer depuis. Consultez le lien du dépôt pour l'état actuel. Le texte de présentation a été préparé avec l’IA à partir de la propre documentation du dépôt et cette page a été traduite automatiquement depuis l’original turc · la version turque fait foi.