← Descubrir
Descubrir · GitHub · Llama.cpp↑ +158 hoy

Ejecute modelos de IA en su computadora

Llama.cpp es una biblioteca de inferencia basada en C y C++ que permite ejecutar modelos de lenguaje grandes de manera eficiente en hardware estándar. El software facilita la ejecución de modelos de inteligencia artificial en dispositivos locales con su bajo uso de memoria y su estructura orientada al alto rendimiento.

Actualizaciones

  • 5 de septiembre de 2026: Estrellas 125,883 → 127,101, última versión v0.4.0 (4 de septiembre de 2026).
  • 27 de agosto de 2026: Estrellas 125,068 → 125,883, última versión v0.3.0 (25 de agosto de 2026).
  • 22 de agosto de 2026: Estrellas 124,998 → 125,068, última versión v0.2.0 (21 de agosto de 2026).
  • 21 de agosto de 2026: Estrellas 124,919 → 124,998, última versión b10549 (21 de agosto de 2026).

Qué aporta

  • Ejecuta modelos de lenguaje grandes de manera eficiente en hardware estándar.
  • Proporciona un alto rendimiento con bajo uso de memoria.
  • Facilita la ejecución de modelos de IA en dispositivos locales.

Instalación

Clonar código fuente
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp

Ejecución

Ejecutar modelo GGUF
llama-cli -m my_model.gguf

Si no programa

🤖 Pegue esto en su agente (Claude Code · Codex · Antigravity)

Quiero ejecutar modelos de lenguaje grandes localmente en mi computadora. ¿Cómo puedo ejecutar mi propio archivo de modelo usando la herramienta llama.cpp con el comando 'llama-cli -m my_model.gguf' o descargar e iniciar un modelo directamente desde Hugging Face con el comando 'llama-cli -hf ggml-org/gemma-3-1b-it-GGUF'? ¿Pueden ayudarme con los requisitos de hardware o la selección del modelo a los que debo prestar atención en este proceso?

Términos relacionados del glosario

GGUFInferenceLarge Language ModelsArtificial Intelligence
Para quién esEs para usuarios que desean ejecutar modelos de lenguaje grandes en su propio hardware sin depender de Internet.
LicenciaMIT

Enlaces

TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-06-08: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. Esta página se tradujo automáticamente del original en turco · prevalece la versión turca.