Yapay zekâ modellerini bilgisayarınızda çalıştırın
Llama.cpp, büyük dil modellerinin (large language models) standart donanımlar üzerinde verimli bir şekilde çalıştırılmasını sağlayan C ve C++ tabanlı bir çıkarım (inference) kütüphanesidir. Yazılım, düşük bellek kullanımı ve yüksek performans odaklı yapısıyla yerel cihazlarda yapay zekâ modellerinin çalıştırılmasını kolaylaştırır.
Güncelleme
- 15 Eylül 2026: Yıldız 127.101 → 128.278, son sürüm v0.4.1 (14 Eylül 2026).
- 5 Eylül 2026: Yıldız 125.883 → 127.101, son sürüm v0.4.0 (4 Eylül 2026).
- 27 Ağustos 2026: Yıldız 125.068 → 125.883, son sürüm v0.3.0 (25 Ağustos 2026).
- 22 Ağustos 2026: Yıldız 124.998 → 125.068, son sürüm v0.2.0 (21 Ağustos 2026).
Ne kazandırır?
- Büyük dil modellerini standart donanımlarda verimli çalıştırır.
- Düşük bellek kullanımı ile yüksek performans sağlar.
- Yerel cihazlarda yapay zekâ modellerini çalıştırmayı kolaylaştırır.
Kurulum
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cppÇalıştırma
llama-cli -m my_model.ggufKaynak: Resmî kaynak: https://github.com/ggml-org/llama.cpp
Kod bilmiyorsanız
Bilgisayarımda yerel olarak büyük dil modellerini çalıştırmak istiyorum. Llama.cpp aracını kullanarak 'llama-cli -m my_model.gguf' komutuyla kendi model dosyamı nasıl çalıştırabilirim veya 'llama-cli -hf ggml-org/gemma-3-1b-it-GGUF' komutuyla Hugging Face üzerinden doğrudan bir modeli nasıl indirip başlatabilirim? Bu süreçte dikkat etmem gereken donanım gereksinimleri veya model seçimi konusunda bana yardımcı olur musun?
Bağlantılar
TreScout bu aracı geliştirmedi · GitHub trendlerinde keşfedip Türkçe tanıttı. Bu sayfa deponun 2026-06-08 tarihindeki hâlini anlatır: Yıldız sayısı ve yazdığımız metin o güne aittir, depo sonrasında değişmiş olabilir. Güncel durum için depo bağlantısına bakın.