Yapay zekâ modellerini bilgisayarınızda çalıştırın
Llama.cpp, büyük dil modellerinin (large language models) standart donanımlar üzerinde verimli bir şekilde çalıştırılmasını sağlayan C ve C++ tabanlı bir çıkarım (inference) kütüphanesidir. Yazılım, düşük bellek kullanımı ve yüksek performans odaklı yapısıyla yerel cihazlarda yapay zekâ modellerinin çalıştırılmasını kolaylaştırır.
Güncelleme
- 5 Kasım 2026: Yıldız 132.691 → 133.399, son sürüm v0.9.0 (4 Kasım 2026).
- 29 Ekim 2026: Yıldız 131.352 → 132.691, son sürüm v0.8.0 (28 Ekim 2026).
- 16 Ekim 2026: Yıldız 130.447 → 131.352, son sürüm v0.7.0 (15 Ekim 2026).
- 6 Ekim 2026: Yıldız 129.621 → 130.447, son sürüm v0.6.0 (5 Ekim 2026).
Ne kazandırır?
- Büyük dil modellerini standart donanımlarda verimli çalıştırır.
- Düşük bellek kullanımı ile yüksek performans sağlar.
- Yerel cihazlarda yapay zekâ modellerini çalıştırmayı kolaylaştırır.
Kurulum
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cppÇalıştırma
llama-cli -m my_model.ggufKaynak: Resmî kaynak: https://github.com/ggml-org/llama.cpp
Kod bilmiyorsanız
Bilgisayarımda yerel olarak büyük dil modellerini çalıştırmak istiyorum. Llama.cpp aracını kullanarak 'llama-cli -m my_model.gguf' komutuyla kendi model dosyamı nasıl çalıştırabilirim veya 'llama-cli -hf ggml-org/gemma-3-1b-it-GGUF' komutuyla Hugging Face üzerinden doğrudan bir modeli nasıl indirip başlatabilirim? Bu süreçte dikkat etmem gereken donanım gereksinimleri veya model seçimi konusunda bana yardımcı olur musun?
Depo: https://github.com/ggml-org/llama.cpp. Kurulum ve çalıştırmada bu deponun README dosyasındaki resmî talimatları esas al.
Başlamadan önce hangi işletim sisteminde çalıştığımızı ve gerekli araçların (ör. Python, Node.js, Git, Docker) kurulu olup olmadığını kontrol et; eksik olanları bu sisteme göre adım adım kur.
Çalışmak için yeni ve boş bir klasör oluştur. Bu klasörün dışındaki dosyalarıma dokunma, hiçbir şeyi silme. Her komutu çalıştırmadan önce ne yapacağını bir cümleyle söyle.
Her adımın sonunda ekranda ne görmem gerektiğini söyle. Bir hata oluşursa hata mesajını sana olduğu gibi yapıştıracağım, birlikte düzeltelim.
Bağlantılar
TreScout bu aracı geliştirmedi · GitHub trendlerinde keşfedip Türkçe tanıttı. Tanıtım metni deponun kendi belgelerinden yapay zekâ ile hazırlandı. Bu sayfa deponun 2026-06-08 tarihindeki hâlini anlatır: Yıldız sayısı ve yazdığımız metin o güne aittir, depo sonrasında değişmiş olabilir. Güncel durum için depo bağlantısına bakın.