Donanımınıza En Uygun yapay zekâ Modelini Bulun
Whichllm, donanımınız üzerinde en yüksek performansı gösteren yerel büyük dil modellerini (large language models) belirlemenizi sağlayan bir araçtır. Parametre sayısından ziyade güncel kıyaslama testlerine (benchmarks) odaklanan bu Python tabanlı yazılım, tek komutla en uygun modeli seçmenize olanak tanır.
Ne kazandırır?
- Donanımınıza en uygun yerel dil modelini güncel kıyaslama verileriyle belirler.
- GPU ve sistem özelliklerini otomatik algılayarak performans tahmini yapar.
- Tek komutla model indirme, sohbet başlatma ve Python kod örneği oluşturma imkanı sunar.
Kurulum
uv tool install whichllm
uv tool upgrade whichllm # update an existing installbrew install andyyyy64/whichllm/whichllm
pip install whichllmÇalıştırma
whichllmwhichllm run "qwen 2.5 1.5b gguf"Kod bilmiyorsanız
Whichllm aracını kullanarak donanım özelliklerime en uygun yerel büyük dil modellerini listelemek ve bu modellerin performans tahminlerini görmek istiyorum. Sistemimdeki GPU veya CPU kapasitesine göre en yüksek benchmark puanına sahip modelleri nasıl filtreleyebilirim, ayrıca belirli bir model için gerekli olan donanım planlamasını nasıl yapabilirim?
Bağlantılar
İlgili sözlük terimleri
TreScout bu aracı geliştirmedi · GitHub trendlerinde keşfedip Türkçe tanıttı. Yıldız ve sayılar keşif tarihindeki değerlerdir.