yapay zekâ çıktılarını yapılandırın
Outlines kütüphanesi, büyük dil modellerinden gelen yanıtları önceden tanımlanmış şemalara göre yapılandırılmış çıktılar (structured outputs) halinde sunulmasını sağlıyor. Geliştiriciler, Python tabanlı bu araçla model çıktılarını düzenli ifadeler (regular expressions) veya bağlamsız dil bilgisi (context-free grammars) kurallarıyla kısıtlayarak veri bütünlüğünü koruyor.
Ne kazandırır?
- Model çıktılarını önceden tanımlanmış şemalara göre kısıtlar
- JSON veya Python veri tipleriyle tam uyum sağlar
- Hatalı çıktıları ayıklama ihtiyacını ortadan kaldırır
Kurulum
pip install outlinesÇalıştırma
import outlines
from transformers import AutoTokenizer, AutoModelForCausalLM
MODEL_NAME = "microsoft/Phi-3-mini-4k-instruct"
model = outlines.from_transformers(
AutoModelForCausalLM.from_pretrained(MODEL_NAME, device_map="auto"),
AutoTokenizer.from_pretrained(MODEL_NAME)
)Kod bilmiyorsanız
Outlines kütüphanesini kullanarak bir yapay zekâ modelinden gelen yanıtı belirli bir Pydantic veri yapısına veya Python tipine (örneğin int veya Literal) göre kısıtlamak istiyorum. Modelin çıktısının her zaman istediğim şemaya uygun olmasını sağlamak için model nesnesini tanımladıktan sonra model(istem, çıktı_tipi) fonksiyonunu nasıl kullanabilirim? Lütfen karmaşık nesneler için Pydantic modelini nasıl tanımlayacağımı ve bu yapıyı model çıktısına nasıl uygulayacağımı örnekle açıkla.
Bağlantılar
İlgili sözlük terimleri
TreScout bu aracı geliştirmedi · GitHub trendlerinde keşfedip Türkçe tanıttı. Yıldız ve sayılar keşif tarihindeki değerlerdir.