Yerel yapay zeka modelleriyle sohbet

Neden yerel AI modelleri?

Yerel olarak AI modelleriyle çalışmanın önemli avantajları vardır:

• Kendinden güvenli - Verileriniz kendi bilgisayarınızda kalır ve asla harici sunuculara gönderilmez
• Ek maliyet yok - Yerel modeller için kullanım başına API ücreti yok
• Gizlilik garantili - Hassas belgeler ve bilgiler için idealdir

Neden Ollama?

Ollama, AI modellerini yerel olarak kolayca çalıştırmanıza imkan veren bir araçtır. Her bilgisayarda ayrı ayrı kurulur, böylece kullanıcı sayısı açısından kısıtlamalar olmaz - paylaşılan bir sunucu gerekmez.

Ollama kurulum

1. İndir bağlantısına gidin: Ollama download sayfası
2. İşletim sisteminiz için sürümü indirin (Windows, macOS veya Linux)
3. Kurulum sihirbazını takip ederek Ollama'yı kurun
4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurmak

Ollama kurulduktan sonra en az bir dil modeli indirmeniz gerekir:

1. Ollama arayüzünü açın (sistem tepsisi simgesi veya terminal üzerinden)
2. İstediğiniz bir dil modelini indirin

Tavsiye edilen model

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

• Tool yetenekleri - Model, uygulamadaki tüm araçları kullanabilir, internet aramaları ve resim oluşturma gibi
• Vision yetenekleri - Model, görüntüleri analiz eder ve açıklayabilir

Tavsiye edilen model

qwen3-vl:4b hızlılık ile araç/vision olanakları arasında iyi bir denge sunar. Bu modeli terminalden yükleyin:

ollama pull qwen3-vl:4b

Donanıma göre model seçimi

Bir modelin performansı, bilgisayarınızın donanımına bağlı olarak değişir:

Donanım	Tavsiye
Kısıtlı (8GB RAM, GPU yok)	Daha küçük modelleri seçin (1-4B parametreler)
Orta (16GB RAM, temel GPU)	7B parametreye kadar modeller
Güçlü (32GB+ RAM, modern GPU)	Daha büyük modeller mümkün (13B+)

Hız vs. kalite

Daha küçük bir model genelde hız açısından daha iyi performans gösterir, ancak daha az doğru cevaplar verebilir. En iyi dengeyi kendi durumunuza göre bulmak için deneyin.

Masaüstü uygulamasında yapılandırma

Ollama çalışıp kurulu bir model ile çalışmaya başladığında, masaüstü uygulaması bunu otomatik olarak tespit eder. Ardından sohbet bölümünde yerel modeli, bulut modellerinin yerine alternatif olarak seçebilirsiniz.

Tool/vision desteği olan modellerin mevcut olanları

Tam liste için ollama.com/library adresine bakın. Modelleri şu filtlerle ayıklayın:

• Tools etiketi araç yetenekleri için
• Vision etiketi görüntü tanıma için

Popüler seçenekler:

• qwen3-vl:4b - Kompakt, hızlı, araç + vizyon
• llama3.2-vision - Vision yetenekleri
• mistral - Hızlı genel görevler