Ana içeriğe atla

Yerel AI modelleriyle sohbet

Neden yerel AI modelleri?​

Ollama modeli yerel olarak çalıştırır. Oturum açma ve sohbet depolama bulutu kullanır ve internet gerektirir. Bulut modeline otomatik geçiş yapılmaz.

Bu normal mod için geçerlidir. Çevrimdışı modda her şey bu bilgisayarda kalır: uygulama internet olmadan da çalışır ve yeni sohbetler yalnızca yerel olarak, şifreli saklanır.

Neden Ollama?​

Ollama, AI modellerini yerel olarak kolayca çalıştırmanızı sağlayan bir araçtır. Her bilgisayara ayrı ayrı kurulur, bu sayede kullanıcı sayısında sınırlama yok - paylaşılan bir sunucuya gerek yok.

Ollama kurulumu​

  1. Ollama indirme sayfası adresine gidin
  2. İşletim sisteminiz için sürümü indirin (Windows veya macOS)
  3. Yükleyiciyi takip ederek Ollama'yı kurun
  4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurmak​

Ollama kurulduktan sonra en az bir dil modeli indirmelisiniz:

  1. Ollama arayüzünü açın (sistem çubuğu simgesi veya terminal üzerinden)
  2. İstediğiniz dil modelini indirin

Önerilen model​

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

  • Tool capabilities - Model, uygulamadaki tüm araçlardan faydalanabilir, örneğin internet araması ve görüntü üretimi
  • Vision capabilities - Model, görüntüleri analiz edebilir ve açıklayabilir
Önerilen model

qwen3-vl:4b-instruct hız ile araçlar/görünüm olanakları arasında iyi bir denge sunar. Bu modeli terminalden kurun:

ollama pull qwen3-vl:4b-instruct

Doğrudan yanıt veren -instruct varyantını seçin. Normal qwen3-vl:4b her adımdan önce uzun süre düşünür ve bir dizüstü bilgisayarda kat kat daha yavaştır. Küçük yerel modeller için uygulama kısa bir talimat ve yalnızca sorunuza uyan araçları kullanır. Aynı adım tekrar tekrar başarısız olursa yapay zekâ durur ve neyin işe yarayıp neyin yaramadığını söyler.

Donanıma göre model seçimi​

Bir modelin performansı bilgisayarınızın donanımına bağlıdır:

DonanımÖneri
Kısıtlı (8GB RAM, GPU yok)Daha küçük modelleri seçin (1-4B parametreler)
Orta (16GB RAM, temel GPU)7B parametrelere kadar modeller
Güçlü (32GB+ RAM, modern GPU)Daha büyük modeller mümkün (13B+)
Hız vs. kalite

Daha küçük bir model genelde hız açısından daha iyi performans gösterirken, daha az doğru cevaplar verebilir. Sizin durumunuza en uygun dengeyi bulmak için deneyin.

Masaüstü uygulamasında yapılandırma​

Ollama çalışıp kurulu bir modelle başladığında, masaüstü uygulaması bunu otomatik olarak algılar. Sohbet bölümünde yerel modeli bulut modellerinin yerine bir alternatif olarak seçebilirsiniz.

Başlangıç ekranında giriş alanının altındaki seçiciyle ilk mesajdan önce yerel bir model seçebilirsiniz. Seçilen model ilk mesajdan itibaren kullanılır ve daha sonra değiştirilebilir.

Araç/vision desteğine sahip modeller​

Tam liste için ollama.com/library adresini görün. Modelleri şu etiketlere göre filtreleyin:

  • Tools etiketli modeller için araç yetenekleri
  • Vision etiketli modeller için görüntü algılama

Popüler seçenekler:

  • qwen3-vl:4b-instruct - Kompakt, hızlı, araç + görüntü
  • llama3.2-vision - Görüntü yetenekleri
  • mistral - Hızlı genel görevler

Belgeleri ve taramaları yerel olarak okuma​

Yerel bir modelle masaüstü uygulaması belgeleri kendi bilgisayarınızda okur. Hiçbir şey yüklenmez.

  • Çalışma klasörü: onaylanmış bir klasörde yapay zekâ Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) ve RTF dosyalarını okur. Eski .doc ve .ppt dosyaları yalnızca LibreOffice yüklüyse okunur.
  • Taramalar ve fotoğraflar: taranmış PDF sayfaları, görüntüler (PNG, JPG, WebP, TIFF) ve Word ile PowerPoint dosyalarındaki görüntüler metin tanıma (OCR) ile okunur. OCR uygulamayla birlikte gelir ve Felemenkçe, İngilizce, Almanca ve Fransızcayı tanır. Sohbette hangi sayfanın okunduğunu görürsünüz; uzun bir tarama birkaç dakika sürebilir. Belge başına en fazla 100 sayfa OCR ile okunur.
  • Belirsiz tanıma: metin tanıma belirsiz olduğunda yapay zekâ bunu bildirir. Bu durumda adları, rakamları ve tutarları orijinalden kontrol edin. El yazısı, tablolar ve şemalar her zaman doğru tanınmaz.
  • Görüntü modeli: seçilen modelin vision özelliği varsa (örneğin qwen3-vl:4b-instruct), metin tanımanın az veya belirsiz okuduğu görüntülere model kendisi de bakar. GPU olmadan bu daha uzun sürer.
  • iPhone fotoğrafları (HEIC): önce JPEG veya PNG olarak kaydedin.

Bulut modeliyle de uygulama çalışma klasöründeki belgeleri bilgisayarınızda okur, ancak okunan metin sohbetin bir parçası olarak o modele gönderilir.

İnternetsiz çalışmak, sohbetteki eklerle birlikte: bkz. Çevrimdışı mod.

Bu sayfada