Yapay Zekayı Kendi Bilgisayarınızda Çalıştırmanın Yolları

ChatGPT’ye her sordigumda verilerimin sunucuya gittigini dusunmek rahatsiz ediyordu beni. Sonra yerel yapay zeka modellerini kesfettim — kendi bilgisayarimda, internet gerektirmeden, tamamen ozel olarak calisan modeller. Ilk kurdigumda sasirdim: eski bir laptop’ta bile calisiiyordu.

Neden Yerel Yapay Zeka?

• Gizlilik: Sorgularin hicbir sunucuya gitmiyor
• Internet gerektirmiyor
• Kullanim siniri yok
• Aylik ucret yok
• Modeli ozellestirebiliyorsun

Dezavantaji: GPT-4 gibi buyuk modellerle kiyaslaninca kalite farki var. Ama gunluk gorevlerin buyuk cogunlugu icin yeterli modeller mevcut.

Yontem 1: Ollama – En Kolay Baslangic

Ollama, yerel model calistirmak icin en kolay arac. Bir komutla model indirip calistiriyorsun. Ben bunu denedigimde gercekten sasirdim — bu kadar basit olabilecegini beklemiyordum.

Kurulum: ollama.com’dan indir, kur. Terminal ac:

# Llama 3.2 modelini indir ve calistir
ollama run llama3.2

# Mistral
ollama run mistral

# Kod yazmak icin
ollama run codellama

Model ilk seferinde indiriliyor (birkacc GB), sonra her acilista yerel calisiyor.

Onerilen modeller:

• llama3.2:3b — 2 GB, zayif GPU’da calisiir, makul kalite
• mistral:7b — 4 GB, iyi denge
• qwen2.5:7b — Cok dilli icin iyi, Turkce destegi var
• codellama — Kod yazmak icin optimize

Yontem 2: Open WebUI – ChatGPT Arayuzu

Terminalde yazmak istemiyorsan Open WebUI tarayicida ChatGPT benzeri arayuz sunuyor. Docker ile kuruyorsun:

docker run -d -p 3000:8080 
  -v open-webui:/app/backend/data 
  --add-host=host.docker.internal:host-gateway 
  ghcr.io/open-webui/open-webui:main

Sonra localhost:3000 adresini ac. Ollama’daki tum modellere buradan erisilebiliyorsun.

Yontem 3: LM Studio – GUI ile Kolay Kurulum

Komut satiri istemeyenler icin LM Studio gorsel arayuzle model indirip calistiriyor. Model arama, indirme, sohbet baslama — hepsi birkacc tikla. Hugging Face’teki GGUF formatindaki modelleri yukleyebiliyorsun. Yerlesik OpenAI uyumlu API sunucusu var — yani ChatGPT API’si kullanan uygulamalari yerel modele yonlendirebiliyorsun.

Yontem 4: Jan – Acik Kaynak LM Studio Alternatifi

Jan, LM Studio’ya benzer ama acik kaynak. Jan.ai’den indir, model kutuphanesinden model sec, indir, calistir. Arayuzu temiz, kullanimi kolay.

Sistem Gereksinimleri Gercekci Degerlendirme

Turkce Destek

Turkce icin su an en iyi sonuclari veren acik modeller: Qwen2.5 serisi ve Mistral serisi. Llama modelleri de Turkce anliiyor ama yanıtlar genellikle Ingilizce geliyor — Turkce yanit vermesini sistem mesajinda belirtmen gerekiyor.

Uygulamalar ile Entegrasyon

Ollama veya LM Studio calisirken yerel OpenAI uyumlu API sunuyor. Obsidian’daki AI eklentilerini, VS Code’daki Continue eklentisini yerel modele yonlendirebiliyorsun. Bircok uygulama bu entegrasyonu destekliyor.

Sonuc

Yerel yapay zeka modelleri bir yil oncesiyle kiyaslanamaz olcude iyilesti. 7B bir model 2023’teki GPT-3.5’e yakin kalite sunabiliyor. Gizlilik oncelignse veya internet olmadan calismaan gerekiyorsa, bence denemeye deger. Ollama’yi kur, llama3.2 veya qwen2.5 ile basla, bak bakalim.