Jan

Jan, büyük dil modellerini (LLM) yerel olarak çalıştırmak için sohbet arayüzü ve model yöneticisi sunan ücretsiz ve açık kaynaklı bir masaüstü uygulamasıdır. LLaMA, Mistral, Qwen, Gemma ve daha pek çok modeli tek tıkla indirip kullanmanıza olanak tanır. İnternet bağlantısı gerektirmez; tüm konuşmalar bilgisayarınızda yerel olarak işlenir. OpenAI uyumlu API sunucusu sayesinde diğer uygulamaları da Jan üzerinden yerel modellere bağlayabilirsiniz. Windows, macOS ve Linux’ta ücretsiz çalışır.

Öne Çıkan Özellikler

• LLaMA, Mistral, Qwen, Gemma ve 100+ model desteği
• Tek tıkla model indirme ve yönetimi
• Tamamen yerel çalışma — internet gerekmez
• OpenAI uyumlu yerel API sunucusu
• GPU hızlandırması (NVIDIA, AMD, Apple Silicon)
• Sohbet geçmişi ve birden fazla konuşma yönetimi
• Özelleştirilebilir sistem prompt’ları
• Windows, macOS ve Linux desteği
• Tamamen ücretsiz ve açık kaynak (AGPL-3.0)
• Hafif ve kullanıcı dostu arayüz

Jan’a yeni bir LLM modeli nasıl indirilir?

1. Jan’ı açın; sol menüden Hub (Model Hub) bölümüne gidin.
2. Kullanmak istediğiniz modeli aratın (örn. Mistral 7B, LLaMA 3).
3. Model kartında boyut ve gereksinim bilgilerini inceleyin.
4. İndir butonuna tıklayın — model arka planda indirilir.
5. İndirme tamamlandığında Sohbet bölümünden modeli seçip konuşmaya başlayın.

Jan’ı OpenAI uyumlu API sunucusu olarak nasıl kullanırım?

1. Jan’ı açın; sol menüden Yerel API Sunucusu bölümüne gidin.
2. Sunucuyu Başlat butonuna tıklayın.
3. Sunucu localhost:1337 adresinde çalışmaya başlar.
4. API uç noktanızı http://localhost:1337/v1 olarak ayarlayın.
5. OpenAI kütüphanesi kullanan uygulamalar artık yerel modele bağlanabilir.

Alternatifler

GPT4All, KoboldCpp, LM Studio