LM Studio

#yerel-model #llm-araclari #masaustu-ai #gguf

LM Studio, büyük dil modellerini internet bağlantısı olmadan kişisel bilgisayarda çalıştırmak için kullanılan ücretsiz, grafiksel arayüzlü masaüstü uygulamasıdır.

LM Studio, açık kaynaklı büyük dil modellerini (LLM) kişisel bilgisayarda internet bağlantısı olmadan çalıştırmak için tasarlanmış ücretsiz bir masaüstü uygulamasıdır. Windows, macOS ve Linux platformlarını destekleyen uygulama, terminal bilgisi gerektirmeden grafiksel arayüz üzerinden model indirme, yükleme ve sohbet imkânı sunar. LM Studio'nun temel bileşeni model hub'ıdır: Hugging Face'teki GGUF formatındaki modeller uygulama içinden aranabilir, donanım uyumluluğuna ve parametre boyutuna göre filtrelenebilir ve tek tıkla indirilebilir. 2026 itibarıyla katalogda Llama 3, Qwen3, Gemma 3, Mistral, DeepSeek ve Phi serileri başlıca yer almaktadır. Çıkarım motoru olarak LM Studio iki seçenek sunar: NVIDIA, AMD ve Intel GPU'ları ile CPU'yu destekleyen llama.cpp motoru ve Apple Silicon (M1/M2/M3/M4) için optimize edilmiş MLX motoru. Bu sayede Apple Silicon cihazlarda birleşik bellek mimarisinin tüm avantajından yararlanılır; örneğin 32 GB RAM'li bir M2 MacBook Pro üzerinde 34B parametreli model rahatça çalışabilir. LM Studio aynı zamanda yerel bir API sunucusu (local server) barındırır. Bu sunucu OpenAI API biçiminde uç nokta sağladığından Continue.dev, Open WebUI veya özel Python uygulamaları gibi herhangi bir OpenAI uyumlu araç, LM Studio'yu arka uç (backend) olarak kullanabilir. Bu özellik özellikle gizlilik gerektiren kurumsal geliştirme senaryolarında değer taşır. 0.4.x sürümüyle birlikte çok GPU'lu tensor-paralel çıkarım (tensor-parallel multi-GPU), spekülatif kod çözme (speculative decoding) ve Llama 3.2 Vision gibi multimodal modeller desteği geldi. Ayrıca llmster adlı komut satırı aracı, GUI olmaksızın Linux sunucularda veya CI/CD boru hatlarında modelleri headless biçimde çalıştırmayı mümkün kılar. Gizlilik, düşük maliyet ve veri egemenliği açısından LM Studio; Ollama, Jan ve OpenWebUI gibi araçlarla birlikte yerel yapay zeka ekosisteminin en popüler bileşenlerinden biri hâline gelmiştir.

laptop LM Studio Nedir?

LM Studio, 2023'te kurulan LM Studio Inc. tarafından geliştirilen ve büyük dil modellerini (LLM) kişisel bilgisayarda kurulum karmaşası olmadan çalıştırmaya yarayan ücretsiz bir masaüstü uygulamasıdır. Uygulama; Windows, macOS ve Linux platformlarında çalışır. Grafiksel arayüzü sayesinde Hugging Face'ten GGUF formatında model indirme, yükleme ve sohbet etme işlemleri terminal bilgisi gerektirmeden gerçekleştirilir. Yerleşik yerel API sunucusu, uygulamayı OpenAI uyumlu araçlar için bir arka uca (backend) dönüştürür; gizlilik ve veri egemenliği isteyen geliştiriciler için öne çıkan özelliklerden biridir.

Temel Özellikler

hub Model Hub

Uygulama içi Hugging Face arama: GGUF modelleri boyut, donanım uyumu ve kategoriye göre filtrele, tek tıkla indir.

terminal Çift Motor

llama.cpp: NVIDIA/AMD/Intel GPU ve CPU. MLX: Apple Silicon M serisi için optimize, birleşik belleği tam kullanır.

api Yerel API Sunucusu

OpenAI uyumlu HTTP uç noktası. Continue.dev, Open WebUI veya kendi Python uygulamanızı LM Studio'ya yönlendirin.

lock Gizlilik

Hiçbir veri dışarıya çıkmaz; tüm çıkarım yerel GPU/CPU üzerinde gerçekleşir. Kurumsal kullanım için uygun.

compare_arrows LM Studio vs Alternatifler

  • check_circle LM Studio: GUI odaklı, en kolay başlangıç. Model hub dahili. Ollama'ya kıyasla daha fazla görsel kontrol. Kaynak kodu kapalı (freeware).
  • check_circle Ollama: CLI odaklı, Docker benzeri komut yapısı (ollama run llama3). API sunucusu mevcut. Açık kaynak. Linux sunucularda yaygın.
  • check_circle Jan: Açık kaynak ve electron tabanlı GUI. LM Studio'ya benzer kullanım kolaylığı; daha az popüler model hub'ı.
  • check_circle Open WebUI: Ollama veya LM Studio API'sine bağlanan web arayüzü. ChatGPT benzeri deneyim; kendi başına model çalıştırmaz.

speed Donanım Kılavuzu

LM Studio, modeli RAM ve VRAM'e göre otomatik olarak yükler. Apple Silicon M2 Pro/Max (16-32 GB) üzerinde 13B model akıcı şekilde çalışır; M3 Max veya M4 Pro 32-64 GB ile 34B modellerle de üretken sonuçlar alınabilir. NVIDIA GPU kullanıcıları için CUDA hızlandırma llama.cpp üzerinden etkindir: RTX 4090 (24 GB VRAM), 13B modeli Q4 niceleme ile 80-100 token/sn üretir. GPU VRAM yetersizse LM Studio otomatik olarak kısmi CPU-offload moduna geçer; bu performansı düşürür ama modeli çalıştırmaya devam eder.

🖥️ LM Studio ile Yerel Model Kurulum Rehberi

  • check_circle Model Keşif sekmesinden Llama, Mistral, Phi gibi popüler modelleri tek tıkla indirin
  • check_circle GGUF formatındaki modeller için Q4_K_M gibi nicemleme seviyesi belleğe göre seçilmelidir
  • check_circle Yerel API sunucusu başlatarak OpenAI uyumlu uç noktalar üzerinden kendi uygulamalarınızı bağlayın
  • check_circle GPU katman sayısını ayarlayarak VRAM kapasitesini maksimum verimle kullanın
  • check_circle Chat arayüzünde sistem mesajı ve sıcaklık gibi parametreleri anlık test edin

terminal Yerel sunucuyu açma ve koddan bağlanma

Developer sekmesindeki anahtarı açtığınızda LM Studio 1234 portunda OpenAI uyumlu bir sunucu başlatır. Uç noktalar /v1/models, /v1/chat/completions ve /v1/embeddings biçimindedir. Python tarafında openai kütüphanesini kurup istemciyi base_url="http://localhost:1234/v1" ve api_key="lm-studio" ile oluşturursunuz; anahtar alanı denetlenmez, boş bırakmamak yeterlidir. Hızlı kontrol için curl http://localhost:1234/v1/models komutunu çalıştırın: yüklü modelin kimliğini döner ve bu kimliği isteğin model alanına yazarsınız. Arayüz açmadan çalışmak isteyenler lms komut satırı aracını kullanabilir. lms server start sunucuyu açar, lms ls indirilmiş modelleri listeler, lms load model-kimligi modeli belleğe alır, lms ps o anda yüklü olanları gösterir, lms server stop kapatır. Bu sayede bir Linux makinesinde LM Studio, uzaktan çağrılan sabit bir uç noktaya dönüşür.

compare_arrows Nicemleme seçimi: 8B bir model için boyut ve kalite

  • check_circle Q3_K_M, yaklaşık 4 GB: 6 GB VRAM'li kartlar için son çare. Türkçe üretimde kalite kaybı hissedilir, uzun cevaplarda tekrar ve dil bozulması artar.
  • check_circle Q4_K_M, yaklaşık 4,9 GB: Varsayılan tercih. 8 GB VRAM veya 16 GB birleşik bellekte katmanların tamamı GPU'ya sığar. Kalite ve hız dengesi çoğu iş için yeterlidir.
  • check_circle Q5_K_M, yaklaşık 5,7 GB: Q4'e göre biraz daha tutarlı çıktı verir. 10 ile 12 GB VRAM ister. Uzun talimat takibinde fark edilebilir bir iyileşme sağlar.
  • check_circle Q6_K, yaklaşık 6,6 GB: Kalite kazancı Q5'ten sonra küçülür, bellek maliyeti artmaya devam eder. Bolca VRAM varsa mantıklıdır.
  • check_circle Q8_0, yaklaşık 8,5 GB: Pratikte kayıpsız kabul edilir. 12 GB üzeri VRAM gerektirir, hız Q4'e göre düşer.
  • check_circle F16, yaklaşık 16 GB: İnce ayar çıktısını doğrulamak veya referans ölçüm almak dışında günlük kullanımda gereksizdir.
  • check_circle MLX sürümleri: Apple Silicon'da aynı model 4 bit MLX paketiyle de gelir. Dosya boyutu GGUF Q4 ile yakındır, birleşik bellekte genellikle biraz daha yüksek token hızı verir.

bug_report Model yüklenmiyor veya yavaş: hata çözümleri

  • check_circle Failed to load model hatası: Çoğu durumda bellek yetersizdir. Yükleme panelinde GPU Offload kaydırıcısını düşürün, bir alt nicemlemeyi indirin veya Context Length değerini 4096'ya çekip tekrar deneyin.
  • check_circle Saniyede 2 ile 3 token üretiyor: GPU'ya taşınan katman sayısı sıfır kalmış olabilir. GPU Offload değerini yükseltin. Windows'ta VRAM taştığında sürücü paylaşılan sistem belleğine sarkar ve hız çöker; bu durumda katman sayısını bir miktar azaltmak daha iyi sonuç verir.
  • check_circle Bağlam uzunluğu aşıldı uyarısı: Model yüklenirken seçilen n_ctx değeri aşılmıştır. Modeli daha büyük bağlamla yeniden yükleyin, ancak bağlam büyüdükçe VRAM ihtiyacının da arttığını hesaba katın.
  • check_circle İndirme başlamıyor veya yarıda kesiliyor: Kurumsal ağlarda Hugging Face erişimi engelli olabilir. Dosyayı elle indirip modeller klasörüne yayinci/depo/dosya.gguf düzeninde yerleştirin; uygulama klasörü yeniden taradığında modeli listeye ekler.
  • check_circle Görsel modelde resim ekleme aktif değil: Vision modellerinde ağırlık dosyasının yanında mmproj dosyası da gerekir. Aynı depodan mmproj dosyasını indirmezseniz sohbet kutusundaki resim ekleme düğmesi çalışmaz.
  • check_circle Başka cihazdan yerel sunucuya erişilemiyor: Developer sekmesinde yerel ağa servis verme seçeneğini açın ve 1234 portunu güvenlik duvarında izinli hale getirin. Bu seçenek kapalıyken sunucu yalnızca localhost'u dinler.

quiz Sık Sorulan Sorular

  • check_circle LM Studio ücretsiz mi? Kişisel ve ticari olmayan kullanım için tamamen ücretsizdir. Kaynak kodu kapalıdır (proprietary freeware); Ollama veya Jan gibi açık kaynak alternatifleri tercih edilebilir.
  • check_circle Hangi modeller desteklenir? GGUF formatındaki tüm modeller çalışır: Llama 3, Qwen3, Gemma 3, Mistral, Phi, DeepSeek, Falcon. Dahili hub Hugging Face'i arar; isterseniz kendi GGUF dosyanızı manuel olarak yükleyebilirsiniz.
  • check_circle OpenAI API'sini LM Studio ile nasıl değiştiririm? LM Studio'nun yerel sunucusunu başlatın (varsayılan port 1234). base_url'yi http://localhost:1234/v1 yapın. API anahtarı alanı boş bırakılabilir veya herhangi bir değer yazılabilir.
  • check_circle llmster nedir? LM Studio'nun GUI olmaksızın çalışan komut satırı versiyonu. Linux sunuculara veya CI/CD ortamlarına kurularak headless LLM servisi açılabilir.
  • check_circle Apple Silicon için mi NVIDIA için mi daha iyi? Her ikisi için de güçlüdür. Apple Silicon kullanıcıları MLX motoruyla birleşik belleğin avantajını alır; NVIDIA kullanıcıları llama.cpp CUDA desteğiyle yüksek token hızına ulaşır.
  • check_circle LM Studio modelleri hangi klasöre indiriyor? Varsayılan konum kullanıcı dizinindeki .lmstudio/models klasörüdür ve içeride yayinci/depo/dosya.gguf düzeni kullanılır. My Models ekranından bu klasörü başka bir diske taşıyabilirsiniz. Elle indirdiğiniz GGUF dosyalarını aynı düzende yerleştirirseniz uygulama listede gösterir.
  • check_circle LM Studio sunucuda arayüzsüz çalışır mı? Evet, lms komut satırı aracı bunun için var. lms server start ile 1234 portunda sunucu açılır, lms load model-kimligi ile model belleğe alınır, lms ps yüklü modelleri listeler. Böylece bir Linux makinesinde LM Studio'yu OpenAI uyumlu sabit bir uç nokta olarak bırakıp uzaktan kullanabilirsiniz.
  • check_circle Mac'te MLX mi GGUF mu daha hızlı? Apple Silicon'da MLX sürümü aynı modelin GGUF sürümüne göre genellikle daha yüksek token hızı verir, çünkü motor birleşik bellek için yazılmıştır. GGUF ise daha geniş katalog ve daha fazla nicemleme seçeneği sunar. Intel Mac, NVIDIA veya AMD kartı kullanıyorsanız MLX seçeneği yoktur, GGUF tek yoldur.
  • check_circle LM Studio ticari projede kullanılabilir mi? Uygulama ücretsiz indirilir ve iş yerinde kullanım için ayrıca lisans ücreti istenmez. Uygulamanın kendisi kapalı kaynaktır; lms komut satırı aracı ve lmstudio SDK'ları MIT lisanslıdır. Kaynak kodu denetlenebilir bir çözüm şartsa Ollama veya llama.cpp daha uygun olur.