Cloud AI (Bulut Yapay Zeka)

#BulutBilisim #AWS #GoogleCloud #Azure #AIaaS

Bulut Yapay Zeka, AI modellerinin kullanıcı cihazı yerine AWS, Google Cloud ve Azure gibi bulut veri merkezlerinde çalıştırılıp API ile sunulduğu hizmet modelidir.

Bulut Yapay Zeka (Cloud AI), yapay zeka modellerinin son kullanıcı cihazı yerine uzak veri merkezlerinde — genellikle Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure veya OpenAI, Anthropic ve Google gibi sağlayıcıların yönetilen platformlarında — çalıştırılması ve API üzerinden tüketilmesi yaklaşımını tanımlar. "Hizmet Olarak Yapay Zeka" (AI-as-a-Service, AIaaS) olarak da bilinen bu model, şirketlerin ve geliştiricilerin pahalı GPU veya TPU donanımı satın almak zorunda kalmadan güçlü makine öğrenimi modellerine HTTP isteğiyle dakikalar içinde erişmesine olanak tanır. Bulut AI'nın temel avantajı sıfır donanım yatırımı, anında ölçeklenebilirlik ve sürekli güncellenen model erişimidir. Bir girişim, ChatGPT düzeyinde bir dil modeli çalıştırmak için milyonlarca dolarlık sunucu satın almak yerine Claude API, OpenAI GPT veya Google Gemini'yi API anahtarıyla entegre eder; kullandığı kadar öder. Pratikte bugün kullandığımız ChatGPT, Claude, Gemini ve Midjourney gibi araçların tamamı bu altyapıda çalışır. Tipik kullanım alanları arasında müşteri destek otomasyonu, kurumsal arama, içerik üretimi, kod asistanları, çağrı merkezi özetleme ve büyük ölçekli RAG sistemleri yer alır. Bulut sağlayıcıları ayrıca bölgesel veri saklama seçenekleri, müşteri yönetimli şifreleme anahtarları ve SOC 2 uyumluluğu gibi kurumsal güvenlik özellikleri sunar. Bununla birlikte bulut AI; ağ gecikmesi, kullandıkça büyüyen API maliyetleri, üçüncü taraf veri politikası ve çevrimdışı senaryolarda erişimin kesilmesi gibi gerçek dezavantajlar taşır. Avrupa'da GDPR uyumluluğu açısından veri merkezinin coğrafi konumu (data residency) kritik bir seçim kriteridir. Edge AI ile karşılaştırıldığında bulut AI model boyutu ve kapasite konusunda neredeyse sınırsız esneklik sunarken internet bağlantısına bağımlı kalır; bu yüzden pek çok kurum hassas verileri cihazda işleyip ağır görevleri buluta devreden hibrit mimarileri tercih eder.

Önde Gelen Bulut Yapay Zeka Platformları

  • check_circle AWS AI/ML Servisleri: SageMaker (model eğitimi/dağıtımı), Bedrock (temel modeller API), Rekognition (görü), Comprehend (NLP), Polly (TTS), Lex (chatbot). En geniş altyapı seçenekleri.
  • check_circle Google Cloud AI: Vertex AI (unified ML platform), Gemini API, BigQuery ML, Vision AI, Natural Language AI. TPU altyapısı ve Google araştırma modelleri avantajı.
  • check_circle Microsoft Azure AI: Azure OpenAI Service (GPT/DALL-E), Azure ML, Cognitive Services, AI Foundry. Microsoft 365 entegrasyonu ve kurumsal güvenlik odağı.
  • check_circle Anthropic API: Claude modeli ailesi aracılığıyla güvenlik odaklı AI yetenekleri. Amazon Bedrock üzerinden de erişilebilir.
  • check_circle OpenAI Platform: GPT-4o, o3, DALL-E, Whisper, Embeddings API. En geniş geliştirici ekosistemine sahip platform.
  • check_circle Replicate, Together AI, Fireworks: Açık ağırlıklı modeller için özelleşmiş çıkarım platformları. Düşük gecikme ve esnek fiyatlandırma sunar.

Bulut AI ile Yerel AI Seçiminde Kritik Faktörler

Bulut yapay zeka hizmetleri ile yerel model dağıtımı arasındaki seçim, organizasyonlar için giderek karmaşık bir mühendislik ve iş kararına dönüşmektedir. Bulut platformlarının güçlü yönleri: sıfır donanım yatırımı, anında ölçeklenebilirlik, sürekli güncellenen model erişimi ve yönetilen altyapı. Kurumsal yapılar için SLA garantileri, SOC 2 uyumluluğu ve bölgesel veri saklama seçenekleri kritik avantajlardır. Öte yandan yüksek hacimli kullanımda token maliyetleri hızla birikmektedir; aylık milyonlarca API çağrısı yapan şirketler yerel dağıtımın toplam maliyetini (TCO) daha düşük bulabilir. Veri gizliliği ve düzenleyici gereklilikler (GDPR, HIPAA, KVKK) bazı sektörlerde bulut API kullanımını kısıtlamaktadır. Hibrit yaklaşım giderek yaygınlaşmaktadır: hassas veriler yerel/özel bulutta işlenirken genel görevler genel bulut API'sine yönlendirilir. Model yönlendirme (routing) katmanları hem maliyet hem gizlilik hem de gecikme gereksinimlerini dengelemektedir.

Hibrit ve Çoklu Bulut Stratejileri

Tek bir bulut sağlayıcısına bağlı kalmak (vendor lock-in), özellikle kritik AI iş yükleri için hem maliyet hem de operasyonel risk taşır. Hibrit bulut yaklaşımında hassas veriler şirket içi altyapıda (on-premises) tutulurken hesaplama yoğun GPU iş yükleri buluta taşınır. Çoklu bulut (multi-cloud) stratejisi ise farklı sağlayıcıların güçlü yanlarından aynı anda yararlanmayı hedefler: örneğin Vertex AI'ın veri analitik ekosistemi ile Azure OpenAI'ın GPT entegrasyonu paralel kullanılabilir. Bu mimariyi yönetmek için Kubernetes tabanlı orkestrasyon (Anthos, Azure Arc) ve sağlayıcıdan bağımsız ML platform katmanları (MLflow, Kubeflow, Weights & Biases) kritik bileşenler haline gelmektedir. 2024 itibarıyla kurumsal AI bütçelerinin %70'inden fazlasının çoklu bulut veya hibrit yapılandırmalarda harcandığı tahmin edilmektedir.

Maliyet Optimizasyonu ve Fiyatlandırma Modelleri

  • check_circle Spot / Preemptible Örnekler: AWS Spot, GCP Preemptible ve Azure Spot VM'leri, isteğe bağlı fiyatın %60-90 altında GPU kapasitesi sunar. Eğitim iş yükleri için idealdir; kesintiye dayanıklı checkpoint mekanizmaları gerektirir.
  • check_circle Rezerve Kapasite İndirimleri: 1 yıllık veya 3 yıllık kapasite taahhüdü, standart fiyata göre %30-60 tasarruf sağlayabilir. Sabit çıkarım trafiği olan kurumsal dağıtımlar için tercih edilir.
  • check_circle Sunucusuz Çıkarım API'leri: OpenAI, Anthropic ve Cohere gibi sağlayıcıların token başı fiyatlandırması, altyapı yönetimi maliyetini ortadan kaldırır. Kullanım tahmin edilebilir olmayan yeni ürünler için uygun başlangıç noktasıdır.
  • check_circle Model Niceleme ve Sıkıştırma: INT8/INT4 niceleme ve distilasyon teknikleri çıkarım maliyetini %40-70 azaltabilir. TensorRT, ONNX Runtime ve vLLM gibi araçlar bulut GPU kullanım verimliliğini artırır.

Güvenlik, Veri Egemenliği ve Uyumluluk

  • check_circle Veri Egemenliği ve GDPR: AB müşteri verilerinin AB dışına çıkmaması için her büyük sağlayıcının bölgesel veri işleme anlaşmaları (DPA) ve AB bölgesi seçenekleri mevcuttur. Azure EU Data Boundary ve GCP'nin Assured Workloads bu kapsamda değerlendirilebilir.
  • check_circle Özel Ağ Erişimi: AWS PrivateLink, Azure Private Endpoint ve GCP VPC Service Controls, AI API'lerine internet üzerinden değil şirket içi özel ağ üzerinden erişim imkânı tanır; veri sızıntısı riskini minimize eder.
  • check_circle Model Erişim Günlükleri ve Denetim: Kurumsal uyumluluk için hangi kullanıcının hangi modeli ne zaman kullandığını izleyen denetim günlükleri (audit logs) zorunludur. Azure Monitor, GCP Cloud Audit Logs ve AWS CloudTrail bu ihtiyacı karşılar.
  • check_circle Sektörel Sertifikalar: Sağlık (HIPAA), finans (SOC 2, PCI-DSS) ve kamu (FedRAMP) sektörlerine yönelik özel uyumluluk sertifikaları büyük bulut sağlayıcılarında mevcuttur; ancak hangi servislerin sertifika kapsamında olduğu doğrulanmalıdır.

Sık Sorulan Sorular

  • check_circle Bulut yapay zeka nedir? Yapay zeka modellerinin ve hizmetlerinin son kullanıcı cihazı yerine uzak veri merkezlerinde —AWS, Azure, Google Cloud gibi platformlarda— çalıştırılması ve API üzerinden sunulmasıdır.
  • check_circle Bulut AI mi, yerel AI mi kullanmalıyım? Düşük hacim, hızlı prototipleme ve en güncel modeller için bulut API. Yüksek hacim, veri gizliliği gereksinimleri veya gecikme hassasiyeti için yerel/özel bulut dağıtımı daha uygun olabilir.
  • check_circle Bulut AI maliyetleri nasıl kontrol edilir? Daha küçük modelleri basit görevlere yönlendirme (model routing), prompt caching, batchleme ve API çağrı sayısını izleme. AWS/Azure/GCP maliyet alarmları kurulması önerilir.
  • check_circle Bulut AI için hangi güvenlik standartları önemli? SOC 2 Type II, ISO 27001, GDPR uyumluluğu ve veri saklama bölgesi seçeneği kurumsal kullanım için temel gerekliliklerdir. Verinin eğitimde kullanılıp kullanılmadığı da önemli bir sözleşme maddesidir.
  • check_circle Bulut AI maliyetlerini nasıl kontrol altında tutabilirim? Temel yöntemler: (1) Eğitim için spot/preemptible örnekler kullanın ve checkpoint stratejisi uygulayın. (2) Çıkarım için model niceleme (INT8) ile GPU kullanım verimliliğini artırın. (3) Kullanım bazlı uyarılar (budget alerts) kurun. (4) Geliştirme/test ortamlarını ihtiyaç dışında kapalı tutun. (5) Uzun vadeli yük için rezerve kapasite taahhüdü değerlendirin.

AWS, Azure ve Google Cloud AI: hangisi hangi işe?

cloud AWS Bedrock

Tek API üzerinden Anthropic, Meta, Mistral ve Amazon'un kendi modellerine erişim. Verileriniz zaten S3 ve Redshift tarafındaysa en kısa yol burası. Model çeşitliliği geniş, buna karşılık IAM ve konsol tarafı yeni başlayan için dik bir öğrenme eğrisi.

cloud Azure OpenAI Service

GPT ailesini kurumsal sözleşme, özel ağ ve bölge seçimiyle kullanmak isteyenler için. Microsoft 365 ve Entra ID zaten kullanımdaysa satın alma süreci en pürüzsüz seçenek. Bazı modeller ve yüksek kotalar için ek başvuru gerekebilir.

cloud Google Vertex AI

Gemini ailesi, TPU altyapısı ve BigQuery ile doğrudan bağ. Veri ambarı Google tarafındaysa model çağrısını SQL içinden yapabilirsiniz. Önce ücretsiz denemek isteyenler Google AI Studio'dan anahtar alıp aynı modelleri kota sınırında test edebilir.

bolt Açık model çıkarım platformları

Together, Fireworks, Groq ve Replicate açık ağırlıklı modelleri token başına sunar. Llama, Qwen ve Mistral türevlerini kendi GPU'nuzu kiralamadan denemenin en ucuz yolu. Kurumsal sertifikalar ve SLA tarafı hiperscale sağlayıcılara göre daha zayıf.

savings Seçim kriteri

Yalnızca API çağrısı yapacaksanız model kalitesi ve token fiyatı belirleyicidir; sağlayıcı ikinci planda kalır. Eğitim, ince ayar veya GPU kiralama işin içine girdiğinde bölge kapasitesi, kota onay süresi ve rezerve fiyatlandırma öne çıkar.

calculate 1 milyon token ne kadar tutar?

Bulut AI faturası iki kalemden oluşur: giriş tokenleri ve çıkış tokenleri. Çıkış neredeyse her sağlayıcıda girişten pahalıdır, çoğu zaman 3 ila 5 katı. Fiyatlar 1 milyon token üzerinden ilan edilir, yani hesabı çıkarmak için önce metninizin kaç token ettiğini bilmeniz gerekir.

Türkçe için kritik bir ayrıntı var: aynı içerik İngilizce'ye kıyasla yaklaşık 1,5-2 kat fazla token üretir. Sebebi eklerin ayrı parçalara bölünmesi. Kaba ölçü olarak Türkçe metinde 1 token 2-3 karaktere denk gelir; 500 kelimelik bir yazı 900-1.200 token bandındadır. İngilizce fiyat listelerine bakıp bütçe çıkaran ekipler bu yüzden düzenli olarak yanılıyor.

Örnek hesap: her isteği 2.000 token giriş ve 500 token çıkışla çalışan bir destek asistanı günde 1.000 istek görüyorsa, ayda 60 milyon giriş ve 15 milyon çıkış tokeni demektir. 1 milyon giriş için 0,50 dolar ve çıkış için 1,50 dolar alan bir modelde fatura ayda yaklaşık 52 dolar olur. Aynı iş yükünü üst segment bir muhakeme modeline verdiğinizde rakam on katına çıkabilir.

Faturayı düşürmenin en hızlı üç yolu: basit istekleri küçük modele yönlendirmek, tekrar eden uzun sistem istemleri için prompt caching kullanmak (destekleyen sağlayıcılarda girişin önemli bölümü indirimli fiyatlanır) ve max_tokens ile gereksiz uzun yanıtları kesmek. Kullanım alarmı kurmadan üretime çıkmayın; kontrolsüz bir döngü tek gecede aylık bütçeyi bitirebilir.

gavel KVKK, yurt dışına aktarım ve bölge seçimi

  • check_circle Bulut AI'a veri göndermek yurt dışına aktarımdır: Kişisel veri içeren istekler KVKK açısından yurt dışına aktarım sayılır. 2024'te yürürlüğe giren düzenlemeyle standart sözleşme, bağlayıcı şirket kuralları ve taahhütname gibi uygun güvenceler ana yol haline geldi; açık rıza yalnızca arızi durumlar için kaldı.
  • check_circle Standart sözleşmenin bildirimi zorunlu: İmzalanan standart sözleşmenin imza tarihinden itibaren beş iş günü içinde Kişisel Verileri Koruma Kurumu'na bildirilmesi gerekir. Sözleşmeyi imzalayıp dosyaya kaldırmak uyum sayılmaz.
  • check_circle Bölge seçimi tek başına yetmez: Büyük sağlayıcıların üretken yapay zeka servisleri Türkiye'den çağrıldığında çoğunlukla Avrupa bölgelerinden (Frankfurt, Amsterdam, İrlanda) hizmet verir. Bölgeyi AB'de sabitlemek verinin başka kıtaya çıkmasını engeller, ancak aktarımın hukuki niteliğini değiştirmez.
  • check_circle Verinin eğitimde kullanılmadığını sözleşmede arayın: Kurumsal API katmanlarında girdilerin model eğitiminde kullanılmaması genelde taahhüt edilir; tüketiciye yönelik ücretsiz arayüzlerde durum farklıdır. Saklama süresi, kötüye kullanım incelemesi için tutulan kopyalar ve silme talebi prosedürü yazılı olmalıdır.
  • check_circle Maskeleme en pratik çözüm: Ad soyad, TCKN, telefon ve adres alanlarını istek gönderilmeden önce maskelemek hem hukuki yükü hem sızıntı riskini düşürür. Sağlık ve finans gibi özel nitelikli veri içeren akışlarda kritik kısmı yerel modelde işleyip kalanı buluta göndermek yaygın bir düzen.
  • check_circle Yurt içi alternatifler: Türkiye'de veri merkezi bulunduran operatör bulutları ve barındırma sağlayıcıları GPU kiralama seçeneği sunuyor. Açık ağırlıklı bir modeli kendi sunucunuzda vLLM ile sunduğunuzda veri yurt içinde kalır; karşılığında model kalitesi ve operasyon yükü tarafında ödün verirsiniz.

help Sıkça Sorulan Sorular

  • check_circle Bulut yapay zeka ücretsiz kullanılabilir mi? Sınırlı olarak evet. Google AI Studio ücretsiz kotayla API anahtarı verir, büyük sağlayıcılar yeni hesaplara deneme kredisi tanımlar (Google Cloud'un 300 dolarlık kredisi en bilineni). Ücretsiz katmanlarda dakikadaki istek ve günlük çağrı sayısı sınırlıdır; üretim trafiği için kredi kartı tanımlamanız gerekir.
  • check_circle Bulut yapay zekaya nasıl başlanır? Sağlayıcıyı seçip hesap açın, ödeme yöntemi tanımlayın ve konsoldan bir API anahtarı oluşturun. Anahtarı koda gömmek yerine ortam değişkeninde tutun, sonra curl veya resmi SDK ile ilk isteği atın. İlk gün yapılacak son iş bütçe alarmı kurmaktır; sürpriz faturaların çoğu eksik limitten çıkar.
  • check_circle AWS, Azure ve Google Cloud AI'dan hangisi daha ucuz? Tek bir cevabı yok; karşılaştırma iş yüküne bağlı. Sadece API çağrısı yapıyorsanız seçtiğiniz modelin token fiyatı belirleyicidir, sağlayıcı farkı ikincil kalır. GPU kiralıyorsanız saatlik ücret, spot indirimi ve rezerve taahhüt oranları tabloyu değiştirir. Karar öncesi kendi örnek iş yükünüzle küçük bir ölçüm yapın.
  • check_circle Türkiye'den bulut yapay zeka servisleri kullanılabilir mi, ödeme nasıl yapılır? Evet, büyük sağlayıcıların API'leri Türkiye'den erişilebilir ve ödeme uluslararası kredi kartıyla dolar üzerinden alınır. Şirket hesaplarında vergi numarası istenebilir; yurt dışından alınan hizmetin vergi yükümlülükleri için mali müşavirinize danışın. Kişisel veri gönderiyorsanız KVKK'nın yurt dışına aktarım şartlarını ayrıca karşılamanız gerekir.