Yapay Zeka Altyapı Harcamaları Kontrolden Çıkıyor: İşletmeler Maliyetleri Ölçemeden Yatırım Yapıyor

Yapay Zeka Yatırım Hızı ve Ölçüm Eksikliği

VentureBeat'ın 107 kurumsal işletme üzerinde yaptığı Pulse Research anketi, yapay zeka (YZ) altyapı harcamalarının, işletmelerin bu harcamaların ekonomisini görme veya yönlendirme yeteneğinin çok ilerisinde olduğunu ortaya koyuyor. Ankete katılan işletmelerin yalnızca %21'i YZ'yi üretimde ölçekli olarak çalıştırırken, harcama niyetleri olgunluğun önünde seyrediyor. En büyük planlanan değerlendirme alanı, bugün neredeyse hiçbir işletmenin kullanmadığı YZ'ye özel bulutlar (%45). Mevcut hesaplama kaynakları ise soğuk çalışıyor: İşletmelerin %83'ü GPU kullanım oranının %50 veya daha az olduğunu bildiriyor ve yarısından azı (%44) YZ hesaplama maliyetlerini titizlikle takip edebiliyor. Bu durum, 'hesaplama açığı' (compute gap) olarak adlandırılıyor: ağır ve hızlı yatırım, kontrol için gereken görünürlüğün önünde gidiyor. Örneğin, bir işletme aylık 100 bin dolar GPU kiralıyorsa ancak kullanım oranı %25 ise, 75 bin dolar boşa harcanıyor olabilir. Türkiye'deki şirketler, özellikle döviz kuru dalgalanmaları nedeniyle bu tür verimsizlikleri daha yakından izlemeli.

Mevcut Altyapı ve Gelecek Planları

Anket, işletmelerin bugün YZ'yi hiper ölçekleyiciler (hyperscalers) ve model sağlayıcı API'leri üzerinde çalıştırdığını gösteriyor. Google Cloud %48 ile lider konumda, ancak CoreWeave, Lambda gibi YZ'ye özel 'neocloud' sağlayıcıları neredeyse hiç kullanılmıyor. Buna rağmen, işletmelerin %45'i önümüzdeki 12 ay içinde YZ'ye özel bulutları değerlendirmeyi planlıyor. Ayrıca, %32'si Nvidia dışı hızlandırıcıları (örneğin AMD Instinct, Intel Gaudi), %28'i ise yeni nesil Nvidia yongalarını (Blackwell serisi) değerlendirmeyi düşünüyor. Bu, mevcut kullanımdan farklı bir yönelime işaret ediyor: işletmeler, genel amaçlı buluttan YZ'ye özel altyapıya geçişe hazırlanıyor. Sağlayıcı değiştirme niyeti de yüksek: %64'ü 12 ay içinde sağlayıcı değiştirmeyi veya eklemeyi planlıyor, %38'i ise bunu önümüzdeki çeyrekte yapmayı düşünüyor. Türkiye'deki teknoloji şirketleri, özellikle yerel bulut sağlayıcılarının (Türk Telekom Bulut, TÜBİTAK BİLGEM gibi) YZ altyapısı sunmaya başlamasıyla bu değişimden etkilenebilir.

Satın Alma Kararlarında Fiyatın Rolü

İşletmeler, YZ altyapı sağlayıcısı seçerken entegrasyon ve toplam sahip olma maliyetine (TCO) odaklanıyor, reklamı yapılan token fiyatına değil. Ankete göre, sağlayıcı seçiminde en önemli faktör mevcut yığımla entegrasyon (%41), ardından TCO (%35) geliyor. Milyon token başına maliyet yalnızca %8 ile son sırada yer alıyor. Bu durum, işletmelerin birim ekonomilerini net görememesiyle birleşince bir çelişki yaratıyor: TCO'yu en önemli kriter olarak belirtiyorlar, ancak çoğu bunu henüz ölçemiyor. GPU kullanım oranlarının düşüklüğü de verimsizliği gösteriyor: %83'ü %50 veya altında kullanım bildirirken, %49'u %25 veya altında çalışıyor. Türkiye'deki işletmeler, özellikle enerji maliyetlerinin yüksek olduğu göz önüne alındığında, boşta çalışan GPU'ların elektrik faturasına ek yük getireceğini unutmamalı.

Ölçüm Eksikliği ve Gelecek Darboğaz

İşletmelerin yalnızca %44'ü YZ hesaplama maliyetlerini titizlikle takip edebiliyor. %39'u kısmen takip ediyor, %20'si henüz ölçüm yapamıyor. Bu ölçüm eksikliği, satın alma kararlarını etkiliyor. Ayrıca, büyük ölçekli çıkarımda (inference) hesaplamadan belleğe (KV-cache kapasitesi) geçiş gibi yeni darboğazlar, işletmelerin çoğu tarafından henüz fark edilmiyor. Ankete göre, işletmelerin yaklaşık beşte biri (%18) bu kısıtlamayı tanımıyor veya henüz ele almamış durumda. Bu, hesaplama açığının bir sonraki bölümü olarak görülüyor. Türkiye'deki yapay zeka girişimleri, özellikle büyük dil modelleri (LLM) geliştirenler, bu bellek darboğazını aşmak için model sıkıştırma (quantization) ve daha verimli mimariler (Mixture of Experts gibi) üzerinde çalışmalı.

Neden Onemli?

Bu araştırma, Türkiye'deki işletmeler ve teknoloji sektörü için önemli çıkarımlar sunuyor. YZ altyapı yatırımlarının hızla arttığı bir dönemde, maliyetleri ve verimliliği ölçmeden yapılan harcamaların kontrolsüz büyüyebileceği görülüyor. Türk işletmeleri, özellikle KOBİ'ler, YZ'ye yatırım yaparken sadece donanım satın almaya odaklanmamalı; aynı zamanda mevcut kaynakların kullanımını izleyecek ve maliyetleri hesaplayacak sistemler kurmalıdır. GPU'ların düşük kullanım oranı, kaynak israfını ve potansiyel tasarruf fırsatlarını işaret ediyor. Ayrıca, sağlayıcı seçiminde entegrasyon ve TCO'nun ön planda olması, Türk firmalarının yerel veya küresel sağlayıcıları değerlendirirken bu faktörleri göz önünde bulundurması gerektiğini gösteriyor. YZ altyapısına yönelik bu ölçüm ve yönetim eksikliği, rekabet avantajı elde etmek isteyen şirketler için kritik bir fırsat penceresi oluşturuyor. Türkiye'deki veri merkezi yatırımları ve yerli GPU geliştirme çabaları (örneğin TÜBİTAK'ın yonga tasarım projeleri) bu açığı kapatmada önemli rol oynayabilir.