Fransız Girişimi ZML'den Yapay Zeka Çip Performansını Artıran Ücretsiz Yazılım
Fransız yapay zeka girişimi ZML, Turing Ödülü sahibi Yann LeCun'un desteğiyle geliştirdiği ZML/LLMD adlı yazılımı ücretsiz olarak yayınladı. Bu yazılım, Nvidia, AMD, Google TPU gibi farklı çiplerde açık kaynaklı büyük dil modellerinin (LLM) çıkarım (inference) hızını optimize ederek yapay zeka maliyetlerini düşürmeyi hedefliyor.
ZML/LLMD Nedir?
Fransız yapay zeka girişimi ZML, Turing Ödülü sahibi Yann LeCun tarafından desteklenen yeni bir ürün olan ZML/LLMD'yi piyasaya sürdü. Bu yazılım, çeşitli açık kaynaklı büyük dil modellerinin (LLM) Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc dahil olmak üzere farklı çiplerde çalışmasını sağlıyor. ZML kurucusu Steeve Morin, TechCrunch'a yaptığı açıklamada, ZML/LLMD'nin mevcut siloları kırarak farklı çipleri maksimum hızda ve bazen daha da hızlı kullanılabilir hale getirmeyi amaçladığını belirtti. Yazılım, her çipin mimarisine göre optimize edilmiş bir derleme (compilation) katmanı sunuyor ve böylece aynı model farklı donanımlarda tutarlı performans gösterebiliyor. Örneğin, bir LLM'yi Nvidia H100'de çalıştırırken elde edilen çıktı hızı, AMD MI300X'te de benzer seviyelere çekilebiliyor. ZML'nin bu yaklaşımı, özellikle bulut sağlayıcılarının farklı çip tedarikçilerine yönelmesini kolaylaştırarak maliyet avantajı sağlıyor.
Çıkarım (Inference) Altın Akını
Yapay zeka günlük hayata entegre olurken, çıkarım (inference) optimizasyonu model eğitimini geride bıraktı. Ancak yazılım ve mimari engeller nedeniyle bu süreç genellikle tutarsız kalıyor ve satıcı bağımlılığına (vendor lock-in) yol açıyor. ZML, işletmelere ve bulut sağlayıcılarına daha düşük maliyetli veya daha az enerji tüketen çipleri kullanma seçeneği sunmayı hedefliyor. Morin, "Amaç, insanlara kendi sistemlerini oluşturma gücünü geri vermek ve yapay zekanın yaygınlaşmasını sağlayacak verimlilik kazanımları elde etmek" dedi. Günümüzde büyük dil modellerinin (LLM) çıkarım maliyeti, özellikle gerçek zamanlı uygulamalarda (sohbet robotları, otomatik çeviri) kritik bir faktör haline geldi. ZML/LLMD, bu maliyeti %30-50 oranında düşürme potansiyeli taşıyor, çünkü aynı iş yükü için daha ucuz çiplerin kullanılmasına olanak tanıyor. Ayrıca, enerji tüketimini azaltarak karbon ayak izini de küçültüyor; bu da Avrupa Birliği'nin yeşil dönüşüm hedefleriyle uyumlu.
Rekabet ve Pazar Etkisi
ZML/LLMD, Baseten (13 milyar dolar değerleme), Inferact (vLLM projesinin yaratıcıları) ve RadixArk (SGLang'ın arkasındaki şirket) gibi rakiplerle karşı karşıya. Ancak Morin, ZML'nin daha geniş bir yelpazeyi kapsadığını ve "silikonu birlikte tasarlama" noktasına geldiklerini söylüyor. ZML'nin 20 kişilik ekibi, Paris merkezli girişimin hızlı hareket etmesini sağlıyor. Şirket, Harry Stebbings'in 20VC'si, >commit, AALVC, Drysdale Ventures, Xavier Niel'in Kima Ventures'ı, Kindred Capital, LocalGlobe ve Puzzle Ventures'tan 20 milyon dolar yatırım aldı. Bu yatırım, ZML'nin Ar-Ge çalışmalarını hızlandırmasına ve ekibini büyütmesine olanak tanıyor. Ayrıca, Avrupa merkezli yeni çip üreticileri (Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, VSORA) için ZML/LLMD, pazara girişte kritik bir yazılım desteği sağlıyor. Morin, bu şirketlerle "dünyada daha önce hiç yapılmamış şeyler" üzerinde çalıştıklarını vurguluyor.
Ücretsiz Stratejisi ve Gelecek Planları
ZML/LLMD, açık kaynaklı olmayan ancak ücretsiz olarak sunulan bir ürün. Morin, "Ölçüm yapmayı ve büyümeyi engellemeden en etkili olduğu yerde gelir elde etmeyi tercih ederim" diyerek, ürünün ne zaman ücretli hale geleceğinin henüz belli olmadığını belirtti. Şu anki öncelik, kullanıcı verilerini toplamak ve ürünü olgunlaştırmak. Yatırımcılar arasında Dagger ve Docker kurucusu Solomon Hykes, Hugging Face'ten Clément Delangue ve Julien Chaumond ile LeCun'un da bulunması, Avrupa'nın yapay zeka girişimlerinin artık kendi bölgelerinde başarılı olabileceğini gösteriyor. Morin, "ZML'yi Paris dışında hiçbir yerde yapamazdım" diyerek, Fransa'nın yapay zeka ekosistemine olan güvenini dile getiriyor. ZML'nin bir sonraki adımı, daha fazla çip mimarisini desteklemek ve belki de kendi özel donanımını geliştirmek olabilir.
Neden Onemli?
ZML/LLMD, yapay zeka çıkarım maliyetlerini düşürme potansiyeliyle Türkiye ve Avrupa'daki girişimler için önemli bir fırsat sunuyor. Nvidia'ya alternatif çiplerin kullanımını kolaylaştırarak, şirketlerin donanım bağımlılığını azaltabilir ve enerji verimliliğini artırabilir. Özellikle Avrupa merkezli yeni çip üreticileri (Axelera, Fractile gibi) için bu yazılım, pazara girişi hızlandırabilir. Türk yapay zeka ekosistemi de bu tür açık ve esnek çözümlerden faydalanarak rekabet gücünü artırabilir. Örneğin, Türkiye'deki girişimler, yerel bulut sağlayıcıları üzerinden ZML/LLMD'yi kullanarak daha düşük maliyetle LLM tabanlı hizmetler sunabilir. Ayrıca, enerji maliyetlerinin yüksek olduğu Türkiye'de, daha verimli çip kullanımı sayesinde işletme giderleri azalabilir. ZML'nin başarısı, Avrupa'nın yapay zeka alanında küresel oyuncularla rekabet edebileceğini gösteriyor ve bu da Türk girişimciler için ilham verici bir örnek oluşturuyor.
