tag WebML
Transformers.js (Transformers.js)
Bu sayfada WebML (Transformers.js (Transformers.js)) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Transformers.js, Hugging Face'in Python ekosistemindeki transformers kütüphanesinin tarayıcı ve Node.js ortamlarına taşınmış resmi JavaScript portudur. Kütüphanenin temeli ONNX Runtime Web'e dayanır: Hugging Face Hub'da yayımlanan transformer modelleri ONNX formatına dönüştürülüp WebAssembly veya WebGPU üzerinde çalıştırılır; bu sayede bir arka uç servisi veya API çağrısı olmaksızın makine öğrenimi çıkarımı (inferans) gerçekleştirilebilir. Geleneksel mimaride bir web uygulaması makine öğrenimi tahmini için Python tabanlı bir sunucuya istek atmak zorundadır. Transformers.js bu paradigmayı tersine çevirir: model tarayıcıya bir kez indirilir, sonraki tahminler tamamen istemci tarafında yapılır. Ağ gecikmesi ortadan kalkar, kullanıcı verisi hiçbir zaman sunucuya ulaşmaz ve uygulama çevrimdışı da çalışabilir. Kütüphane pipeline() arayüzüyle Python versiyonuna yakın bir sözdizimi sunar: pipeline('sentiment-analysis'), pipeline('text-generation'), pipeline('automatic-speech-recognition') gibi çağrılar tarayıcıda da aynı şekilde çalışır. Desteklenen görev kategorileri şunlardır: doğal dil işleme (duygu analizi, metin sınıflandırma, adlandırılmış varlık tanıma, özetleme, çeviri, metin üretimi, soru yanıtlama), ses (Whisper ile konuşma tanıma, ses sınıflandırma) ve görüntü (nesne tespiti, görüntü sınıflandırma, OCR, derinlik tahmini, segmentasyon). CLIP tabanlı çok modlu modeller de desteklenir. WebGPU desteği, kütüphanenin 2023'ten itibaren geçirdiği önemli bir dönüşümü temsil eder. Chrome 113+ ile kullanılan WebGPU, CPU'ya kıyasla 5–10 kat hız kazanımı sağlar; kuantize Phi-3 Mini (3,8 milyar parametre) gibi görece büyük modeller bile tarayıcıda çalıştırılabilir hale gelmiştir. Pratik sınırlar şunlardır: tarayıcıda önerilen model boyutu üst sınırı yaklaşık 500 MB'dir; DistilBERT (67 MB) ve DistilWhisper (100 MB) optimize seçeneklerdir. ONNX dönüşümü gerektirdiği için Hub'daki her model doğrudan kullanılamaz; ancak popüler modellerin büyük çoğunluğu onnx alt klasörüyle zaten yayımlanmaktadır. Türkçe desteği de mevcuttur: XLM-R ve çok dilli Whisper modelleriyle Türkçe NLP ve konuşma tanıma tarayıcıda sorunsuz çalıştırılabilmektedir.
Transformers.js (Transformers.js)
Transformers.js, Hugging Face'in Python ekosistemindeki transformers kütüphanesinin tarayıcı ve Node.js ortamlarına taşınmış resmi JavaScript portudur. Kütüphanenin temeli ONNX Runtime Web'e dayanır: Hugging Face Hub'da yayımlanan transformer modelleri ONNX formatına dönüştürülüp WebAssembly veya WebGPU üzerinde çalıştırılır; bu sayede bir arka uç servisi veya API çağrısı olmaksızın makine öğrenimi çıkarımı (inferans) gerçekleştirilebilir. Geleneksel mimaride bir web uygulaması makine öğrenimi tahmini için Python tabanlı bir sunucuya istek atmak zorundadır. Transformers.js bu paradigmayı tersine çevirir: model tarayıcıya bir kez indirilir, sonraki tahminler tamamen istemci tarafında yapılır. Ağ gecikmesi ortadan kalkar, kullanıcı verisi hiçbir zaman sunucuya ulaşmaz ve uygulama çevrimdışı da çalışabilir. Kütüphane pipeline() arayüzüyle Python versiyonuna yakın bir sözdizimi sunar: pipeline('sentiment-analysis'), pipeline('text-generation'), pipeline('automatic-speech-recognition') gibi çağrılar tarayıcıda da aynı şekilde çalışır. Desteklenen görev kategorileri şunlardır: doğal dil işleme (duygu analizi, metin sınıflandırma, adlandırılmış varlık tanıma, özetleme, çeviri, metin üretimi, soru yanıtlama), ses (Whisper ile konuşma tanıma, ses sınıflandırma) ve görüntü (nesne tespiti, görüntü sınıflandırma, OCR, derinlik tahmini, segmentasyon). CLIP tabanlı çok modlu modeller de desteklenir. WebGPU desteği, kütüphanenin 2023'ten itibaren geçirdiği önemli bir dönüşümü temsil eder. Chrome 113+ ile kullanılan WebGPU, CPU'ya kıyasla 5–10 kat hız kazanımı sağlar; kuantize Phi-3 Mini (3,8 milyar parametre) gibi görece büyük modeller bile tarayıcıda çalıştırılabilir hale gelmiştir. Pratik sınırlar şunlardır: tarayıcıda önerilen model boyutu üst sınırı yaklaşık 500 MB'dir; DistilBERT (67 MB) ve DistilWhisper (100 MB) optimize seçeneklerdir. ONNX dönüşümü gerektirdiği için Hub'daki her model doğrudan kullanılamaz; ancak popüler modellerin büyük çoğunluğu onnx alt klasörüyle zaten yayımlanmaktadır. Türkçe desteği de mevcuttur: XLM-R ve çok dilli Whisper modelleriyle Türkçe NLP ve konuşma tanıma tarayıcıda sorunsuz çalıştırılabilmektedir.
WebGPU (WebGPU)
WebGPU, modern web tarayıcılarına düşük seviyeli GPU programlama kapasitesi sunan yeni nesil bir web standardıdır. W3C tarafından geliştirilen ve 2023 yılında Chrome ve Firefox'ta kararlı desteğe kavuşan WebGPU, eski WebGL API'sinin yerine geçerek grafik ve genel amaçlı GPU hesaplama (GPGPU) yeteneklerini tarayıcıya taşır. WebGPU'nun yapay zeka açısından önemi büyüktür: GPU'nun paralel hesaplama gücü artık tarayıcı içindeki makine öğrenmesi modellerine doğrudan erişilebilir hale gelmiştir. TensorFlow.js ve ONNX Runtime Web, WebGPU arka ucu aracılığıyla görüntü sınıflandırma, doğal dil işleme ve ses tanıma gibi modelleri tarayıcıda saniyeler içinde çalıştırabilmektedir; bu işlemler için hiçbir bulut sunucusu gerekmez. WebGL ile kıyaslandığında WebGPU çok daha modern ve esnek bir programlama modeli sunar. WGSL (WebGPU Shading Language) adlı yeni bir gölgelendirici dili, hem grafik hem de compute shader yazımını birleştirip güçlendirir. Compute shader desteği WebGL'de sınırlıyken WebGPU bunu birinci sınıf özellik olarak sunar; bu da GPU üzerinde matris çarpımı, paralel sıralama ve nöral ağ çıkarımı gibi görevlerin verimli biçimde gerçekleştirilmesini mümkün kılar. Güvenlik, WebGPU tasarımının merkezindedir. Bellek izolasyonu, kaynak sınırlandırması ve tarayıcı güvenlik katmanları, GPU'ya doğrudan donanım erişiminin getireceği riskleri yönetir. Vulkan, Metal ve D3D12 gibi platform yerel grafik API'lerine uyarlanan bir soyutlama katmanı sayesinde Windows, macOS ve Linux üzerinde tutarlı bir davranış elde edilir. WebGPU, yerel AI çalıştırma vizyonunun web tarafındaki temel taşını oluşturur ve tarayıcıyı giderek daha güçlü bir AI çalışma ortamına dönüştürmektedir.