tag PyTorch
Bu sayfada PyTorch etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
PyTorch, Meta AI Araştırma Laboratuvarı (FAIR) tarafından 2016 yılında geliştirilen, Python tabanlı açık kaynaklı bir derin öğrenme çerçevesidir. Lua tabanlı Torch kütüphanesinin modern Python uyarlaması olarak doğan PyTorch, sinir ağları ve makine öğrenimi modellerini tasarlamak, eğitmek ve üretim ortamına almak için kapsamlı bir araç seti sunar. PyTorch'u rakiplerinden ayıran en temel özellik, çalışma zamanında değiştirilebilen dinamik hesaplama grafları (define-by-run) yaklaşımıdır. TensorFlow gibi çerçevelerin erken sürümlerinde benimsenen statik grafların aksine, PyTorch'ta model kodu adım adım yürütülürken hesaplama grafı anlık olarak inşa edilir. Bu yaklaşım, araştırmacıların standart Python hata ayıklama araçlarını doğrudan kullanabilmesine ve model mimarisini denemeler sırasında kolayca değiştirebilmesine imkân tanır. Autograd sistemi, PyTorch'un otomatik diferansiyelleştirme motorunu oluşturur. Bir tensöre requires_grad=True atandığında, sistem bu tensör üzerinde gerçekleştirilen tüm matematiksel işlemleri sessizce kaydeder ve .backward() çağrısıyla gradyanları otomatik olarak hesaplar. Bu mekanizma, geri yayılım (backpropagation) algoritmasının elle kodlanmasına gerek kalmaksızın her türlü özel kayıp fonksiyonu ve katman tasarımına izin verir. Akademik araştırma dünyasında PyTorch, 2019-2020 yıllarından itibaren TensorFlow'u geçerek birincil derin öğrenme çerçevesi hâline gelmiştir. Llama, DINO ve Whisper gibi modellerin resmi kodları PyTorch ile yazılmıştır; BERT ve ViT gibi başka çerçevelerde doğan modellerin en yaygın kullanılan uygulamaları da PyTorch ekosisteminde yaşar. Hugging Face Transformers kütüphanesi birincil backend olarak PyTorch'u kullanır ve tek bir API ile yüz binlerce önceden eğitilmiş modele erişim sunar. GPU desteği açısından PyTorch, NVIDIA CUDA ile derin bir entegrasyona sahiptir; model veya tensörler .to('cuda') gibi tek satır kodla GPU'ya taşınabilir. Apple Silicon için MPS (Metal Performance Shaders) ve AMD için ROCm desteği de eklenmiştir. TorchVision, TorchAudio, PyTorch Lightning ve TorchServe gibi resmi ekosistem paketleri, PyTorch'u araştırma prototipinden üretim ortamına kadar tek çatı altında kullanılan eksiksiz bir platform hâline getirir.
Deep Learning (Derin Öğrenme)
Derin Öğrenme (Deep Learning), insan beyninin çalışma prensibinden ilham alınarak geliştirilen yapay sinir ağlarını kullanarak çok katmanlı soyutlamalarla veriyi modelleyen makine öğrenmesi alt dalıdır. Geoffrey Hinton, Yann LeCun ve Yoshua Bengio gibi öncülerin çalışmalarıyla şekillenen bu alan, 2012 yılında ImageNet yarışmasında AlexNet'in gösterdiği çığır açan başarıyla ana akım haline gelmiştir. Günümüzde GPT, DALL-E, AlphaFold gibi devrim niteliğindeki modellerin temelini oluşturmaktadır.
PyTorch (Açık Kaynak Derin Öğrenme Çerçevesi)
PyTorch, Meta AI Araştırma Laboratuvarı (FAIR) tarafından 2016 yılında geliştirilen, Python tabanlı açık kaynaklı bir derin öğrenme çerçevesidir. Lua tabanlı Torch kütüphanesinin modern Python uyarlaması olarak doğan PyTorch, sinir ağları ve makine öğrenimi modellerini tasarlamak, eğitmek ve üretim ortamına almak için kapsamlı bir araç seti sunar. PyTorch'u rakiplerinden ayıran en temel özellik, çalışma zamanında değiştirilebilen dinamik hesaplama grafları (define-by-run) yaklaşımıdır. TensorFlow gibi çerçevelerin erken sürümlerinde benimsenen statik grafların aksine, PyTorch'ta model kodu adım adım yürütülürken hesaplama grafı anlık olarak inşa edilir. Bu yaklaşım, araştırmacıların standart Python hata ayıklama araçlarını doğrudan kullanabilmesine ve model mimarisini denemeler sırasında kolayca değiştirebilmesine imkân tanır. Autograd sistemi, PyTorch'un otomatik diferansiyelleştirme motorunu oluşturur. Bir tensöre requires_grad=True atandığında, sistem bu tensör üzerinde gerçekleştirilen tüm matematiksel işlemleri sessizce kaydeder ve .backward() çağrısıyla gradyanları otomatik olarak hesaplar. Bu mekanizma, geri yayılım (backpropagation) algoritmasının elle kodlanmasına gerek kalmaksızın her türlü özel kayıp fonksiyonu ve katman tasarımına izin verir. Akademik araştırma dünyasında PyTorch, 2019-2020 yıllarından itibaren TensorFlow'u geçerek birincil derin öğrenme çerçevesi hâline gelmiştir. Llama, DINO ve Whisper gibi modellerin resmi kodları PyTorch ile yazılmıştır; BERT ve ViT gibi başka çerçevelerde doğan modellerin en yaygın kullanılan uygulamaları da PyTorch ekosisteminde yaşar. Hugging Face Transformers kütüphanesi birincil backend olarak PyTorch'u kullanır ve tek bir API ile yüz binlerce önceden eğitilmiş modele erişim sunar. GPU desteği açısından PyTorch, NVIDIA CUDA ile derin bir entegrasyona sahiptir; model veya tensörler .to('cuda') gibi tek satır kodla GPU'ya taşınabilir. Apple Silicon için MPS (Metal Performance Shaders) ve AMD için ROCm desteği de eklenmiştir. TorchVision, TorchAudio, PyTorch Lightning ve TorchServe gibi resmi ekosistem paketleri, PyTorch'u araştırma prototipinden üretim ortamına kadar tek çatı altında kullanılan eksiksiz bir platform hâline getirir.