PCIe (PCI Express)

#donanim #gpu #veri-yolu #ai-altyapi

GPU ve depolama birimlerini ana karta bağlayan, her nesilde bant genişliğini iki katına çıkaran yüksek hızlı seri veri yolu standardı.

PCIe (PCI Express / Peripheral Component Interconnect Express), modern bilgisayarlarda GPU, NVMe SSD ve yüksek hızlı ağ kartları gibi bileşenleri ana karta bağlayan seri, nokta-nokta yüksek bant genişliği veri yolu standardıdır. Yapay zeka ve derin öğrenme iş yüklerinde GPU'nun CPU belleğinden eğitim verisini ve model ağırlıklarını ne kadar hızlı aktarabildiğini doğrudan belirleyen kritik bir arayüzdür. Teknik açıdan PCIe, x1, x4, x8 ve x16 olmak üzere dört temel şerit (lane) konfigürasyonunda çalışır. Yapay zeka eğitim ve çıkarım GPU'ları tipik olarak x16 tam bağlantıyla takılır. Her PCIe nesli, tek şerit teorik bant genişliğini yaklaşık iki katına çıkarır. PCIe 3.0 x16, çift yönde ~32 GB/s toplam bant genişliği sunarken PCIe 4.0 ~64 GB/s, PCIe 5.0 ~128 GB/s ve henüz piyasaya yeni giren PCIe 6.0 ~256 GB/s kapasitesine ulaşır. Gizli Kodlama (encoding) yükü bu teorik değerden yaklaşık %20 oranında düşer. Yapay zeka perspektifinden PCIe bant genişliği iki kritik yerde darboğaz oluşturur. Birincisi, CPU RAM'inden GPU VRAM'ine veri transferidir; batch yükleme süreçlerinde GPU'nun veri beklemesi "host-to-device transfer latency" olarak bilinir ve PCIe nesli ile doğrudan ilişkilidir. İkincisi, çok-GPU kurulumlarında GPU'lar arasındaki iletişimdir; NVLink veya CXL gibi doğrudan GPU-GPU köprüleri mevcut değilse, tüm GPU-GPU trafiği PCIe üzerinden CPU'ya ve oradan geri dönmek zorunda kalır. NVIDIA A100 ve H100 veri merkezi GPU'ları PCIe 4.0/5.0 x16 ile, tüketici segmentindeki RTX 4090 PCIe 4.0 x16 ile gelir. AMD Instinct MI300X, PCIe 5.0 x16 desteği sunar. Apple Silicon (M-serisi) çiplerinde CPU-GPU arasında PCIe değil, Unified Memory Architecture (UMA) kullandığından bu darboğaz kavramsal olarak ortadan kalkar. Türkiye'de üniversite araştırma grupları ve AI startup'ları GPU sunucu kurulumlarında PCIe nesil uyumluluğunu, özellikle PCIe 3.0'lı eski anakartlarda PCIe 4.0 GPU kullanımında oluşan bant genişliği kayıplarını göz önünde bulundurmaktadır.

PCIe Nasıl Çalışır?

PCIe, paralel veri yolu olan PCI'nin yerine 2003'te geçen seri, nokta-nokta mimarisine sahip bir standarttır. Her PCIe şeridi (lane), birbirinden bağımsız çalışan bir çift alıcı-verici çiftidir; x16 konfigürasyonu bu çiftlerin 16 tanesini paralel çalıştırır. Veriler diferansiyel sinyal çiftleri üzerinden iletilir; bu tasarım, uzun mesafelerde sinyal gürültüsüne karşı sağlamlık sunar. Her nesilde hem saat hızı hem de kodlama verimliliği (PCIe 3.0'da 128b/130b) artırılarak teorik bant genişliği ikiye katlanır. PCIe köklü geriye dönük uyumludur: PCIe 5.0 GPU'lar PCIe 3.0 yuvada çalışır, ancak o neslin bant genişliğiyle sınırlı kalır.

PCIe Nesilleri: AI Donanım Perspektifi

⚡ PCIe 4.0 (2017)

x16 çift yön ~64 GB/s. RTX 4090, AMD RX 7900 XTX ve çoğu tüketici AI GPU'sunun kullandığı standart. Ryzen 5000 ve Intel 12. nesil ve sonrası platformlarda native desteklenir. Çoğu modern AI araştırma kurulumu için yeterlidir.

🚀 PCIe 5.0 (2022)

x16 çift yön ~128 GB/s. NVIDIA H100, AMD Instinct MI300X ve Intel Gaudi 3 gibi veri merkezi AI GPU'larının hedef platformu. Intel 13./14. nesil ve AMD Zen 4 (Ryzen 7000) ile kullanılabilir. NVMe SSD'lerde de yaygınlaşmaktadır.

🔬 PCIe 6.0 (2022-spec, 2024+)

x16 ~256 GB/s teorik. PAM4 sinyal kodlaması kullanır; gürültü yönetimi daha karmaşıktır. Gelecek nesil GPU ve ağ kartlarını hedefler. CXL 3.x ile birlikte veri merkezi bellekten GPU'ya direkt erişim senaryolarını mümkün kılacak.

AI İş Yüklerinde PCIe Darboğazı

Yapay zeka eğitiminde PCIe bant genişliği iki kritik noktada darboğaz oluşturur. İlki, CPU RAM'inden GPU VRAM'ine veri transferidir; DataLoader, bir sonraki batch'i GPU'ya yüklerken GPU işlem yapıyorsa bu gecikme pinned memory (sayfa kilitli bellek) ve asenkron transfer yöntemleriyle azaltılabilir. İkincisi çok-GPU konfigürasyonlarıdır: NVLink veya CXL köprüsü olmayan sistemlerde GPU-GPU trafiği PCIe üzerinden CPU'dan geçmek zorunda kalır ve bu durum all-reduce operasyonlarını ciddi ölçüde yavaşlatır. Bu nedenle büyük dil modellerinin çok-GPU eğitiminde NVLink SXM bağlantılı GPU'lar (A100/H100 SXM sürümleri) PCIe versiyonlarına kıyasla belirgin performans avantajı sunar.

PCIe, NVLink ve CXL: Hangi Durumda Ne?

PCIe, tüm GPU-CPU iletişiminin temel taşıdır ve kaçınılmazdır. NVLink, NVIDIA'nın GPU'dan GPU'ya özel köprüsüdür; A100 SXM4'te 600 GB/s çift yön bant genişliğiyle PCIe'yi GPU-GPU iletişiminde tamamen atlayarak veri merkezi AI kümeleri için tercih edilen çözüm hâline gelir. CXL (Compute Express Link), PCIe fiziksel katmanı üzerinde çalışan daha yeni bir protokoldür; CPU-GPU-bellek havuzu arasında önbellek tutarlılığı sunarak büyük bellek kapasitesi gerektiren inference senaryolarında öne çıkmaktadır. Tüketici ve küçük ölçekli araştırma kurulumlarında PCIe 4.0/5.0 standart kalmaya devam eder.

Sık Sorulan Sorular

  • check_circle PCIe 3.0 yuvaya PCIe 4.0 GPU takarsam ne olur?: GPU çalışır, ancak bant genişliği PCIe 3.0 x16 (~32 GB/s çift yön) ile sınırlı kalır. Çoğu oyun ve orta ölçekli AI iş yükü için bu fark ihmal edilebilir; ancak büyük batch boyutlarıyla yoğun CPU-GPU veri transferi yapılan eğitim senaryolarında ~%10-20 darboğaz görülebilir.
  • check_circle Laptop GPU'ları da PCIe kullanır mı?: Laptop'lardaki ayrık GPU'lar (NVIDIA RTX mobil serisi) PCIe 4.0 x8 veya x16 bağlantıyla çalışır; bazı modellerde güç tasarrufu için x4'e düşürülür. Apple Silicon, NVIDIA/AMD GPU'su yerine CPU ile entegre Unified Memory kullandığından bu tartışmanın dışındadır.
  • check_circle PCIe bant genişliğini nasıl ölçebilirim?: Linux'ta `nvidia-smi topo -m` GPU topolojisini gösterir. PyTorch'ta CUDA event ile host-to-device transfer hızını ölçmek için `torch.cuda.synchronize()` ile zamanlama yapılabilir. Benchmark araçları: bandwidthTest (CUDA SDK), nvbandwidth (NVIDIA), gpu-burn.
  • check_circle Multi-GPU kurulumda PCIe şerit sayısı neden önemli?: Dört GPU'lu bir sistemde, anakart PCIe şeritlerini her GPU'ya x16 yerine x8 olarak bölüştürüyorsa toplam bant genişliği yarıya düşer. NVIDIA NVLink SXM yapılandırmalarında GPU-GPU iletişimi PCIe'yi atladığından bu sorun ortadan kalkar; ancak PCIe-tabanlı çok-GPU sistemlerinde şerit bölüşümünü BIOS veya `nvidia-smi` çıktısıyla doğrulamak kritiktir.
  • check_circle CXL, PCIe'nin yerini alacak mı?: CXL, PCIe 5.0/6.0 fiziksel katmanı üzerinde çalışan bir protokol katmanıdır; PCIe'yi ortadan kaldırmak yerine onu temel alarak önbellek tutarlılığı ve bellek havuzu gibi özellikler ekler. Veri merkezi AI altyapısında 2025 ve sonrasında yaygınlaşması beklenmekte, ancak tüketici pazarında PCIe standart kalmaya devam edecektir.