tag ai-cip

Sistolik Dizi (Sistolik Dizi)

Bu sayfada ai-cip (Sistolik Dizi (Sistolik Dizi)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Sistolik dizi (systolic array), işlem elemanlarının (PE — processing element) düzenli bir ızgara topolojisinde dizilerek verinin komşu elemanlar arasında ritmik (darbeli) bir akışla işlendiği özel amaçlı paralel donanım mimarisidir. 1978'de Carnegie Mellon Üniversitesi'nden H.T. Kung ve Charles Leiserson tarafından önerilen bu mimari, "veri kalbe kan gibi pompalanır" metaforundan adını alır. Sistolik dizinin temel çalışma prensibi şudur: her saat döngüsünde veriler ızgara boyunca bir adım kayar; her işlem elemanı kendisine gelen kısmi sonucu bir önceki eleman verisiyle birleştirerek bir sonraki elemana iletir. Bu yaklaşım, verinin tek bir merkezi belleğe gidip gelmesi yerine işlem elemanları arasında yerel olarak akmasını sağlar; böylece bellek bant genişliği darboğazı dramatik biçimde azaltılır. Yapay zeka donanımlarında sistolik dizi mimarisi kritik bir rol üstlenmektedir. Google'ın Tensör İşleme Birimi (TPU), 2016 yılında 256×256 sistollik dizi üzerine inşa edilmiş olarak duyurulmuş ve sinir ağı matris çarpımları için saniyede 92 teraflops performans sunmuştur. Matris çarpımı — derin öğrenme modellerinin en temel hesaplama ilkeli — sistolik mimaride son derece verimli gerçekleştirilir: ağırlık matrisi sabit tutulurken aktivasyonlar dizi üzerinden akar ya da tam tersi bir akış uygulanır. GPU'larla karşılaştırıldığında sistolik diziler farklı bir hesaplama paradigmasını temsil eder. GPU genel amaçlı paralel hesaplama için binlerce çekirdek içerirken, sistolik dizi belirli bir hesaplama kalıbı (özellikle matris-matris çarpımı) için optimize edilmiş özel bir hattır. Bu nedenle eğitim gibi çeşitli iş yüklerine kıyasla çıkarım (inference) gibi sabit hesaplama kalıbı gerektiren görevlerde daha verimlidir. Google TPU v4 ve v5 ile Groq LPU da bu mimarinin modern temsilcileridir.

code_blocks

Sistolik Dizi (Sistolik Dizi)

Sistolik dizi (systolic array), işlem elemanlarının (PE — processing element) düzenli bir ızgara topolojisinde dizilerek verinin komşu elemanlar arasında ritmik (darbeli) bir akışla işlendiği özel amaçlı paralel donanım mimarisidir. 1978'de Carnegie Mellon Üniversitesi'nden H.T. Kung ve Charles Leiserson tarafından önerilen bu mimari, "veri kalbe kan gibi pompalanır" metaforundan adını alır. Sistolik dizinin temel çalışma prensibi şudur: her saat döngüsünde veriler ızgara boyunca bir adım kayar; her işlem elemanı kendisine gelen kısmi sonucu bir önceki eleman verisiyle birleştirerek bir sonraki elemana iletir. Bu yaklaşım, verinin tek bir merkezi belleğe gidip gelmesi yerine işlem elemanları arasında yerel olarak akmasını sağlar; böylece bellek bant genişliği darboğazı dramatik biçimde azaltılır. Yapay zeka donanımlarında sistolik dizi mimarisi kritik bir rol üstlenmektedir. Google'ın Tensör İşleme Birimi (TPU), 2016 yılında 256×256 sistollik dizi üzerine inşa edilmiş olarak duyurulmuş ve sinir ağı matris çarpımları için saniyede 92 teraflops performans sunmuştur. Matris çarpımı — derin öğrenme modellerinin en temel hesaplama ilkeli — sistolik mimaride son derece verimli gerçekleştirilir: ağırlık matrisi sabit tutulurken aktivasyonlar dizi üzerinden akar ya da tam tersi bir akış uygulanır. GPU'larla karşılaştırıldığında sistolik diziler farklı bir hesaplama paradigmasını temsil eder. GPU genel amaçlı paralel hesaplama için binlerce çekirdek içerirken, sistolik dizi belirli bir hesaplama kalıbı (özellikle matris-matris çarpımı) için optimize edilmiş özel bir hattır. Bu nedenle eğitim gibi çeşitli iş yüklerine kıyasla çıkarım (inference) gibi sabit hesaplama kalıbı gerektiren görevlerde daha verimlidir. Google TPU v4 ve v5 ile Groq LPU da bu mimarinin modern temsilcileridir.

arrow_forward