Büyük model çağının, ağ ekipmanları talebindeki patlamayı göstermeye başladığı. Bu makale, ağların AI çağında neden temel bir unsur haline geldiğini keşfedecek ve gelecekteki ağ tarafındaki yenilikler ve yatırım fırsatlarını tartışacaktır.
Ağ Talebinin Kaynağı
Büyük model çağına girerken, model boyutu ile tek kart üst sınırı arasındaki fark hızla açılmakta, çoklu sunucu kümeleri eğitim sorunlarını çözmek için bir çözüm haline gelmektedir. Ağ yalnızca veri iletimi için kullanılmamakta, aynı zamanda grafik kartları arasındaki model parametrelerini senkronize etmek için de kullanılmakta, bu da ağ yoğunluğu ve kapasitesi için daha yüksek talepler getirmektedir.
Büyük model boyutu, şunu ifade eder:
Eğitim süresi = Eğitim veri boyutu × Model parametre sayısı / Hesaplama hızı
Hesaplama hızı = Tek cihaz hesaplama oranı × Cihaz sayısı × Çoklu cihaz paralel verimliliği
Daha büyük ölçekli veriler ve parametreler arayışında, hesaplama verimliliğini artırmak, eğitim süresini kısaltmanın anahtarı haline geliyor. "Cihaz sayısını" artırmak ve "eşzamanlı verimliliği" yükseltmek, doğrudan hesaplama gücünü belirliyor.
Birden Fazla Kartın Senkronizasyonu için Karmaşık İletişim
Büyük model eğitimi sırasında, modeli tek bir karta böldükten sonra, her hesaplamadan sonra hizalama yapılması gerekir. All-to-All gibi işlemler oldukça yaygındır ve ağ iletimine ve değişimine daha yüksek talepler getirir.
Pahalı Arıza Maliyeti
Büyük model eğitimi genellikle birkaç ay sürer, kesinti durumunda birkaç gün önceki kesim noktasına geri dönmek gerekebilir. Ağın bir aşamasındaki arıza veya yüksek gecikme kesintiye neden olabilir, bu da ilerlemenin geride kalmasına ve yüksek maliyetlere yol açar. Modern AI ağı, insan sistem mühendisliği yeteneklerinin test edildiği bir başarı haline gelmiştir.
Ağ İnnovasyonunun Yönü
Donanım talebe göre hareket ederken, küresel hesaplama gücü yatırım ölçeği yüzlerce milyar dolara ulaşmıştır. "Maliyet düşürme", "açıklık" ve hesaplama gücü ölçeğinin dengesi, ağ yeniliğinin ana konusu olacaktır.
İletişim Ortamının Değişimi
Işık, bakır ve silisyum üç ana iletim ortamıdır. Işık modülleri daha yüksek hızlara ulaşmayı hedeflerken, aynı zamanda maliyet düşürme yolları olarak LPO, LRO, silikon ışık gibi yöntemlere yönelmeye başladı. Bakır kablolar, maliyet performansıyla sunucu kabinlerindeki bağlantıları ele geçirdi. Chiplet, Wafer-scaling gibi yeni teknolojiler, silisyum tabanlı bağlantının sınırlarını keşfetmeyi hızlandırıyor.
Ağ Protokolü Rekabeti
Parça arası iletişim protokolleri ve grafik kartı sıkı bağları, NVIDIA NV-LINK, AMD Infinity Fabric gibi, tek düğümün kapasite sınırını belirler. IB ve Ethernet'in rekabeti ise düğümler arası iletişimin ana melodisidir.
Ağ mimarisindeki değişiklikler
Şu anda yaygın olarak yaprak-omurga mimarisi kullanılmakta, ancak düğüm sayısı arttıkça, yaprak-omurga mimarisinin ultra büyük kümelerde maliyeti yüksek olmaktadır. Dragonfly mimarisi, yalnızca demir yolu mimarisi gibi alternatiflerin, bir sonraki nesil ultra büyük kümelere yönelik evrimsel yönler olması bekleniyor.
Yatırım Tavsiyesi
İletişim sisteminin temel bileşenleri: Zhongji Xuchuang, Yeni Yisheng, Tianfu İletişim, Endüstriyel Fuzhong, Yingweike, Hu Dian Hisseleri.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
15 Likes
Reward
15
7
Share
Comment
0/400
BtcDailyResearcher
· 07-11 16:33
Küme gerçek çekirdek.
View OriginalReply0
FortuneTeller42
· 07-10 20:33
Ağlar temeldir
View OriginalReply0
HashBrownies
· 07-10 16:53
Depolama sorunları nasıl çözülür
View OriginalReply0
Layer3Dreamer
· 07-09 14:22
Teorik olarak, ağ ölçeklenebilirlik darboğazı L2 durum senkronizasyonu zorluklarını yansıtmaktadır. Tıpkı çapraz rollup iletişiminin optimize edilmiş köprü protokollerine ihtiyaç duyması gibi, AI model eğitimi de GPU kümeleri arasında karmaşık parametre senkronizasyonu gerektirir. Bu paralellik, blockchain birlikte çalışabilirlik çözümleri ile AI ağ mimarisi arasında potansiyel bir yakınsama olduğunu önermektedir.
AI Büyük Model Çağı: Ağ Ekipmanları Talebinin Patlaması ve Yatırım Fırsatları Analizi
AI büyük model çağındaki ağın anahtar konumu
Büyük model çağının, ağ ekipmanları talebindeki patlamayı göstermeye başladığı. Bu makale, ağların AI çağında neden temel bir unsur haline geldiğini keşfedecek ve gelecekteki ağ tarafındaki yenilikler ve yatırım fırsatlarını tartışacaktır.
Ağ Talebinin Kaynağı
Büyük model çağına girerken, model boyutu ile tek kart üst sınırı arasındaki fark hızla açılmakta, çoklu sunucu kümeleri eğitim sorunlarını çözmek için bir çözüm haline gelmektedir. Ağ yalnızca veri iletimi için kullanılmamakta, aynı zamanda grafik kartları arasındaki model parametrelerini senkronize etmek için de kullanılmakta, bu da ağ yoğunluğu ve kapasitesi için daha yüksek talepler getirmektedir.
Büyük model boyutu, şunu ifade eder:
Daha büyük ölçekli veriler ve parametreler arayışında, hesaplama verimliliğini artırmak, eğitim süresini kısaltmanın anahtarı haline geliyor. "Cihaz sayısını" artırmak ve "eşzamanlı verimliliği" yükseltmek, doğrudan hesaplama gücünü belirliyor.
Birden Fazla Kartın Senkronizasyonu için Karmaşık İletişim
Büyük model eğitimi sırasında, modeli tek bir karta böldükten sonra, her hesaplamadan sonra hizalama yapılması gerekir. All-to-All gibi işlemler oldukça yaygındır ve ağ iletimine ve değişimine daha yüksek talepler getirir.
Pahalı Arıza Maliyeti
Büyük model eğitimi genellikle birkaç ay sürer, kesinti durumunda birkaç gün önceki kesim noktasına geri dönmek gerekebilir. Ağın bir aşamasındaki arıza veya yüksek gecikme kesintiye neden olabilir, bu da ilerlemenin geride kalmasına ve yüksek maliyetlere yol açar. Modern AI ağı, insan sistem mühendisliği yeteneklerinin test edildiği bir başarı haline gelmiştir.
Ağ İnnovasyonunun Yönü
Donanım talebe göre hareket ederken, küresel hesaplama gücü yatırım ölçeği yüzlerce milyar dolara ulaşmıştır. "Maliyet düşürme", "açıklık" ve hesaplama gücü ölçeğinin dengesi, ağ yeniliğinin ana konusu olacaktır.
İletişim Ortamının Değişimi
Işık, bakır ve silisyum üç ana iletim ortamıdır. Işık modülleri daha yüksek hızlara ulaşmayı hedeflerken, aynı zamanda maliyet düşürme yolları olarak LPO, LRO, silikon ışık gibi yöntemlere yönelmeye başladı. Bakır kablolar, maliyet performansıyla sunucu kabinlerindeki bağlantıları ele geçirdi. Chiplet, Wafer-scaling gibi yeni teknolojiler, silisyum tabanlı bağlantının sınırlarını keşfetmeyi hızlandırıyor.
Ağ Protokolü Rekabeti
Parça arası iletişim protokolleri ve grafik kartı sıkı bağları, NVIDIA NV-LINK, AMD Infinity Fabric gibi, tek düğümün kapasite sınırını belirler. IB ve Ethernet'in rekabeti ise düğümler arası iletişimin ana melodisidir.
Ağ mimarisindeki değişiklikler
Şu anda yaygın olarak yaprak-omurga mimarisi kullanılmakta, ancak düğüm sayısı arttıkça, yaprak-omurga mimarisinin ultra büyük kümelerde maliyeti yüksek olmaktadır. Dragonfly mimarisi, yalnızca demir yolu mimarisi gibi alternatiflerin, bir sonraki nesil ultra büyük kümelere yönelik evrimsel yönler olması bekleniyor.
Yatırım Tavsiyesi
İletişim sisteminin temel bileşenleri: Zhongji Xuchuang, Yeni Yisheng, Tianfu İletişim, Endüstriyel Fuzhong, Yingweike, Hu Dian Hisseleri.
İletişim sistemleri yenilik aşamaları: Changfei Fiber, Taicheng Optik, Yuanjie Teknoloji, Shengke İletişim, Hanwujishi, Dekoli.
Risk Uyarısı: AI talebi beklentilerin altında, Ölçekleme yasası geçersiz, sektör rekabeti artıyor.