Era Model Besar AI: Analisis Ledakan Permintaan Perangkat Jaringan dan Peluang Investasi

Posisi Kunci Jaringan di Era Model Besar AI

Era model besar telah mulai menunjukkan ledakan permintaan perangkat jaringan. Artikel ini akan membahas mengapa jaringan menjadi bagian inti di era AI, dan mendiskusikan inovasi dan peluang investasi di sisi jaringan di masa depan.

Sumber permintaan jaringan

Masuk ke era model besar, perbedaan ukuran model dan batasan kartu tunggal dengan cepat melebar, kluster server multi menjadi solusi untuk masalah pelatihan. Jaringan tidak hanya digunakan untuk mentransfer data, tetapi lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang meningkatkan tuntutan terhadap kepadatan dan kapasitas jaringan.

Ukuran model yang besar berarti:

1. Waktu pelatihan = Skala data pelatihan × Jumlah parameter model / Kecepatan komputasi
2. Kecepatan perhitungan = Tingkat perhitungan per perangkat × Jumlah perangkat × Efisiensi paralel multi perangkat

Dalam mengejar data dan parameter yang lebih besar, meningkatkan efisiensi komputasi menjadi kunci untuk memperpendek waktu pelatihan. Sementara itu, meningkatkan "jumlah perangkat" dan meningkatkan "efisiensi paralel" secara langsung menentukan kekuatan komputasi.

Komunikasi kompleks sinkronisasi multi-kartu

Dalam pelatihan model besar, setelah model dibagi menjadi satu kartu, setiap kali perhitungan dilakukan, perlu dilakukan penyelarasan. Operasi seperti All-to-All cukup umum, yang menempatkan tuntutan lebih tinggi pada transmisi dan pertukaran jaringan.

Biaya kegagalan yang mahal

Latihan model besar sering berlangsung selama berbulan-bulan, dan gangguan mungkin memerlukan kembali ke titik pemutusan beberapa hari sebelumnya untuk melatih ulang. Kegagalan atau keterlambatan tinggi di salah satu bagian jaringan dapat menyebabkan gangguan, mengakibatkan kemunduran dan biaya yang tinggi. Jaringan AI modern telah menjadi ujian bagi kemampuan rekayasa sistem manusia.

Arah Inovasi Jaringan

Perangkat keras bergerak sesuai permintaan, skala investasi kekuatan komputasi global telah mencapai ratusan miliar dolar. "Pengurangan biaya", "keterbukaan", dan keseimbangan skala kekuatan komputasi akan menjadi isu utama dalam inovasi jaringan.

Perubahan Medium Komunikasi

Cahaya, tembaga, dan silikon adalah tiga media transmisi utama. Modul cahaya mengejar kecepatan yang lebih tinggi, sambil juga mulai mencari cara untuk menurunkan biaya seperti LPO, LRO, dan silikon optik. Kabel tembaga menguasai koneksi di dalam rak karena nilai biaya-efektivitasnya. Teknologi baru seperti Chiplet dan Wafer-scaling mempercepat eksplorasi batas atas interkoneksi berbasis silikon.

Persaingan Protokol Jaringan

Protokol komunikasi antar chip sangat terkait dengan kartu grafis, seperti NVIDIA NV-LINK, AMD Infinity Fabric, dan sebagainya, yang menentukan batas kemampuan satu node. Persaingan antara IB dan Ethernet adalah tema utama komunikasi antar node.

Perubahan Arsitektur Jaringan

Saat ini, arsitektur leaf-spine banyak digunakan, tetapi seiring dengan bertambahnya jumlah node, arsitektur leaf-spine memiliki biaya yang lebih tinggi di dalam kluster super besar. Arsitektur Dragonfly, arsitektur rail-only, dan sebagainya diharapkan menjadi arah evolusi untuk kluster super besar generasi berikutnya.

Saran Investasi

Bagian inti dari sistem komunikasi: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industri Fulin, Yingwei Ke, Hudian Co.

Inovasi Sistem Komunikasi: Changfei Fiber, Taicheng Optics, Yuanjie Technology, Shengke Communications, Hanwujing, Dekeli.

Peringatan Risiko: Permintaan AI tidak sesuai harapan, hukum Scaling gagal, persaingan industri semakin ketat