Perang Model Besar di Tengah Kekurangan Daya Komputasi

Munculnya gelombang model besar menjadikan daya komputasi sebagai model bisnis baru. Namun, industri menghadapi tantangan kekurangan GPU high-end dan biaya yang tinggi. Meskipun gelombang ini pada akhirnya akan mereda, penyedia layanan daya komputasi perlu bersiap-siap dan bertransformasi tepat waktu.

Seberapa besar Daya Komputasi yang hilang?

Permintaan GPU high-end yang melebihi pasokan telah menjadi masalah yang diakui dalam industri. Pada puncaknya, harga satu unit NVIDIA A100 melonjak menjadi 200.000-300.000 yuan, dan sewa bulanan untuk satu server A100 mencapai 50.000-70.000 yuan. Meskipun demikian, terkadang masih sulit untuk mendapatkan chip. Beberapa penyedia daya komputasi bahkan mengalami situasi di mana pemasok tidak memenuhi janji.

Eksekutif senior industri komputasi awan, Zhou Lijun, menyatakan bahwa meskipun permintaan pelanggan untuk sumber daya GPU kelas atas sangat tinggi, namun saat ini pasokan masih belum dapat sepenuhnya memenuhi kebutuhan pasar.

Para ahli industri memperkirakan, saat ini total jumlah GPU di pasar sekitar 100.000 unit, masing-masing perusahaan berlomba-lomba mengumpulkan "stok" untuk menentukan pangsa pasar. Terdapat kabar bahwa suatu perusahaan mungkin akan memiliki 40.000 unit pada akhir tahun, yang mencakup 20% pangsa pasar.

Biaya pelatihan model besar sangat tinggi. Sebagai contoh, biaya pelatihan model besar Pangu Meteorologi saja sudah melebihi 2 juta yuan. Untuk model besar umum dengan parameter yang lebih banyak, biayanya bisa 10-100 kali lipat dari angka ini. Wakil Presiden Grup Tencent, Qiu Yuepeng, mengungkapkan bahwa tanpa investasi miliaran yuan, sulit untuk terus mengembangkan model besar.

Bagaimana perusahaan merespons?

Menghadapi Daya Komputasi yang terbatas, perusahaan mengambil berbagai strategi:

1. Menggunakan data berkualitas tinggi untuk meningkatkan efisiensi pelatihan
2. Optimalkan infrastruktur, capai operasi stabil tingkat kilokalori
3. Meningkatkan Daya Komputasi, meningkatkan pemanfaatan sumber daya
4. Beralih dari komputasi awan ke arsitektur superkomputer untuk mengurangi biaya
5. Menggunakan platform dalam negeri sebagai pengganti GPU Nvidia

Usaha kecil dan menengah sulit untuk membangun pusat data sendiri, lebih memilih penyedia layanan daya komputasi profesional. Kluster GPU tingkat ribuan kalori baru memiliki efek skala, memilih penyedia layanan dapat mengurangi biaya marginal.

Daya Komputasi layanan model baru

Daya Komputasi layanan menjadi industri yang sedang berkembang, termasuk daya komputasi umum, daya komputasi cerdas, dan daya komputasi super. Ini tidak hanya menyediakan daya komputasi, tetapi juga mengintegrasikan penyimpanan, jaringan, dan sumber daya lainnya, untuk menyampaikan layanan dalam bentuk API.

Daya Komputasi industri rantai dibagi menjadi tiga lapisan:

• Hulu: Pemasok sumber daya dasar ( seperti NVIDIA )
• Penyedia layanan: penyedia layanan cloud, Daya Komputasi
• Hilir: Pengguna industri

Perusahaan model besar terutama menggunakan Daya Komputasi melalui tiga cara: pemanggilan API, membangun model kecil sendiri, dan bekerja sama dengan penyedia cloud.

Evolusi Model Bisnis

Saat ini, model penagihan utama termasuk penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Pengguna dapat memilih instansi GPU atau layanan platform MaaS.

Industri sedang mendorong "integrasi komputasi dan jaringan", untuk mencapai penjadwalan sumber daya lintas arsitektur, lintas wilayah, dan lintas penyedia layanan. Penyedia layanan cloud juga akan menjadikan Daya Komputasi sebagai produk unik.

Pada tahun 2022, total skala daya komputasi di China mencapai 180 EFLOPS, dengan skala industri mencapai 1,8 triliun yuan. Model besar mempercepat pengembangan industri daya komputasi.

Ada pendapat yang menyatakan bahwa layanan daya komputasi saat ini mirip dengan model "menjual listrik" yang baru, tetapi mungkin perlu menyediakan lebih banyak layanan optimasi sistem dan pemeliharaan.

Seiring dengan normalisasi permintaan, layanan Daya Komputasi membentuk rantai industri dan model bisnis yang unik. Saat ini, titik kompetisi utama terletak pada pengadaan kemampuan GPU dalam rantai pasokan. Namun, peneliti jangka panjang seringkali memilih untuk menunggu, terutama karena perusahaan rintisan sedang berebut sumber daya.

Tren layanan daya komputasi di masa depan jelas, penyedia layanan perlu bersiap-siap dan mempersiapkan diri untuk perubahan pasar.