Daya Komputasi menjadi model bisnis baru, penyedia layanan perlu bersiap-siap.
Gairah pelatihan model besar sedang mendorong Daya Komputasi menjadi model bisnis baru. Namun, kekurangan GPU kelas atas dan biaya Daya Komputasi yang tinggi juga memberikan tantangan bagi industri.
Menurut statistik, China telah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, pelatihan model-model ini memerlukan investasi Daya Komputasi yang besar. Sebagai contoh, untuk model besar vertikal di bidang meteorologi, biaya pelatihannya saja mungkin melebihi 2 juta yuan. Sedangkan biaya untuk melatih model besar umum bahkan bisa mencapai puluhan miliar yuan.
Menghadapi situasi di mana GPU kelas atas sulit didapat, industri sedang aktif mencari solusi. Beberapa metode termasuk: menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan kemampuan infrastruktur untuk memastikan operasi yang stabil; mengoptimalkan Daya Komputasi sumber daya; beralih dari arsitektur komputasi awan ke arsitektur superkomputer; menggunakan platform dalam negeri sebagai pengganti GPU Nvidia dan lain-lain.
Daya Komputasi sudah menjadi model layanan baru. Rantai industri layanan daya komputasi menyediakan sumber daya dasar di hulu, perusahaan di tengah bertanggung jawab atas produksi dan pasokan daya komputasi, sementara hulu adalah pengguna industri yang mengandalkan layanan daya komputasi untuk menambah nilai.
Saat ini, model penagihan layanan daya komputasi yang umum meliputi penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Pengguna dapat memilih instance GPU tertentu atau menggunakan platform MaaS untuk pelatihan model. Industri juga sedang mendorong "penggabungan daya komputasi dan jaringan", mendukung penjadwalan fleksibel lintas arsitektur dan lintas wilayah.
Seiring dengan normalisasi permintaan model besar, layanan daya komputasi sedang berkembang pesat menjadi industri yang unik. Namun, dalam jangka panjang, kekurangan chip pada akhirnya akan teratasi. Penyedia layanan daya komputasi perlu bersiap-siap, untuk mempersiapkan transformasi setelah pasar kembali ke rasionalitas.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
21 Suka
Hadiah
21
4
Bagikan
Komentar
0/400
ContractTester
· 07-08 17:15
Kartu grafis naik gila, saya hampir mati kelaparan.
Lihat AsliBalas0
GasFeeCrybaby
· 07-07 16:58
Rugi banget, harga kartu grafis masih naik.
Lihat AsliBalas0
0xSleepDeprived
· 07-06 00:11
Orang yang tidak punya uang untuk trading kartu grafis jangan sombong.
Daya Komputasi layanan menjadi model bisnis baru, biaya pelatihan model besar sangat tinggi.
Daya Komputasi menjadi model bisnis baru, penyedia layanan perlu bersiap-siap.
Gairah pelatihan model besar sedang mendorong Daya Komputasi menjadi model bisnis baru. Namun, kekurangan GPU kelas atas dan biaya Daya Komputasi yang tinggi juga memberikan tantangan bagi industri.
Menurut statistik, China telah memiliki lebih dari 100 model besar dengan skala 10 miliar parameter. Namun, pelatihan model-model ini memerlukan investasi Daya Komputasi yang besar. Sebagai contoh, untuk model besar vertikal di bidang meteorologi, biaya pelatihannya saja mungkin melebihi 2 juta yuan. Sedangkan biaya untuk melatih model besar umum bahkan bisa mencapai puluhan miliar yuan.
Menghadapi situasi di mana GPU kelas atas sulit didapat, industri sedang aktif mencari solusi. Beberapa metode termasuk: menggunakan data berkualitas lebih tinggi untuk meningkatkan efisiensi pelatihan; meningkatkan kemampuan infrastruktur untuk memastikan operasi yang stabil; mengoptimalkan Daya Komputasi sumber daya; beralih dari arsitektur komputasi awan ke arsitektur superkomputer; menggunakan platform dalam negeri sebagai pengganti GPU Nvidia dan lain-lain.
Daya Komputasi sudah menjadi model layanan baru. Rantai industri layanan daya komputasi menyediakan sumber daya dasar di hulu, perusahaan di tengah bertanggung jawab atas produksi dan pasokan daya komputasi, sementara hulu adalah pengguna industri yang mengandalkan layanan daya komputasi untuk menambah nilai.
Saat ini, model penagihan layanan daya komputasi yang umum meliputi penagihan berdasarkan penggunaan dan paket tahunan/bulanan. Pengguna dapat memilih instance GPU tertentu atau menggunakan platform MaaS untuk pelatihan model. Industri juga sedang mendorong "penggabungan daya komputasi dan jaringan", mendukung penjadwalan fleksibel lintas arsitektur dan lintas wilayah.
Seiring dengan normalisasi permintaan model besar, layanan daya komputasi sedang berkembang pesat menjadi industri yang unik. Namun, dalam jangka panjang, kekurangan chip pada akhirnya akan teratasi. Penyedia layanan daya komputasi perlu bersiap-siap, untuk mempersiapkan transformasi setelah pasar kembali ke rasionalitas.