算力服務成新商業模式 訓練大模型成本高企

robot
摘要生成中

算力成爲新商業模式,服務商需未雨綢繆

大模型訓練熱潮正在推動算力成爲一種新的商業模式。然而,高端GPU短缺和算力成本高企等問題也給行業帶來了挑戰。

據統計,中國已有超過100個10億參數規模的大模型。但訓練這些模型需要巨大的算力投入。以一個氣象領域的垂直大模型爲例,僅訓練成本就可能超過200萬元。而訓練通用大模型的成本更是可能高達數十億元。

面對高端GPU一卡難求的局面,業內正在積極尋找應對之策。一些方法包括:使用更高質量的數據提升訓練效率;提升基礎架構能力實現穩定運行;優化算力資源調度;從雲計算架構過渡到超算架構;使用國產平台替代英偉達GPU等。

算力已經成爲一種新的服務模式。算力服務產業鏈上遊提供基礎資源,中遊企業負責算力生產和供給,下遊則是依靠算力服務進行增值的行業用戶。

目前主流的算力服務計費模式包括按量計費和包年包月。用戶可以選擇特定GPU實例或使用MaaS平台進行模型訓練。行業也在推進"算網一體化融合",支持跨架構、跨地域的靈活調度。

隨着大模型需求常態化,算力服務正快速發展成爲獨特的產業。但長期來看,芯片短缺終將得到緩解。算力服務商需未雨綢繆,爲市場回歸理性後的轉型做好準備。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 4
  • 分享
留言
0/400
智能合约试错员vip
· 07-08 17:15
显卡涨疯了 快饿死了
回復0
GasFee_Crybabyvip
· 07-07 16:58
亏麻了 显卡价格还在涨捏
回復0
0xSleepDeprivedvip
· 07-06 00:11
没钱炒显卡的别嘚瑟
回復0
PoolJumpervip
· 07-06 00:09
缺gpu少挣钱咯
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)