算力服务成新商业模式 训练大模型成本高企

robot
摘要生成中

算力成为新商业模式,服务商需未雨绸缪

大模型训练热潮正在推动算力成为一种新的商业模式。然而,高端GPU短缺和算力成本高企等问题也给行业带来了挑战。

据统计,中国已有超过100个10亿参数规模的大模型。但训练这些模型需要巨大的算力投入。以一个气象领域的垂直大模型为例,仅训练成本就可能超过200万元。而训练通用大模型的成本更是可能高达数十亿元。

面对高端GPU一卡难求的局面,业内正在积极寻找应对之策。一些方法包括:使用更高质量的数据提升训练效率;提升基础架构能力实现稳定运行;优化算力资源调度;从云计算架构过渡到超算架构;使用国产平台替代英伟达GPU等。

算力已经成为一种新的服务模式。算力服务产业链上游提供基础资源,中游企业负责算力生产和供给,下游则是依靠算力服务进行增值的行业用户。

目前主流的算力服务计费模式包括按量计费和包年包月。用户可以选择特定GPU实例或使用MaaS平台进行模型训练。行业也在推进"算网一体化融合",支持跨架构、跨地域的灵活调度。

随着大模型需求常态化,算力服务正快速发展成为独特的产业。但长期来看,芯片短缺终将得到缓解。算力服务商需未雨绸缪,为市场回归理性后的转型做好准备。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 分享
评论
0/400
智能合约试错员vip
· 07-08 17:15
显卡涨疯了 快饿死了
回复0
GasFee_Crybabyvip
· 07-07 16:58
亏麻了 显卡价格还在涨捏
回复0
0xSleepDeprivedvip
· 07-06 00:11
没钱炒显卡的别嘚瑟
回复0
PoolJumpervip
· 07-06 00:09
缺gpu少挣钱咯
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)