Вычислительная мощность сервисов становится новой бизнес-моделью, стоимость обучения крупных моделей высока.

robot
Генерация тезисов в процессе

Вычислительная мощность становится новой бизнес-моделью, поставщикам нужно заранее подготовиться

Волна обучения больших моделей заставляет вычислительную мощность становиться новой бизнес-моделью. Однако нехватка высококачественных графических процессоров и высокая стоимость вычислительной мощности также представляют собой вызовы для отрасли.

Согласно статистике, в Китае уже более 100 больших моделей с масштабом в 10 миллиардов параметров. Однако для тренировки этих моделей требуется огромные инвестиции в вычислительную мощность. Например, для вертикальной большой модели в области метеорологии только затраты на обучение могут превысить 2 миллиона юаней. А стоимость тренировки универсальной большой модели может достигать десятков миллиардов юаней.

В условиях нехватки высококачественных GPU в индустрии активно ищут способы решения этой проблемы. Некоторые из методов включают: использование более качественных данных для повышения эффективности обучения; улучшение возможностей инфраструктуры для обеспечения стабильной работы; оптимизация распределения вычислительной мощности; переход от облачной архитектуры к суперкомпьютерной архитектуре; использование отечественных платформ в качестве замены GPU от NVIDIA и т.д.

Вычислительная мощность уже стала новой сервисной моделью. В верхней части цепочки поставок услуг вычислительной мощности предоставляются базовые ресурсы, в среднем звене компании отвечают за производство и поставку вычислительной мощности, а в нижней части находятся отраслевые пользователи, которые полагаются на услуги вычислительной мощности для создания добавленной стоимости.

В настоящее время основные модели тарификации вычислительных мощностей включают почасовую оплату и годовую/месячную подписку. Пользователи могут выбрать конкретные экземпляры GPU или использовать платформу MaaS для обучения моделей. Отрасль также продвигает "интеграцию вычислений и сети", поддерживая гибкое распределение ресурсов между различными архитектурами и регионами.

С учетом нормализации спроса на большие модели, вычислительная мощность быстро развивается в уникальную отрасль. Однако в долгосрочной перспективе нехватка чипов в конечном итоге будет устранена. Провайдерам вычислительной мощности необходимо заранее подготовиться к трансформации после возвращения рынка к рациональности.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 4
  • Поделиться
комментарий
0/400
ContractTestervip
· 07-08 17:15
Видеокарты растут, я скоро умру с голоду
Посмотреть ОригиналОтветить0
GasFeeCrybabyvip
· 07-07 16:58
Убытки, а цены на видеокарты все еще в зеленом.
Посмотреть ОригиналОтветить0
0xSleepDeprivedvip
· 07-06 00:11
Нет денег на майнинг на видеокартах, не хвастайся.
Посмотреть ОригиналОтветить0
PoolJumpervip
· 07-06 00:09
Не хватает GPU, чтобы зарабатывать.
Посмотреть ОригиналОтветить0
  • Закрепить