Война больших моделей на фоне нехватки вычислительной мощности

Возникновение фурора больших моделей сделало вычислительную мощность новой бизнес-моделью. Однако отрасль сталкивается с нехваткой высококачественных графических процессоров и высокими затратами. Хотя эта волна в конечном итоге утихнет, поставщикам вычислительных услуг необходимо заранее подготовиться и своевременно трансформироваться.

Каков размер дефицита вычислительной мощности?

Дефицит высококлассных GPU стал общепризнанной проблемой в отрасли. В пик спроса цена одной видеокарты NVIDIA A100 достигала 200-300 тысяч юаней, а месячная аренда сервера A100 доходила до 50-70 тысяч юаней. Тем не менее, иногда все равно трудно получить чипы. Некоторые поставщики вычислительной мощности даже сталкиваются с ситуациями, когда поставщики отказываются выполнять обязательства.

Генеральный директор облачных вычислений Чжоу Лицзюнь заявил, что, несмотря на высокий спрос клиентов на высококачественные ресурсы GPU, в настоящее время предложение все еще не может полностью удовлетворить рыночный спрос.

Эксперты в отрасли оценивают, что в настоящее время общее количество GPU на рынке составляет около 100000 штук, и компании стремятся накопить "товары" для оценки доли рынка. По сообщению, одна компания может сохранить 40000 штук к концу года, что составит 20% доли рынка.

Затраты на обучение больших моделей высоки. Например, стоимость обучения модели Пангучжи превышает 2 миллиона юаней. Для более крупных универсальных моделей стоимость может составлять от 10 до 100 раз больше этой суммы. Вице-президент группы Tencent Цю Юэпэнг сообщил, что без вложений в десятки миллиардов сложно продолжать разработку больших моделей.

Как предприятиям справляться?

面对 Вычислительная мощность 短缺,企业采取多种策略:

1. Используйте качественные данные для повышения эффективности обучения
2. Оптимизация инфраструктуры для достижения стабильной работы на уровне тысяч калорий.
3. Улучшение вычислительной мощности и повышение эффективности использования ресурсов
4. Переход от облачных вычислений к архитектуре суперкомпьютеров снижает затраты
5. Используйте отечественные платформы вместо GPU от NVIDIA

Малые и средние предприятия испытывают трудности с созданием собственных дата-центров и чаще выбирают профессиональных поставщиков вычислительной мощности. GPU-кластеры уровня килокалорий обеспечивают эффект масштаба, выбор поставщика может снизить предельные затраты.

Вычислительная мощность сервисов нового формата

Вычислительная мощность сервисы становятся новым развивающимся сектором, включая универсальную вычислительную мощность, интеллектуальную вычислительную мощность и супервычислительную мощность. Он не только предоставляет вычислительную мощность, но и интегрирует ресурсы хранения, сети и другие, предоставляя услуги в виде API.

Вычислительная мощность产业链分为三层:

• Вверх по течению: поставщики базовых ресурсов (, такие как NVIDIA )
• Средний уровень: облачные сервисные компании, Провайдеры вычислительной мощности
• Нижний поток: отраслевые пользователи

Компании, занимающиеся большими моделями, в основном используют вычислительную мощность тремя способами: вызовы API, создание собственных малых моделей и сотрудничество с облачными провайдерами.

Эволюция бизнес-модели

В настоящее время основными моделями оплаты являются оплата по мере использования и подписка на год или месяц. Пользователи могут выбирать между GPU-инстансами или услугами платформы MaaS.

Отрасль продвигает "интеграцию вычислительных сетей", реализуя распределение ресурсов через различные архитектуры, регионы и провайдеров услуг. Провайдеры облачных услуг также рассматривают вычислительную мощность как уникальный продукт.

В 2022 году общий объем вычислительной мощности в Китае достиг 180 EFLOPS, а объем отрасли составил 1.8 трлн юаней. Большие модели ускорили развитие отрасли вычислительной мощности.

Существует мнение, что текущие услуги вычислительной мощности похожи на новый тип модели "продажа электроэнергии", но, возможно, потребуется предоставить больше услуг по системной оптимизации и эксплуатации.

С ростом нормализации спроса услуги вычислительной мощности формируют уникальную промышленную цепочку и бизнес-модель. В настоящее время основными конкурентными точками являются возможности получения GPU в цепочке поставок. Однако долгосрочные исследователи часто выбирают ожидание, так как в основном стартапы борются за ресурсы.

Будущее тенденций вычислительной мощности очевидно, поставщикам услуг необходимо заранее подготовиться к изменениям на рынке.