- Tema
26k Popularidad
57k Popularidad
7k Popularidad
16k Popularidad
30k Popularidad
2k Popularidad
112k Popularidad
26k Popularidad
26k Popularidad
7k Popularidad
- Anclado
26k Popularidad
57k Popularidad
7k Popularidad
16k Popularidad
30k Popularidad
2k Popularidad
112k Popularidad
26k Popularidad
26k Popularidad
7k Popularidad
Era de los grandes modelos: Desafíos de la escasez de potencia computacional y estrategias de respuesta empresarial
La batalla de los grandes modelos ante la escasez de potencia computacional
El auge de los grandes modelos ha convertido la potencia computacional en un nuevo modelo de negocio. Sin embargo, la industria enfrenta el desafío de la escasez de GPU de alta gama y los altos costos. Aunque esta ola eventualmente se desvanecerá, los proveedores de servicios de potencia computacional deben prepararse y transformarse a tiempo.
¿Cuán grande es la potencia computacional que falta?
La escasez de GPU de alta gama se ha convertido en un problema reconocido en la industria. En su punto máximo, el precio de una Nvidia A100 se disparó a entre 200,000 y 300,000 yuanes, y el alquiler mensual de un servidor A100 alcanzó entre 50,000 y 70,000 yuanes. A pesar de esto, a veces sigue siendo difícil obtener chips. Algunos proveedores de potencia computacional incluso han enfrentado situaciones en las que los proveedores incumplen.
El ejecutivo de la industria de la computación en la nube, Zhou Lijun, declaró que, aunque la demanda de recursos GPU de alta gama por parte de los clientes es fuerte, la oferta actual aún no puede satisfacer completamente la demanda del mercado.
Los expertos de la industria estiman que actualmente hay un total de aproximadamente 100,000 GPUs en el mercado, y las empresas compiten para acumular "mercancías" para determinar su participación en el mercado. Se informa que una empresa podría tener al final del año una cantidad de 40,000 unidades, lo que representaría el 20% de la participación en el mercado.
El costo de entrenar grandes modelos es elevado. Tomando como ejemplo el gran modelo meteorológico Pangu, solo el costo de entrenamiento supera los 2 millones de yuanes. Para modelos generales con parámetros aún mayores, el costo puede ser de 10 a 100 veces esa cifra. Qiu Yuepeng, vicepresidente del Grupo Tencent, reveló que sin una inversión de miles de millones, es difícil continuar desarrollando grandes modelos.
¿Cómo deben las empresas responder?
Ante la escasez de potencia computacional, las empresas adoptan diversas estrategias:
Las pequeñas y medianas empresas tienen dificultades para construir sus propios centros de datos, por lo que eligen proveedores de servicios de potencia computacional profesionales. Los clústeres de GPU de nivel kilocaloría solo tienen efecto de escala, y elegir un proveedor puede reducir los costos marginales.
Potencia computacional servicio nuevo modelo
Los servicios de potencia computacional se han convertido en una nueva industria, que incluye potencia computacional general, potencia computacional inteligente y potencia computacional de supercomputación. No solo proporciona potencia computacional, sino que también integra recursos como almacenamiento y redes, entregando servicios en forma de API.
La cadena de la industria de la potencia computacional se divide en tres niveles:
Las empresas de modelos grandes utilizan la potencia computacional principalmente de tres maneras: llamadas a API, construcción de modelos pequeños por cuenta propia y colaboración con proveedores de servicios en la nube.
Evolución del modelo de negocio
Los modelos de facturación más comunes incluyen facturación por uso y suscripción anual o mensual. Los usuarios pueden elegir instancias de GPU o servicios de plataforma MaaS.
La industria está promoviendo la "integración de computación y red", logrando la programación de recursos a través de arquitecturas, regiones y proveedores de servicios. Los proveedores de servicios en la nube también consideran los servicios de potencia computacional como productos únicos.
En 2022, la potencia computacional total de China alcanzó los 180 EFLOPS, y la escala de la industria llegó a 1.8 billones de yuanes. Los modelos grandes aceleraron el desarrollo de la industria de la potencia computacional.
Hay opiniones que sostienen que el servicio de potencia computacional actual es similar a un nuevo modelo de "venta de electricidad", pero puede que necesite ofrecer más optimización del sistema y servicios de operación y mantenimiento.
A medida que la demanda se normaliza, los servicios de potencia computacional forman una cadena industrial y un modelo comercial únicos. Actualmente, el principal punto de competencia radica en la adquisición de capacidades de GPU en la cadena de suministro. Sin embargo, los investigadores a largo plazo a menudo eligen esperar, ya que las startups están compitiendo por los recursos.
La tendencia futura de los servicios de potencia computacional es clara, los proveedores deben prepararse con anticipación y estar listos para los cambios del mercado.