Potencia computacional se convierte en un nuevo modelo de negocio, los proveedores deben prepararse con anticipación
La ola de entrenamiento de grandes modelos está impulsando la potencia computacional a convertirse en un nuevo modelo de negocio. Sin embargo, la escasez de GPU de alta gama y el alto costo de la potencia computacional también han presentado desafíos para la industria.
Según estadísticas, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Pero entrenar estos modelos requiere una enorme Potencia computacional. Tomando como ejemplo un gran modelo vertical en el campo de la meteorología, solo el costo de entrenamiento podría superar los 2 millones de yuanes. Mientras que el costo de entrenar modelos grandes generales podría alcanzar decenas de millones de yuanes.
Frente a la escasez de tarjetas GPU de alta gama, la industria está buscando activamente estrategias para hacer frente a la situación. Algunos métodos incluyen: utilizar datos de mayor calidad para mejorar la eficiencia del entrenamiento; mejorar la capacidad de infraestructura para lograr un funcionamiento estable; optimizar la programación de recursos de Potencia computacional; transitar de la arquitectura de computación en la nube a la arquitectura de supercomputación; utilizar plataformas nacionales en lugar de GPU de Nvidia, entre otros.
La potencia computacional se ha convertido en un nuevo modelo de servicio. La cadena de suministro de servicios de potencia computacional proporciona recursos básicos en la parte superior, las empresas intermedias se encargan de la producción y suministro de potencia computacional, y en la parte inferior están los usuarios industriales que se benefician del servicio de potencia computacional.
Actualmente, los modelos de facturación de servicios de potencia computacional más utilizados incluyen la facturación por uso y las suscripciones anuales o mensuales. Los usuarios pueden elegir instancias de GPU específicas o utilizar plataformas MaaS para el entrenamiento de modelos. La industria también está promoviendo la "integración y fusión de potencia computacional y redes", apoyando la programación flexible entre arquitecturas y regiones.
Con la normalización de la demanda de grandes modelos, los servicios de potencia computacional están evolucionando rápidamente hacia una industria única. Sin embargo, a largo plazo, la escasez de chips eventualmente se aliviará. Los proveedores de servicios de potencia computacional deben prepararse con anticipación para la transformación una vez que el mercado vuelva a la racionalidad.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
21 me gusta
Recompensa
21
4
Compartir
Comentar
0/400
ContractTester
· 07-08 17:15
Las tarjetas gráficas han subido locamente, ¡me estoy muriendo de hambre!
Ver originalesResponder0
GasFeeCrybaby
· 07-07 16:58
He perdido, el precio de las tarjetas gráficas sigue en verde.
Ver originalesResponder0
0xSleepDeprived
· 07-06 00:11
Los que no tienen dinero para minar con tarjetas gráficas no se pongan arrogantes.
La potencia computacional se convierte en un nuevo modelo de negocio, el costo de entrenar grandes modelos es elevado.
Potencia computacional se convierte en un nuevo modelo de negocio, los proveedores deben prepararse con anticipación
La ola de entrenamiento de grandes modelos está impulsando la potencia computacional a convertirse en un nuevo modelo de negocio. Sin embargo, la escasez de GPU de alta gama y el alto costo de la potencia computacional también han presentado desafíos para la industria.
Según estadísticas, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Pero entrenar estos modelos requiere una enorme Potencia computacional. Tomando como ejemplo un gran modelo vertical en el campo de la meteorología, solo el costo de entrenamiento podría superar los 2 millones de yuanes. Mientras que el costo de entrenar modelos grandes generales podría alcanzar decenas de millones de yuanes.
Frente a la escasez de tarjetas GPU de alta gama, la industria está buscando activamente estrategias para hacer frente a la situación. Algunos métodos incluyen: utilizar datos de mayor calidad para mejorar la eficiencia del entrenamiento; mejorar la capacidad de infraestructura para lograr un funcionamiento estable; optimizar la programación de recursos de Potencia computacional; transitar de la arquitectura de computación en la nube a la arquitectura de supercomputación; utilizar plataformas nacionales en lugar de GPU de Nvidia, entre otros.
La potencia computacional se ha convertido en un nuevo modelo de servicio. La cadena de suministro de servicios de potencia computacional proporciona recursos básicos en la parte superior, las empresas intermedias se encargan de la producción y suministro de potencia computacional, y en la parte inferior están los usuarios industriales que se benefician del servicio de potencia computacional.
Actualmente, los modelos de facturación de servicios de potencia computacional más utilizados incluyen la facturación por uso y las suscripciones anuales o mensuales. Los usuarios pueden elegir instancias de GPU específicas o utilizar plataformas MaaS para el entrenamiento de modelos. La industria también está promoviendo la "integración y fusión de potencia computacional y redes", apoyando la programación flexible entre arquitecturas y regiones.
Con la normalización de la demanda de grandes modelos, los servicios de potencia computacional están evolucionando rápidamente hacia una industria única. Sin embargo, a largo plazo, la escasez de chips eventualmente se aliviará. Los proveedores de servicios de potencia computacional deben prepararse con anticipación para la transformación una vez que el mercado vuelva a la racionalidad.