Poder de computação torna-se um novo modelo de negócios, prestadores de serviços precisam se preparar com antecedência
A onda de treinamento de grandes modelos está impulsionando o poder de computação a se tornar um novo modelo de negócios. No entanto, a escassez de GPUs de alto desempenho e os altos custos de poder de computação também apresentam desafios para o setor.
De acordo com estatísticas, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, treinar esses modelos requer um enorme investimento em poder de computação. Tomando como exemplo um grande modelo vertical na área meteorológica, apenas o custo de treinamento pode ultrapassar 2 milhões de yuans. E o custo para treinar grandes modelos gerais pode chegar a várias centenas de milhões de yuans.
Diante da escassez de GPUs de alta gama, a indústria está ativamente buscando soluções. Algumas das abordagens incluem: usar dados de maior qualidade para aumentar a eficiência do treinamento; melhorar a capacidade da infraestrutura para garantir operações estáveis; otimizar a alocação de poder de computação; transitar da arquitetura de computação em nuvem para a arquitetura de supercomputação; substituir plataformas estrangeiras por plataformas nacionais em vez de GPUs da Nvidia, entre outras.
O Poder de computação tornou-se um novo modelo de serviço. A cadeia industrial de serviços de poder de computação fornece recursos básicos para a parte superior, as empresas intermediárias são responsáveis pela produção e fornecimento de poder de computação, enquanto a parte inferior consiste em usuários da indústria que dependem de serviços de poder de computação para agregar valor.
Atualmente, os modelos de cobrança de serviços de poder de computação mais populares incluem a cobrança por uso e pacotes anuais ou mensais. Os usuários podem escolher instâncias específicas de GPU ou usar plataformas MaaS para treinamento de modelos. A indústria também está promovendo a "integração e fusão de poder de computação e rede", apoiando a programação flexível entre arquiteturas e regiões.
Com a normalização da demanda por grandes modelos, os serviços de poder de computação estão rapidamente se desenvolvendo como uma indústria única. Mas, a longo prazo, a escassez de chips acabará sendo aliviada. Os prestadores de serviços de poder de computação devem se preparar antecipadamente para a transformação após o retorno à racionalidade do mercado.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
21 Curtidas
Recompensa
21
4
Compartilhar
Comentário
0/400
ContractTester
· 07-08 17:15
As placas gráficas subiram de preço, estou quase a morrer de fome.
Ver originalResponder0
GasFeeCrybaby
· 07-07 16:58
Perdi muito, o preço das placas gráficas ainda está a subir.
Ver originalResponder0
0xSleepDeprived
· 07-06 00:11
Quem não tem dinheiro para minerar com placas gráficas, não se exiba.
Poder de computação como novo modelo de negócio, custos elevados para treinar grandes modelos.
Poder de computação torna-se um novo modelo de negócios, prestadores de serviços precisam se preparar com antecedência
A onda de treinamento de grandes modelos está impulsionando o poder de computação a se tornar um novo modelo de negócios. No entanto, a escassez de GPUs de alto desempenho e os altos custos de poder de computação também apresentam desafios para o setor.
De acordo com estatísticas, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, treinar esses modelos requer um enorme investimento em poder de computação. Tomando como exemplo um grande modelo vertical na área meteorológica, apenas o custo de treinamento pode ultrapassar 2 milhões de yuans. E o custo para treinar grandes modelos gerais pode chegar a várias centenas de milhões de yuans.
Diante da escassez de GPUs de alta gama, a indústria está ativamente buscando soluções. Algumas das abordagens incluem: usar dados de maior qualidade para aumentar a eficiência do treinamento; melhorar a capacidade da infraestrutura para garantir operações estáveis; otimizar a alocação de poder de computação; transitar da arquitetura de computação em nuvem para a arquitetura de supercomputação; substituir plataformas estrangeiras por plataformas nacionais em vez de GPUs da Nvidia, entre outras.
O Poder de computação tornou-se um novo modelo de serviço. A cadeia industrial de serviços de poder de computação fornece recursos básicos para a parte superior, as empresas intermediárias são responsáveis pela produção e fornecimento de poder de computação, enquanto a parte inferior consiste em usuários da indústria que dependem de serviços de poder de computação para agregar valor.
Atualmente, os modelos de cobrança de serviços de poder de computação mais populares incluem a cobrança por uso e pacotes anuais ou mensais. Os usuários podem escolher instâncias específicas de GPU ou usar plataformas MaaS para treinamento de modelos. A indústria também está promovendo a "integração e fusão de poder de computação e rede", apoiando a programação flexível entre arquiteturas e regiões.
Com a normalização da demanda por grandes modelos, os serviços de poder de computação estão rapidamente se desenvolvendo como uma indústria única. Mas, a longo prazo, a escassez de chips acabará sendo aliviada. Os prestadores de serviços de poder de computação devem se preparar antecipadamente para a transformação após o retorno à racionalidade do mercado.