A nova oportunidade após a batalha pelo poder de computação: serviços de poder de computação
Com a onda de modelos grandes, a demanda por GPUs de alto desempenho disparou, e o custo do poder de computação aumentou, tornando-se um problema espinhoso para a indústria. O preço de uma Nvidia A100 foi inflacionado para mais de 200 mil yuan, e o aluguel mensal de um servidor A100 também atingiu de 50 a 70 mil yuan. Mesmo assim, o alto preço pode não garantir a compra dos chips, e situações de fornecedores não cumprindo os compromissos acontecem frequentemente.
É amplamente reconhecido na indústria que a escassez de GPUs de alto desempenho é difícil de resolver a curto prazo. Embora a longo prazo a oferta de poder de computação possa passar de um mercado de vendedores para um mercado de compradores, o momento exato ainda não é certo. As empresas estão avaliando a quantidade de GPUs que possuem para determinar sua fatia de mercado.
Diante da escassez de Poder de computação, as empresas adotaram várias medidas de resposta:
Utilizar dados de maior qualidade para aumentar a eficiência do treinamento
Melhorar a capacidade da infraestrutura, alcançando funcionamento estável acima de mil calorias
Otimizar o agendamento de recursos de Poder de computação
Transição de uma arquitetura de computação em nuvem para uma arquitetura de supercomputação
Utilizar plataformas nacionais em vez de GPUs da Nvidia
Esses métodos exigem uma alta capacidade técnica, o que dificulta a auto-construção por parte das empresas. Portanto, muitas equipes de algoritmos optam por provedores de serviços de poder de computação especializados.
O poder de computação já se desenvolveu para se tornar um novo modelo de serviço. O serviço de poder de computação é um novo campo baseado na diversidade de poder de computação, ligado por uma rede de poder de computação, com o objetivo de fornecer poder de computação eficaz. Ele não inclui apenas o poder de computação, mas também encapsula de forma unificada recursos como armazenamento e rede.
Na cadeia de indústria de poder de computação, as empresas upstream fornecem recursos básicos, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream são os usuários dos serviços de poder de computação. Atualmente, a cobrança por量 e a cobrança anual ou mensal são os principais modelos de cobrança.
Com a normalização da demanda por computação de alto desempenho de grandes modelos, os serviços de poder de computação rapidamente entraram na visão do público, formando uma cadeia industrial e um modelo de negócios únicos. Apesar da atual escassez de GPUs de alta gama e dos altos custos, a longo prazo, as perspectivas de desenvolvimento dos serviços de poder de computação são amplas. Os provedores de serviços de poder de computação precisam se preparar antecipadamente para a mudança de direção do mercado.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
15 Curtidas
Recompensa
15
2
Repostar
Compartilhar
Comentário
0/400
DefiPlaybook
· 14h atrás
De acordo com os dados na cadeia, o tamanho do mercado de GPU só para as placas A ultrapassa os 40 mil milhões.
O novo oceano azul na era dos grandes modelos: surgimento e desafios dos serviços de poder de computação
A nova oportunidade após a batalha pelo poder de computação: serviços de poder de computação
Com a onda de modelos grandes, a demanda por GPUs de alto desempenho disparou, e o custo do poder de computação aumentou, tornando-se um problema espinhoso para a indústria. O preço de uma Nvidia A100 foi inflacionado para mais de 200 mil yuan, e o aluguel mensal de um servidor A100 também atingiu de 50 a 70 mil yuan. Mesmo assim, o alto preço pode não garantir a compra dos chips, e situações de fornecedores não cumprindo os compromissos acontecem frequentemente.
É amplamente reconhecido na indústria que a escassez de GPUs de alto desempenho é difícil de resolver a curto prazo. Embora a longo prazo a oferta de poder de computação possa passar de um mercado de vendedores para um mercado de compradores, o momento exato ainda não é certo. As empresas estão avaliando a quantidade de GPUs que possuem para determinar sua fatia de mercado.
Diante da escassez de Poder de computação, as empresas adotaram várias medidas de resposta:
Esses métodos exigem uma alta capacidade técnica, o que dificulta a auto-construção por parte das empresas. Portanto, muitas equipes de algoritmos optam por provedores de serviços de poder de computação especializados.
O poder de computação já se desenvolveu para se tornar um novo modelo de serviço. O serviço de poder de computação é um novo campo baseado na diversidade de poder de computação, ligado por uma rede de poder de computação, com o objetivo de fornecer poder de computação eficaz. Ele não inclui apenas o poder de computação, mas também encapsula de forma unificada recursos como armazenamento e rede.
Na cadeia de indústria de poder de computação, as empresas upstream fornecem recursos básicos, as empresas midstream são responsáveis pela produção e fornecimento de poder de computação, e as empresas downstream são os usuários dos serviços de poder de computação. Atualmente, a cobrança por量 e a cobrança anual ou mensal são os principais modelos de cobrança.
Com a normalização da demanda por computação de alto desempenho de grandes modelos, os serviços de poder de computação rapidamente entraram na visão do público, formando uma cadeia industrial e um modelo de negócios únicos. Apesar da atual escassez de GPUs de alta gama e dos altos custos, a longo prazo, as perspectivas de desenvolvimento dos serviços de poder de computação são amplas. Os provedores de serviços de poder de computação precisam se preparar antecipadamente para a mudança de direção do mercado.