Nouvelle mer bleue après la bataille pour la puissance de calcul : services de puissance de calcul
Sous la frénésie des grands modèles, il devient difficile de se procurer des GPU haut de gamme, le coût de la puissance de calcul a grimpé en flèche, devenant un problème épineux pour l'industrie. Le prix d'un A100 de NVIDIA a été propulsé à plus de 200 000 yuans, le loyer mensuel d'un serveur A100 atteignant également 50 000 à 70 000 yuans. Pourtant, même à ce prix élevé, il est possible de ne pas obtenir de puces, avec des situations où les fournisseurs ne respectent pas leurs engagements.
Il est généralement admis dans l'industrie que la pénurie de GPU haut de gamme sera difficile à résoudre à court terme. Bien qu'à long terme, l'offre de puissance de calcul passera d'un marché de vendeurs à un marché d'acheteurs, le moment précis reste incertain. Chaque entreprise évalue le nombre de GPU qu'elle possède pour estimer sa part de marché.
Face à la pénurie de puissance de calcul, les entreprises ont pris diverses mesures.
Utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement
Améliorer la capacité d'infrastructure pour réaliser un fonctionnement stable au-dessus de 1000 kcal.
Optimiser la gestion des ressources de Puissance de calcul
Transition de l'architecture de cloud computing à l'architecture de supercalculateur
Utiliser des plateformes nationales pour remplacer les GPU Nvidia
Ces méthodes nécessitent des compétences techniques élevées, ce qui rend difficile pour la plupart des entreprises de se les procurer elles-mêmes. Par conséquent, de nombreuses équipes d'algorithmes choisissent des fournisseurs de services de puissance de calcul spécialisés.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est un nouveau domaine basé sur la diversité de la puissance de calcul, reliant les réseaux de puissance de calcul et visant à fournir une puissance de calcul efficace. Il inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, et les entreprises en aval sont les utilisateurs des services de puissance de calcul. Actuellement, la facturation à l'usage et les forfaits annuels et mensuels sont les modèles de facturation dominants.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul entrent rapidement dans le champ de vision du grand public, formant une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie de GPU haut de gamme et les coûts élevés soient actuellement présents, à long terme, les perspectives de développement des services de puissance de calcul sont vastes. Les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et être prêts à faire face à un changement de tendance sur le marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
15 J'aime
Récompense
15
2
Reposter
Partager
Commentaire
0/400
DefiPlaybook
· Il y a 17h
Selon les données off-chain, la taille du marché des GPU pour les cartes A dépasse 40 milliards.
Voir l'originalRépondre0
RugDocDetective
· Il y a 17h
Zut, les pigeons ont tous été pris pour des idiots par les mineurs haut de gamme.
La nouvelle mer bleue à l'ère des grands modèles : l'essor et les défis des services de puissance de calcul
Nouvelle mer bleue après la bataille pour la puissance de calcul : services de puissance de calcul
Sous la frénésie des grands modèles, il devient difficile de se procurer des GPU haut de gamme, le coût de la puissance de calcul a grimpé en flèche, devenant un problème épineux pour l'industrie. Le prix d'un A100 de NVIDIA a été propulsé à plus de 200 000 yuans, le loyer mensuel d'un serveur A100 atteignant également 50 000 à 70 000 yuans. Pourtant, même à ce prix élevé, il est possible de ne pas obtenir de puces, avec des situations où les fournisseurs ne respectent pas leurs engagements.
Il est généralement admis dans l'industrie que la pénurie de GPU haut de gamme sera difficile à résoudre à court terme. Bien qu'à long terme, l'offre de puissance de calcul passera d'un marché de vendeurs à un marché d'acheteurs, le moment précis reste incertain. Chaque entreprise évalue le nombre de GPU qu'elle possède pour estimer sa part de marché.
Face à la pénurie de puissance de calcul, les entreprises ont pris diverses mesures.
Ces méthodes nécessitent des compétences techniques élevées, ce qui rend difficile pour la plupart des entreprises de se les procurer elles-mêmes. Par conséquent, de nombreuses équipes d'algorithmes choisissent des fournisseurs de services de puissance de calcul spécialisés.
La puissance de calcul est devenue un nouveau modèle de service. Le service de puissance de calcul est un nouveau domaine basé sur la diversité de la puissance de calcul, reliant les réseaux de puissance de calcul et visant à fournir une puissance de calcul efficace. Il inclut non seulement la puissance de calcul, mais encapsule également des ressources telles que le stockage et le réseau.
Dans la chaîne de l'industrie de la puissance de calcul, les entreprises en amont fournissent des ressources de base, les entreprises intermédiaires sont responsables de la production et de l'approvisionnement en puissance de calcul, et les entreprises en aval sont les utilisateurs des services de puissance de calcul. Actuellement, la facturation à l'usage et les forfaits annuels et mensuels sont les modèles de facturation dominants.
Avec la normalisation de la demande de calcul haute performance des grands modèles, les services de puissance de calcul entrent rapidement dans le champ de vision du grand public, formant une chaîne industrielle et un modèle commercial uniques. Bien que la pénurie de GPU haut de gamme et les coûts élevés soient actuellement présents, à long terme, les perspectives de développement des services de puissance de calcul sont vastes. Les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et être prêts à faire face à un changement de tendance sur le marché.