La nueva frontera después de la batalla por la potencia computacional: servicios de potencia computacional
Bajo la tendencia de los grandes modelos, la alta demanda de GPUs de gama alta ha provocado que sean difíciles de conseguir, y el costo de potencia computacional ha aumentado drásticamente, convirtiéndose en un problema complicado que enfrenta la industria. El precio de una tarjeta Nvidia A100 ha sido inflado a más de 200,000 yuanes, y el alquiler mensual de un servidor A100 alcanza entre 50,000 y 70,000 yuanes. A pesar de esto, es posible que incluso con estos altos precios no se logre obtener los chips, y las situaciones de incumplimiento por parte de los proveedores ocurren con frecuencia.
Se considera comúnmente en la industria que la escasez de GPU de alta gama será difícil de resolver a corto plazo. Aunque a largo plazo la Potencia computacional pasará de un mercado de vendedores a un mercado de compradores, el tiempo específico aún no está determinado. Cada empresa está evaluando la cantidad de GPU que posee para determinar su cuota de mercado.
Ante la escasez de potencia computacional, las empresas han adoptado diversas medidas de respuesta:
Utilizar datos de mayor calidad para mejorar la eficiencia del entrenamiento
Mejorar la capacidad de infraestructura para lograr un funcionamiento estable de más de mil calorías.
Optimización de la programación de recursos de potencia computacional
De la arquitectura de computación en la nube a la arquitectura de supercomputación
Usar plataformas nacionales en lugar de GPU de Nvidia
Estos métodos requieren una alta capacidad técnica, lo que dificulta a las empresas construirlos por sí mismas. Por lo tanto, muchos equipos de algoritmos eligen proveedores de servicios de potencia computacional profesionales.
La potencia computacional se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional se basa en la diversidad de potencia computacional, conecta a través de una red de potencia computacional y tiene como objetivo proporcionar potencia computacional efectiva en este nuevo campo. No solo incluye potencia computacional, sino que también unifica y empaqueta recursos como almacenamiento, red, entre otros.
En la cadena de la industria de la potencia computacional, las empresas upstream suministran recursos básicos, las empresas midstream se encargan de la producción y suministro de potencia computacional, y las empresas downstream son los usuarios de los servicios de potencia computacional. Actualmente, la facturación por uso y las tarifas anuales o mensuales son los modelos de facturación predominantes.
Con la normalización de la demanda de computación de alto rendimiento de los grandes modelos, los servicios de potencia computacional han entrado rápidamente en la visión pública, formando una cadena industrial y un modelo de negocio únicos. A pesar de la actual escasez de GPU de alta gama y los altos costos, a largo plazo, las perspectivas de desarrollo de los servicios de potencia computacional son amplias. Los proveedores de servicios de potencia computacional necesitan prepararse con anticipación para el cambio de tendencias del mercado.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
15 me gusta
Recompensa
15
2
Republicar
Compartir
Comentar
0/400
DefiPlaybook
· hace17h
Según los datos on-chain, el tamaño del mercado de GPU solo de las tarjetas A supera los 400 mil millones.
Ver originalesResponder0
RugDocDetective
· hace17h
Zas, los tontos ya han sido tomados por tonta por los mineros de alto nivel.
El nuevo océano azul en la era de los grandes modelos: el surgimiento y los desafíos de la Potencia computacional
La nueva frontera después de la batalla por la potencia computacional: servicios de potencia computacional
Bajo la tendencia de los grandes modelos, la alta demanda de GPUs de gama alta ha provocado que sean difíciles de conseguir, y el costo de potencia computacional ha aumentado drásticamente, convirtiéndose en un problema complicado que enfrenta la industria. El precio de una tarjeta Nvidia A100 ha sido inflado a más de 200,000 yuanes, y el alquiler mensual de un servidor A100 alcanza entre 50,000 y 70,000 yuanes. A pesar de esto, es posible que incluso con estos altos precios no se logre obtener los chips, y las situaciones de incumplimiento por parte de los proveedores ocurren con frecuencia.
Se considera comúnmente en la industria que la escasez de GPU de alta gama será difícil de resolver a corto plazo. Aunque a largo plazo la Potencia computacional pasará de un mercado de vendedores a un mercado de compradores, el tiempo específico aún no está determinado. Cada empresa está evaluando la cantidad de GPU que posee para determinar su cuota de mercado.
Ante la escasez de potencia computacional, las empresas han adoptado diversas medidas de respuesta:
Estos métodos requieren una alta capacidad técnica, lo que dificulta a las empresas construirlos por sí mismas. Por lo tanto, muchos equipos de algoritmos eligen proveedores de servicios de potencia computacional profesionales.
La potencia computacional se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional se basa en la diversidad de potencia computacional, conecta a través de una red de potencia computacional y tiene como objetivo proporcionar potencia computacional efectiva en este nuevo campo. No solo incluye potencia computacional, sino que también unifica y empaqueta recursos como almacenamiento, red, entre otros.
En la cadena de la industria de la potencia computacional, las empresas upstream suministran recursos básicos, las empresas midstream se encargan de la producción y suministro de potencia computacional, y las empresas downstream son los usuarios de los servicios de potencia computacional. Actualmente, la facturación por uso y las tarifas anuales o mensuales son los modelos de facturación predominantes.
Con la normalización de la demanda de computación de alto rendimiento de los grandes modelos, los servicios de potencia computacional han entrado rápidamente en la visión pública, formando una cadena industrial y un modelo de negocio únicos. A pesar de la actual escasez de GPU de alta gama y los altos costos, a largo plazo, las perspectivas de desarrollo de los servicios de potencia computacional son amplias. Los proveedores de servicios de potencia computacional necesitan prepararse con anticipación para el cambio de tendencias del mercado.