大模型時代的新藍海:算力服務崛起與挑戰

算力爭奪戰後的新藍海:算力服務

大模型熱潮下,高端GPU一卡難求,算力成本飆升,成爲行業面臨的棘手問題。一張英偉達A100的價格被炒至20多萬元,單臺A100服務器月租也達到5-7萬元。即便如此,高昂價格也可能買不到芯片,供應商跳票等情況時有發生。

業內普遍認爲,高端GPU短缺短期內難以解決。雖然長遠來看算力供給會從賣方市場進入買方市場,但具體時間尚不確定。各家企業都在盤算自己擁有的GPU數量,以此判斷市場份額。

面對算力短缺,企業採取了多種應對措施:

  1. 使用更高質量的數據提升訓練效率
  2. 提升基礎架構能力,實現千卡以上穩定運行
  3. 優化算力卡資源調度
  4. 從雲計算架構過渡到超算架構
  5. 使用國產平台替代英偉達GPU

這些方法都需要較高的技術能力,一般企業難以自建。因此,許多算法團隊選擇專業的算力服務商。

算力已經發展成爲一種新的服務模式。算力服務是以多樣性算力爲基礎,以算力網路爲連結,以供給有效算力爲目標的新領域。它不僅包括算力,還統一封裝了存儲、網路等資源。

在算力產業鏈中,上遊企業供應基礎資源,中遊企業負責算力生產和供給,下遊企業則是算力服務的使用者。目前,按量計費和包年包月是主流的計費模式。

隨着大模型高性能計算需求常態化,算力服務快速進入大衆視野,形成了獨特的產業鏈和商業模式。盡管當前高端GPU短缺、成本高企,但長期來看,算力服務的發展前景廣闊。算力服務商需要未雨綢繆,爲市場風向轉變做好準備。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 2
  • 轉發
  • 分享
留言
0/400
DeFi宝典vip
· 20小時前
根据链上数据 GPU市场规模仅A卡就400亿+
回復0
RugDocDetectivevip
· 21小時前
啧啧 韭菜都被高端矿主割完了
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)