騰訊云發(fā)布面向大模型訓(xùn)練的新一代HCC高性能計(jì)算集群,采用最新一代騰訊云星星海自研服務(wù)器,搭載了NVIDIA H800 Tensor Core GPU,并提供業(yè)界目前最高的3.2T超高互聯(lián)帶寬。
H800是NVIDIA為中國(guó)市場(chǎng)特供的加速卡替代型號(hào),基于A100及H100設(shè)計(jì),但將NVLink高速互連總線 SXM版的帶寬也只有3.35T,因此騰訊H800的3.2T帶寬下降并不明顯。騰訊云HCC集群支持分布式TensorFlow和PyTorch訓(xùn)練,可大幅提升模型訓(xùn)練速度。
在價(jià)格方面,騰訊沒(méi)有透露H800的具體采購(gòu)價(jià),但H100的價(jià)格約為25萬(wàn)元,而A800特供版的價(jià)格相當(dāng)于標(biāo)準(zhǔn)版A100的8成。因此,H800的價(jià)格可能會(huì)在20萬(wàn)元或更高水平。
這一新一代HCC高性能計(jì)算集群的推出將有助于滿足大規(guī)模深度學(xué)習(xí)訓(xùn)練的需求,加速人工智能技術(shù)的發(fā)展。