(資料圖片僅供參考)

據(jù)騰訊微信公眾號消息，騰訊云新發(fā)布面向大模型訓(xùn)練的新一代HCC高性能計算集群，整體性能比過去提升了3倍。搭載了NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的智算能力支撐。

騰訊表示，隨著算力需求的陡增，自己采購GPU的價格昂貴，甚至有錢也買不到，給創(chuàng)業(yè)企業(yè)、中小企業(yè)帶來很大壓力。我們的新一代HCC集群，能夠幫助在云上訓(xùn)練大模型，希望緩解他們的壓力。

隨著算力的發(fā)展，模型容量持續(xù)提升，模型通用性和泛化能力也更強，研究大模型成為了近兩年的趨勢。國內(nèi)外頭部科技公司均有布局，發(fā)布了若干千億規(guī)模以上的大模型。

然而，面對參數(shù)量進(jìn)一步擴(kuò)大，業(yè)界并沒有在高速網(wǎng)絡(luò)、訓(xùn)練框架、模型算法和落地應(yīng)用等方面有全面深入的公開性研究。去年10月，騰訊完成首個萬億參數(shù)的AI大模型混元NLP大模型訓(xùn)練。在同等數(shù)據(jù)集下，將訓(xùn)練時間由50天縮短到11天。如果基于新一代集群，訓(xùn)練時間將進(jìn)一步縮短至4天。

截止發(fā)稿前，騰訊報364.8港元/股。