AI系列專題報(bào)告(一)：AI算力參數(shù)爆發(fā) 兼論國(guó)產(chǎn)算力比較

算力參數(shù)：多廠商逐鹿AI，矩陣計(jì)算為核心算力參數(shù)。AI 算力參數(shù)種類繁多，其本質(zhì)是精度與運(yùn)算效率的取舍。為更好適應(yīng)AI 大模型的訓(xùn)練與推理，F(xiàn)P32 TensorCore，BF16 等新興數(shù)據(jù)類型應(yīng)運(yùn)而生。以FP32 Tensor Core 為例，其為英偉達(dá)張量計(jì)算的數(shù)據(jù)格式，使得模型訓(xùn)練性能大幅提升。英偉達(dá)H200 的FP32 算力為67TFlops，對(duì)應(yīng)FP32 Tensor Core 算力為989TFlops，性能大幅提升。而國(guó)內(nèi)各算力廠商產(chǎn)品性能迭代順利，華為海思此前發(fā)布的昇騰910 在FP16 算力性能上接近A100，下一代910B 性能有望顯著提升。寒武紀(jì)370 對(duì)標(biāo)英偉達(dá)L2芯片。海光信息深算三號(hào)研發(fā)進(jìn)展順利；龍芯中科第二代圖形處理器LG200 單節(jié)點(diǎn)性能達(dá)256GFlops-1TFlops，將基于2K3000 的GPGPU 技術(shù)及3C6000 的龍鏈技術(shù)，研制專用GPGPU 芯片。

互聯(lián)參數(shù)：多卡互聯(lián)為大模型桎梏，國(guó)內(nèi)外差距巨大。相比小模型，大模型要求在模型切分后進(jìn)行模型并行。模型并行使得多個(gè)GPU 能同時(shí)運(yùn)行模型的一部分，并在共享結(jié)果后進(jìn)入到下一層。大模型的發(fā)展使得類似英偉達(dá)NVLink、NVSwitch等互聯(lián)技術(shù)的重要性快速提升，同時(shí)互聯(lián)性能參數(shù)也成為各大模型實(shí)際效果好壞的重要憑依。大多數(shù)廠商利用PCIe 進(jìn)行互聯(lián)，而英偉達(dá)的NVLink 能夠?qū)崿F(xiàn)GPU間的直接互聯(lián)，從而大幅提升通信效率，其NVLink 帶寬可達(dá)到900 GB/s。在大規(guī)模高精度的3D FFT、3950 億參數(shù)的大模型訓(xùn)練上，H100+NVLink 組合的提升顯著。我們認(rèn)為隨著大模型的復(fù)雜化，NVLink 等多卡互聯(lián)技術(shù)將愈加重要。在多卡互聯(lián)上，國(guó)內(nèi)外廠商亦有所差距。以寒武紀(jì)MLU370-X8 為例，寒武紀(jì)為多卡系統(tǒng)專門設(shè)計(jì)了MLU-Link 橋接卡，其可實(shí)現(xiàn)4 張加速卡為一組的8 顆思元370 芯片全互聯(lián)，每張加速卡可獲得200GB/s 的通訊吞吐性能，帶寬為PCIe 4.0 的3.1倍。但相比英偉達(dá)NVLink 4.0 的900GB/s，該互聯(lián)性能僅為英偉達(dá)的22%，仍有較大提升空間。

建議關(guān)注：

算力芯片：寒武紀(jì)（思元590 性能有望顯著提升）、海光信息（深算三號(hào)研發(fā)進(jìn)展順利）、龍芯中科（將基于2K3000 的GPGPU 技術(shù)及3C6000 的龍鏈技術(shù)研制專用GPGPU 芯片）

AI 應(yīng)用：?？低暋⒋笕A股份、樂鑫科技、晶晨股份、恒玄科技、中科藍(lán)訊服務(wù)器：工業(yè)富聯(lián)、滬電股份

服務(wù)器存儲(chǔ)：瀾起科技、聚辰股份

先進(jìn)封裝：通富微電、長(zhǎng)電科技、甬矽電子、華天科技? 風(fēng)險(xiǎn)提示：下游需求復(fù)蘇不及預(yù)期，技術(shù)研發(fā)風(fēng)險(xiǎn)，國(guó)內(nèi)外政策和技術(shù)摩擦不確定性的風(fēng)險(xiǎn)。

知前沿，問智研。智研咨詢是中國(guó)一流產(chǎn)業(yè)咨詢機(jī)構(gòu)，十?dāng)?shù)年持續(xù)深耕產(chǎn)業(yè)研究領(lǐng)域，提供深度產(chǎn)業(yè)研究報(bào)告、商業(yè)計(jì)劃書、可行性研究報(bào)告及定制服務(wù)等一站式產(chǎn)業(yè)咨詢服務(wù)。專業(yè)的角度、品質(zhì)化的服務(wù)、敏銳的市場(chǎng)洞察力，專注于提供完善的產(chǎn)業(yè)解決方案，為您的投資決策賦能。

轉(zhuǎn)自德邦證券股份有限公司 研究員：陳海進(jìn)/徐巡/謝文嘉