內(nèi)容概要:內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計(jì)算)是指將處理器與RAM(隨機(jī)存取存儲器)集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理,該架構(gòu)通過在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來加速任務(wù)的整體處理。為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內(nèi)計(jì)算的概念被提了出來。與馮·諾依曼架構(gòu)中分離的處理器和存儲器不同的是,存內(nèi)計(jì)算將數(shù)據(jù)的存儲和計(jì)算融為一體,使得存儲陣列不僅具有常規(guī)的數(shù)據(jù)存儲能力,同時(shí)又具有陣列運(yùn)算的功能。21世紀(jì)以來,隨著人工智能技術(shù)的快速發(fā)展,具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來了發(fā)展浪潮,此后,存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。三星、臺積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計(jì)算市場規(guī)模約為180.4億美元,預(yù)計(jì)到2028年規(guī)模將增長至387.6億美元,期間年復(fù)合增長率為17%。
關(guān)鍵詞:內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展歷程、內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展優(yōu)勢、內(nèi)存內(nèi)處理 (PIM)芯片市場現(xiàn)狀
一、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關(guān)概述
內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計(jì)算)是指將處理器與RAM(隨機(jī)存取存儲器)集成在單個(gè)芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計(jì)算機(jī)、服務(wù)器或類似設(shè)備的內(nèi)存中執(zhí)行計(jì)算和處理,該架構(gòu)通過在內(nèi)存模塊內(nèi)執(zhí)行任務(wù)來加速任務(wù)的整體處理。
存內(nèi)計(jì)算的提出可以追溯到上世紀(jì)70年代,1969年,William等首次提出存儲和邏輯整合的想法,將存儲和邏輯運(yùn)算電路集成為小的元胞,然后迭代成一個(gè)二維陣列,再通過編程的方法可以實(shí)現(xiàn)所需的復(fù)雜邏輯行為,這種存內(nèi)邏輯結(jié)構(gòu)設(shè)計(jì)在設(shè)計(jì)、制造、測試等方面具有許多優(yōu)勢。次年,Harlod等提出存內(nèi)邏輯處理器的概念,存內(nèi)邏輯陣列不但可以作為CPU與存儲之間的高速緩沖,還具有處理數(shù)據(jù)的能力。1975年,Elmasry等提出了一種利用雙極型晶體管構(gòu)成的兩級存內(nèi)邏輯,該結(jié)構(gòu)可以實(shí)現(xiàn)存儲和組合邏輯功能。1982年,Odaka等提出了一種存內(nèi)邏輯計(jì)算超大規(guī)模專用集成電路(VLSI),集成了6144位存儲和770個(gè)邏輯門電路,提高了處理器效率。21世紀(jì)之前對于存內(nèi)計(jì)算的研究還處于起步階段,21世紀(jì)以來,隨著人工智能技術(shù)的快速發(fā)展,具有高能效比的存內(nèi)計(jì)算架構(gòu)迎來了發(fā)展浪潮,此后,存內(nèi)計(jì)算在神經(jīng)網(wǎng)絡(luò)計(jì)算等領(lǐng)域逐漸受到關(guān)注。2018年,IEEE國際固態(tài)電路會議(ISSCC)開始設(shè)立一個(gè)獨(dú)立的議程來討論存內(nèi)計(jì)算相關(guān)的設(shè)計(jì)。三星、臺積電、海力士、英特爾、IBM等半導(dǎo)體巨頭也都投入到了存內(nèi)計(jì)算架構(gòu)的研發(fā)之中。存內(nèi)計(jì)算的出現(xiàn)使計(jì)算平臺的算力功耗比、面積功耗比等進(jìn)入了一個(gè)新的階段。
相關(guān)報(bào)告:智研咨詢發(fā)布的《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報(bào)告》
二、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展背景
1965年,英特爾聯(lián)合創(chuàng)始人戈登·摩爾預(yù)測,單個(gè)芯片上的晶體管數(shù)量大約每兩年翻一番,而成本只會有極小的增加。該預(yù)測被稱為摩爾定律。由于技術(shù)的進(jìn)步與芯片制造工藝的改進(jìn),在過去幾十年里,芯片的算力有著顯著的提高。例如,1978年,英特爾推出的8086微處理器,工作在4.77MHz的時(shí)鐘頻率,具有0.33百萬條指令每秒的處理速度;20世紀(jì)90年代早期,英特爾Pentium系列處理器的算力達(dá)到了100MIPS;到了90年代末期,英特爾PentiumIII系列處理器的算力達(dá)到了600-700MIPS;2000年以后,英特爾推出Core系列處理器,算力則達(dá)到了20-30十億條指令每秒;2020年蘋果公司推出的M1處理器,算力已經(jīng)達(dá)到了1000BIPS。盡管摩爾定律預(yù)見了芯片行業(yè)的發(fā)展趨勢,但如今,隨著晶體管尺寸接近原子級,半導(dǎo)體材料和制造工藝已經(jīng)到達(dá)物理極限,同時(shí),隨著芯片尺寸和晶體管數(shù)量的增加,芯片的發(fā)熱和功耗也急劇增加,摩爾定律正面臨越來越多的局限與挑戰(zhàn)。物理尺寸和制造工藝的提升已經(jīng)無法滿足摩爾定律發(fā)展的速度,因此,需要尋找新的技術(shù)來維持計(jì)算機(jī)性能的增長。
截至2023年底,全球算力基礎(chǔ)設(shè)施總規(guī)模達(dá)到910EFLOPS(FP32),同比增長40%。美國、中國算力基礎(chǔ)設(shè)施規(guī)模位列前兩名,中國算力總規(guī)模達(dá)230 EFLOPS。近年來,隨著可穿戴設(shè)備、物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的興起,人們對于計(jì)算平臺提出了更高的要求,即用有限的能源與資源實(shí)現(xiàn)更大的算力,或者實(shí)現(xiàn)相同的算力消耗更低的能源與資源。以中央處理器(CPU)與存儲器構(gòu)成的現(xiàn)有計(jì)算平臺,當(dāng)需要處理的數(shù)據(jù)越來越多時(shí),便會由于中央處理與存儲器之間的吞吐率急劇上升而出現(xiàn)瓶頸,該瓶頸被稱為馮·諾依曼瓶頸,在進(jìn)行計(jì)算時(shí),首先需要將存儲器里的值通過總線讀取出來,再將輸入和讀取出的值通過總線送到中央處理器進(jìn)行計(jì)算得到輸出結(jié)果。在消耗大量時(shí)間讀取和寫入數(shù)據(jù)的同時(shí),由于需要頻繁訪問存儲器,大量無關(guān)的能量會被消耗。馮·諾依曼瓶頸的出現(xiàn)導(dǎo)致現(xiàn)有平臺的算力受限,這嚴(yán)重阻礙了物聯(lián)網(wǎng)、邊緣計(jì)算、人工智能等應(yīng)用的發(fā)展。為了解決這些問題,業(yè)內(nèi)提出了幾種解決方案,包括引入緩存結(jié)構(gòu)(Cache)和無序執(zhí)行(Out-of-orderProcessing)技術(shù)減少存儲訪問帶來的損失等。然而,這些技術(shù)仍然跟不上新興應(yīng)用所需存儲的指數(shù)增長,這對傳統(tǒng)的計(jì)算系統(tǒng)提出了挑戰(zhàn)。
三、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展現(xiàn)狀
為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內(nèi)計(jì)算的概念被提了出來。與馮·諾依曼架構(gòu)中分離的處理器和存儲器不同的是,存內(nèi)計(jì)算將數(shù)據(jù)的存儲和計(jì)算融為一體,使得存儲陣列不僅具有常規(guī)的數(shù)據(jù)存儲能力,同時(shí)又具有陣列運(yùn)算的功能。由于存內(nèi)計(jì)算無需將數(shù)據(jù)從存儲器中讀出,因此不存在中央處理器與存儲器之間的吞吐率瓶頸,同時(shí),因?yàn)槭∪チ舜鎯Φ淖x寫過程,存內(nèi)計(jì)算平臺的功耗和時(shí)效都遠(yuǎn)優(yōu)于馮·諾依曼架構(gòu)的計(jì)算平臺。在機(jī)器學(xué)習(xí)、人工智能、實(shí)時(shí)數(shù)據(jù)分析等應(yīng)用中,存內(nèi)計(jì)算可以實(shí)現(xiàn)對大容量數(shù)據(jù)的更高效處理,這在數(shù)據(jù)集變得越來越大且越來越復(fù)雜的情況下變得越來越重要。其次,存內(nèi)計(jì)算可以幫助克服傳統(tǒng)基于磁盤的存儲系統(tǒng)的性能限制,降低處理大型數(shù)據(jù)集的數(shù)據(jù)搬運(yùn)量。通過消除這種瓶頸,存內(nèi)計(jì)算可以釋放處理器的計(jì)算潛力,加速計(jì)算平臺技術(shù)的進(jìn)步。除了消除計(jì)算瓶頸外,存內(nèi)計(jì)算還在降低計(jì)算系統(tǒng)的能耗方面發(fā)揮著重要的作用,通過減少訪問存儲器需求,存內(nèi)計(jì)算可以幫助降低計(jì)算系統(tǒng)的能耗,從而達(dá)到更加節(jié)能的目的。
以三星HBM-PIM為例,與配備傳統(tǒng)的HBM的GPU相比,生成式AI運(yùn)行在基于三星的HBM-PIM的系統(tǒng)上,能效平均高出了約2倍,性能加速了2倍以上。
目前的PIM方案主要通過在內(nèi)存(DRAM)芯片中實(shí)現(xiàn)部分?jǐn)?shù)據(jù)處理,其中典型的產(chǎn)品形態(tài)包括HBM-PIM和PIM-DIMM。這些方案在DRAM Die中內(nèi)置了處理單元,為系統(tǒng)提供了具備大吞吐和低延遲的片上處理能力。這種存內(nèi)處理技術(shù)可應(yīng)用于多種場景,包括語音識別、數(shù)據(jù)庫索引搜索、基因匹配等。DRAM存儲芯片在信息時(shí)代扮演著至關(guān)重要的角色,為半導(dǎo)體存儲器第一大產(chǎn)品。在各國政策大力支持、市場需求持續(xù)增長、廠商技術(shù)水平不斷提升等因素驅(qū)動下,DRAM存儲芯片行業(yè)取得了顯著的發(fā)展成果。但2022年以來,伴隨著消費(fèi)電子市場低迷,DRAM需求也明顯下滑,市場規(guī)模萎縮。2023年全球DRAM市場規(guī)模為518.6億美元,同比下降35%,占存儲市場的56%左右。
內(nèi)存內(nèi)處理這一創(chuàng)新技術(shù)自問世以來,便受到了業(yè)界的廣泛關(guān)注。目前,三星、SK海力士、阿里巴巴達(dá)摩院等科技巨頭紛紛投入研發(fā),將內(nèi)存內(nèi)處理技術(shù)作為未來的增長引擎。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計(jì)算市場規(guī)模約為180.4億美元,預(yù)計(jì)到2028年規(guī)模將增長至387.6億美元,期間年復(fù)合增長率為17%。
以上數(shù)據(jù)及信息可參考智研咨詢(yhcgw.cn)發(fā)布的《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報(bào)告》。智研咨詢是中國領(lǐng)先產(chǎn)業(yè)咨詢機(jī)構(gòu),提供深度產(chǎn)業(yè)研究報(bào)告、商業(yè)計(jì)劃書、可行性研究報(bào)告及定制服務(wù)等一站式產(chǎn)業(yè)咨詢服務(wù)。您可以關(guān)注【智研咨詢】公眾號,每天及時(shí)掌握更多行業(yè)動態(tài)。


2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報(bào)告
《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報(bào)告》共十章,包括內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關(guān)概述、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運(yùn)行環(huán)境(PEST)分析、全球內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運(yùn)營態(tài)勢、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)經(jīng)營情況分析、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)競爭格局分析、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)上、下游產(chǎn)業(yè)鏈分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)主要優(yōu)勢企業(yè)分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)投資機(jī)會、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展前景預(yù)測。



