當(dāng)前，基于邊緣智能計算設(shè)備運行的人工智能應(yīng)用日趨復(fù)雜和高精度。為降低邊緣設(shè)備運行的延遲和功耗，存算一體技術(shù)被應(yīng)用在邊緣設(shè)備端，通過減小數(shù)據(jù)搬運的開銷最大化減少邊緣設(shè)備上的延遲與功耗。而傳統(tǒng)的存算一體宏僅支持使用整數(shù)型數(shù)據(jù)計算，難以支持日趨高精度、高復(fù)雜度以及片上訓(xùn)練的邊緣端智能計算任務(wù)。僅使用單一模擬或數(shù)字方案的存算一體宏，難以在能量效率、面積效率和精度上取得最優(yōu)化。如何有效結(jié)合模擬存算與數(shù)字存算模式優(yōu)勢，在總體上取得更高的能量效率和面積效率，并盡可能保證高精度，以及如何探索數(shù)?；旌戏桨傅脑O(shè)計空間，仍是存算一體宏領(lǐng)域亟需解決的問題。
中國科學(xué)院微電子研究所劉明院士團(tuán)隊等研發(fā)出基于外積運算的數(shù)模混合存算一體宏芯片，設(shè)計了數(shù)?；旌细↑cSRAM存內(nèi)計算方案，提出了模擬與數(shù)字存算宏的混合方法，結(jié)合了使用模擬存算方案進(jìn)行高效陣列內(nèi)位乘法和使用數(shù)字存算方案進(jìn)行高效陣列外多位移位累加的優(yōu)點，達(dá)到了整體上高能量效率與面積效率。研究通過殘差式數(shù)模轉(zhuǎn)換器架構(gòu)，使數(shù)模轉(zhuǎn)換器所需分辨率僅為輸入位精度的對數(shù)，實現(xiàn)了高吞吐率和低開銷。通過基于矩陣外積計算數(shù)學(xué)原理的浮點/定點存算塊架構(gòu)，矩陣-矩陣-向量計算可通過累加器元件完成。與之前的數(shù)字存算方案使用矩陣內(nèi)積原理的大扇入、多級加法器樹相比，可以降低運算的傳輸延遲，總的計算吞吐率更高。該架構(gòu)支持細(xì)粒度的非結(jié)構(gòu)激活稀疏性以進(jìn)一步提升總體能效。該存算一體宏芯片在28nm?CMOS工藝下流片，可支持BF16浮點精度運算以及INT8定點精度運算。BF16浮點矩陣-矩陣-向量計算峰值能效達(dá)到72.12TFLOP/W，INT8定點矩陣-矩陣-向量計算峰值能效達(dá)到111.17TFLOP/W。上述成果為采用數(shù)模混合方案的存算一體架構(gòu)芯片提供了新思路。
近日，相關(guān)研究成果以A 28nm 72.12TFLOPS/W Hybrid-Domain Outer-Product Based Floating-Point SRAM Computing-in-Memory Macro with Logarithm Bit-Width Residual ADC為題，發(fā)表在2024國際固態(tài)電路會議（ISSCC 2024）上。該研究由微電子所和北京理工大學(xué)合作完成。研究工作得到國家重點研發(fā)計劃、國家自然科學(xué)基金和中國科學(xué)院戰(zhàn)略性先導(dǎo)科技專項等的支持。
