三星宣布新的HBM2内存集成了AI處理器,最高可提供1.2 TFLOPS嵌入式計算能力,使内存芯片本身可以執行CPU、GPU、ASIC或FPGA的操作。
據TomsHardware報道,新的HBM-PIM (processing-in-memory) 芯片在每個内存模塊内注入了一個AI處理器,從而将處理操作轉移到HBM本身。這種新型内存的設計是為了減輕内存與一般處理器之間轉移數據的負擔,因為實際應用中,這種負擔無論在功耗還是時間上,往往比真正的計算操作消耗更大。
三星表示,将這項技術應用到稱為Aquabolt的HBM2内存時,可以提供兩倍的性能,同時将功耗降低70%以上。三星還聲稱,使用這種新内存不需要任何軟件或硬件變化(包括内存控制器),從而可以被市場更快地采用。目前該方案可以在進行商業驗證,預計所有驗證将在今年上半年完成,這也标志着離實際應用已經不遠了。
在前一段時間舉行的國際固态電路虛拟會議(ISSCC)期間,三星展示了其新内存架構的更多細節。每個存儲器組都有一個嵌入式可編程計算單元(PCU),運行頻率為300MHz。該單元通過來自主機的常規存儲器命令進行控制,以實現in-DRAM處理,它可以執行各種FP16計算。存儲器也可以在标準模式下工作,也就是說它可以像普通的HBM2一樣工作,或者在FIM模式下進行内存數據處理。
當然,為PCU單元騰出空間會降低内存容量,與标準的8Gb HBM2裸片相比,每個PCU配備的内存裸片隻有一半的容量(4Gb)。為了幫助解決這個問題,三星采用了6GB堆棧,将4個帶有PCU的4Gb裸片與4個沒有PCU的8Gb裸片組合在一起(而不是普通HBM2的8GB堆棧)。
一般用戶想用上這種内存還需要一些時間,至少目前不會在最新的遊戲GPU上使用它。三星指出,這種新的内存首先要滿足數據中心、HPC系統等大規模應用處理的需求。還有一個挑戰性的問題是内存芯片的散熱,特别是考慮到需要堆棧,不過三星暫時沒有解釋HBM-PIM芯片會如何解決。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!