創新平台／彈性組合記憶體 效能大增

隨著生成式AI興起，帶動產業對高頻寬記憶體的需求，目前能提供更高頻寬的「高頻寬記憶體（High Bandwidth Memory；HBM）」，成了市場潮流，不過因製作工序複雜且價格高貴，僅限用於高階伺服器產品。

工研院以創新的3D堆疊技術，開發出將邏輯運算和記憶體整合在一起的「MOSAIC 3D AI 晶片」，提供AI產業更高效能、高彈性、高性價比的替代方案。

工研院電子與光電系統研究所所長張世杰表示，HBM是將多個DRAM以先進封裝技術堆疊起來，再整合記憶體和處理器於在一顆IC中，生產困難度非常高，此外，目前市售HBM尚未針對各家廠商做客製化需求服務。

工研院研發團隊在經濟部產業技術司補助下，將DRAM切分成一小塊，這樣的創新設計的原因有兩個，第一：容量可以變大，晶圓有多大，就可以組裝多大的記憶體。

第二：資料傳輸速度可以變快，假設拼了四塊，速度就變四倍，拼了八塊就變八倍，數量愈多傳得愈快，晶片間的傳輸距離從微米大幅縮短至奈米，而每一塊就代表一個DRAM單位，使DRAM可以根據晶圓大小和廠商需求任意堆疊組合，就像馬賽克一樣可以自由拼貼，不管是小型的穿戴式裝置，或是HPC伺服器、大型雲端運算系統，滿足市場各類AI需求。

這樣的分割實現DRAM自由堆疊，不過在這過程中，團隊遇到了一個關鍵問題，那就是控制器無法讓訊號完全同步。因為DRAM切分成小塊，所有來自不同的訊號，傳送路徑有長有短，要怎麼將這些訊號同步，研發團隊發想，不如將這些訊號設置一個「轉運站」，也就是暫時置放輸出或輸入資料的記憶體區域，使所有的訊號匯集完成後，便可以一整包的運送，也因此「MOSAIC 3D AI 晶片」是透過分區切割、緩衝處理、資料預測等技術，克服這些資料存取的關卡，才能達到晶片同步的效果，而此項技術與HBM相比，產生的熱能僅十分之一，成本也僅五分之一。

工研院的創新技術提供AI產業更高效能、高彈性、高性價比的替代方案，可以為現在很多想投入AI晶片的公司，尤其是針對資源更加有限的台灣中小型廠商提供一個替代的解套方法，為將來的主流市場鋪路，推升台灣的半導體產業升級。