從配角變核心!AI算力爆發驅動記憶體大躍進 智慧應用 影音
D Book
236
DTsupplychain
DForum0912

從配角變核心!AI算力爆發驅動記憶體大躍進

  • 林佩瑩台北

SEMICON Taiwan 2025 記憶體高峰論壇,從晶片設計至系統整合串聯完整生態系對話。DIGITIMES攝
SEMICON Taiwan 2025 記憶體高峰論壇,從晶片設計至系統整合串聯完整生態系對話。DIGITIMES攝

在AI浪潮的推動下,記憶體已從傳統的配角躍升為驅動AI革命的核心。在2025年記憶體高峰會上,三星、SK海力士、美光與聯發科等產業巨頭齊聚一堂,分享各自的技術布局與策略,揭示記憶體產業如何應對AI時代的嚴峻挑戰。

聯發科數據中心與人工智能資深本部總經理Anki Nalamalpu指出,憑藉其在AI加速器領域的成功經驗,聯發科正積極拓展資料中心市場,並將其視為未來發展的關鍵。為此,聯發科將專注於三大核心技術:與台積電緊密合作開發2.5D與3D封裝技術;積極投入光學互連與高速乙太網路技術;以及開發客製化的HBM與LPDDR解決方案。Nalamalpu預測,未來的AI晶片將朝向晶圓級系統(System on Wafer)發展,聯發科將與生態系夥伴緊密合作,共同解決散熱、功耗及可靠性等技術挑戰,引領產業邁向全新紀元。

聯發科數據中心與人工智能資深本部總經理 Anki Nalamalpu,於SEMICON Taiwan 2025 記憶體高峰論壇發表演講。DIGITIMES攝

聯發科數據中心與人工智能資深本部總經理 Anki Nalamalpu,於SEMICON Taiwan 2025 記憶體高峰論壇發表演講。DIGITIMES攝

SK海力士HBM事業規劃部副總裁崔俊龍(Jeff Choi)強調,AI模型複雜度的指數級成長,使資料中心的功耗與散熱問題日益嚴峻。他指出,HBM已成為提升AI運算效能的關鍵,而優化其功耗效率至關重要。崔俊龍透露,若能將HBM功耗降低10%,整個資料中心的功耗可望減少2%。SK海力士最新發表的HBM3E,其頻寬相較前代提升超過50%,功耗效率也改善了40%,能有效解決記憶體頻寬瓶頸,實現更複雜模型的運行,為AI基礎設施注入新動能。

三星電子記憶體產品規劃副總裁Jangseok Choi認為,AI運算正遭遇摩爾定律、基礎設施成本、功耗管理及工作負載管理等四大挑戰。三星的應對策略是開發客製化HBM方案,針對不同客戶的需求,提供最佳化的效能、功耗與成本設計。同時,三星也積極布局近記憶體運算(PIM)技術,將運算能力整合至記憶體內部,以解決資料傳輸瓶頸。此外,三星更提出分層儲存架構,整合HBM、CXL等多元記憶體,並推出體積僅為傳統DIMM三分之一的模組化記憶體「Silken 2」,為AI資料中心提供高效能解決方案。

美光企業副總裁Nirmal Ramaswamy博士指出,AI模型的爆炸性成長與複雜度,對記憶體產業帶來前所未有的挑戰。美光致力於透過先進製程、新興記憶體和晶片級AI建模來推動技術創新。在DRAM製程方面,美光持續推進先進製程技術,同時超前部署3D DRAM,透過垂直堆疊的方式突破傳統DRAM的原子極限,以實現更高容量和更佳效能。

此外,美光也看好HBM、LPDDR及CXL等新興記憶體技術,並認為其能為AI運算提供更全面的解決方案。特別是1T1C鐵電記憶體,具備效能與成本優勢,有潛力成為CXL記憶體擴充方案的選擇。

儘管AI運算效能的成長速度遠超過記憶體頻寬,且差距持續擴大,但隨著高頻寬記憶體的成熟、3D堆疊技術的突破,以及新架構的導入,記憶體的密度與能效正大幅提升,產品設計也加速迭代。記憶體已不再是AI發展的被動元件,而是主動塑造AI運算未來的關鍵力量。各家大廠的積極投入與創新,預示著記憶體產業將隨著AI浪潮邁向全新的技術境界。

商情專輯-2025 SEMICON Taiwan