群聯攜手Intel將邊緣AI工作負載導入Intel AI PC 平台

全球最大的獨立 NAND 控制晶片暨 NAND 儲存方案供應商群聯電子 今日宣布與 Intel 展開合作，攜手推動 AI PC 可於地端執行更大型、更高能力的 AI 應用。此次合作結合 Intel® Core Ultra Series 3 處理器與群聯 Pascari aiDAPTIV 記憶體延伸技術，突破傳統系統記憶體容量限制，使 AI PC 得以支援更大型 Mixture-of-Experts（MoE）AI 模型、更長時間的 AI 工作階段，以及代理式 AI（Agentic AI）工作流程。

現今 AI PC 已逐步從單純 AI 助理應用，演進至更進階的地端 AI 使用情境。相關應用已能協助終端使用者與企業進行文件分析、多步驟工作流程執行，以及敏感資料保護，同時降低對純雲端 AI 服務的依賴。然而，這類 AI 工作負載通常需要更大型 AI 模型、持續性工作階段狀態（Persistent Session State），以及大量記憶體資源，使市場對下一世代具備更高記憶體能力的 AI PC 平台需求快速提升。

aiDAPTIV 正是為解決此問題而打造。透過 Pascari aiDAPTIV Cache Memory，aiDAPTIV 可將 AI 工作記憶體延伸至系統 DRAM 與高效能、高耐久度 NAND Flash 之間，建立全新的 AI 記憶體架構。藉由降低部分地端 AI 工作負載對 DRAM 的需求，並支援 KV Cache Reuse 等執行階段功能，aiDAPTIV 能協助更大型 AI 工作負載於 Intel AI PC 平台上實現地端運作。

根據群聯內部測試，在相同測試環境下，搭載 aiDAPTIV 的系統僅需 16GB DRAM，即可執行 260 億（26B）參數 AI 模型；若未使用 aiDAPTIV，則需 32GB DRAM 才能完成相同工作負載。

此次合作聚焦於將群聯 aiDAPTIV 技術導入搭載 Intel Core Ultra 處理器的 Intel AI PC 平台，並支援 OpenVINO 工具套件。群聯與 Intel 亦將共同推動 ISV 軟體驗證、技術展示與效能最佳化工作負載開發。

群聯電子創辦人暨執行長潘健成 表示，AI PC 正快速演進為可執行更複雜地端 AI 工作負載的平台，包括代理式 AI 應用與更大型 MoE 模型，而這些應用對記憶體容量與系統反應能力的需求也持續提升。透過與 Intel 的合作，aiDAPTIV 能有效擴展 Intel AI PC 平台可用於 AI 工作負載的記憶體資源，協助 OEM 廠商、開發者與終端使用者，在兼顧資料隱私與基礎架構效率的前提下，於地端執行更高能力的 AI 應用。

 COMPUTEX 展會期間，群聯將展示多項搭載 aiDAPTIV 技術的 Intel AI PC 平台應用示範。群聯與 Intel 將現場展示一套地端聊天介面（Local Chat UI），執行原本超出系統記憶體容量限制的 MoE AI 模型，呈現 aiDAPTIV 如何透過 Pascari aiDAPTIV Cache Memory 擴展 AI 工作記憶體。

此外，群聯也將展示基於 OpenClaw 開源 AI Agent 框架所打造的 Hybrid LLM Routing 混合式大型語言模型路由應用。該方案可透過 aiDAPTIV 於地端執行更大型 MoE AI 模型，大幅降低雲端 Token 使用成本，同時在需要更高階 AI 推理能力時，仍可彈性切換至雲端 AI 模型處理複雜請求。

群聯展位也將展示來自 AI 軟體生態系夥伴的應用成果，包括 Ollama、LLMWare、TurinTech、與Intel® AI Superbuilder and Intel® AI Playground，展示 aiDAPTIV 如何應用於真實地端 AI 情境。同時，現場也將展示與 ASUS、MSI 與 Acer 等硬體平台合作夥伴的整合成果。

Ollama 共同創辦人 Michael Chiang 指出，記憶體容量一直是許多高階 AI 模型無法在終端裝置上順利運行的重要限制。群聯 aiDAPTIV 搭配 Intel AI PC 平台後，有機會讓使用者在地端執行遠超過原本硬體規格所能負擔的大型 AI 模型。

LLMWare 共同創辦人暨技術長 Darren Oberst 認為，企業生成式 AI 正快速朝向更實際的地端應用發展，包括 RAG、AI Agents，以及各種領域專屬模型。群聯 aiDAPTIV 的技術方向相當有潛力，能協助 Intel AI PC 終端系統支援更大型模型與更高能力的地端 AI 應用，同時讓資料能更安全地留在使用者端。