邊緣AI 4大商機噴發

【文／莊家源】

隨著AI科技快速發展，AI投資逐漸受到企業重視，AI應用部署逐漸從雲端朝向邊緣、物聯網擴散，AI PC、機器人、智慧穿戴裝置與資訊軟體將成投資焦點。

隨著全球興起生成式ＡＩ風潮，大型語言模型（ＬＬＭ）快速發展，ＡＩ投資逐漸受到企業重視，根據iThome CIO調查數據顯示，大約有二二％的企業提高對生成式ＡＩ的投資，而有十％的企業調整ＡＩ戰略，更聚焦在生成式ＡＩ在企業內部可能的應用場景，除了測試生成式ＡＩ如何應用在內部營運提升營運效率，也逐漸向特定營運或生產場景應用，帶動生成式ＡＩ應用部署從公有雲、企業資料中心，漸漸向邊緣運算、物聯網擴散，研究機構ＩＤＣ指出，和企業資料中心核心端相比，生成式ＡＩ應用未來更大的發展將在邊緣端，在推論需求快速增長的驅動下，預期許多企業今年將擴大邊緣部署，將帶動邊緣基礎設施擴展。

邊緣端ＡＩ發展加速

在過去的兩年裡，大型語言模型發展相當快速，除了向文字、圖片的多模態發展，同時，雲端服務供應商也向小語言模型發展，降低語言模型的參數規模，以更適合在運算資源有限的系統部署，像是Google在二三年釋出可在手機上執行推論的Gemini Nano模型，去年再推出採用相同技術的Gemma，瞄準邊緣生成式ＡＩ需求；Meta在去年釋出Llama 3.2 1B/3B模型，讓開發人員得以針對邊緣運算及行動裝置開發具有文字生成功能的裝置端應用程式，讓資料留在裝置端處理，降低資料上傳到雲端可能的資料外洩風險；微軟則是釋出最新小語言模型Phi-3，根據參數規模的不同分成mini、small及medium三個版本，並強調小模型可用於運算效能有限或離線環境，讓許多資源受限的組織將模型部署於低成本裝置，或是在頻寬受限環境下，確保一定的回應速度。

另外，近期受到中國大語言模型DeepSeek問世，為ＡＩ產業發展帶來新的變革，由於DeepSeek模型擁有低成本、開源等特性，讓ＡＩ應用的開發門檻大幅降低，加速ＡＩ普及化，進一步推動邊緣ＡＩ裝置，如機器人、ＰＣ、智慧型手機、智慧穿戴裝置等需求。根據Precedence Research研究指出，二四年全球邊緣ＡＩ市場規模約為二一一．九億美元，預計到三四年將達到約一四三○．六億美元，二四年～三四年的年複合成長率（CAGR）為二一．○四％。

機器人具高成長潛力

去年三月，輝達（Nvidia）執行長黃仁勳在ＧＴＣ大會上展示了多款人形機器人，同時公布了Project GR00T計畫，透過全新的運算平台Jetson Thor結合最新架構的ＡＩ晶片Blackwell、與專為機械手臂設計的基礎模型Isaac Manipulator、以及用於自主移動機器人（ＡＭＲ）的ＡＩ視覺辨識Issac Perceptor，提高機器人對於人類行為的認知能力，進而執行複雜任務，並增進人機互動的自然性。Digitimes認為隨著ＡＩ、感測器、材料等技術突破與成本下降，加上勞動力短缺影響，全球人形機器人產業正加速發展，未來五～十年人形機器人將迎來爆發性成長，預估至二○三五年將創造近二六○億美元的產值。

【全文詳情及圖表請見《先探投資週刊》2339期；訂閱先探投資週刊電子版】