產學界看生成式AI的應用與挑戰／劉峻誠： NPU 的性價比最高

AI晶片新創耐能智慧創辦人暨執行長劉峻誠昨（27）日表示，神經處理單元（NPU）可取代繪圖處理器（GPU），讓生成式AI應用更多元化，能耗、成本都較低，是可推動AI普及、性價比（C／P值）最高的下世代AI解決方案。

劉峻誠在專題座談上，暢談如何透過NPU，協助企業在切入AI應用的同時，解決最關鍵的能耗問題。

劉峻誠舉例，進行一次ChatGPT搜尋所消耗的電，能將一隻小雞烤熟，耗電量相當龐大，而廣達先前在伺服器中導入耐能產品，發現降低75%至80%的能耗，中華電信導入後，營運成本也降低85%

劉峻誠表示，耐能2015年就開始做NPU，雖然不像通用型GPU，但專攻AI應用，多年來一直想告訴市場，「這是最適合AI時代的解決方案」，而去年底英特爾也開始走向NPU。

除了能耗問題外，劉峻誠指出，從目前金融業、製造業上看到的痛點之一，就是機密資料無法傳輸上網，而NPU是封閉式的AI，相對沒有資安問題，也不會像開放式AI一般，被大眾餵養大量錯誤資訊後，產生錯誤判斷。

劉峻誠說，今年COMPUTEX中，將揭露與筆電廠、板卡廠、車廠等產業的合作計畫，他認為，NPU將是下世代AI應用的趨勢，「我們畢竟是先行者，這也是我們的機會」。