快訊

更裁交保兩樣情!涉貪警林明佐坐輪椅叫小黃 博弈總裁陳政谷直奔豪車離去

比 DeepSeek省!APMIC+銓鍇 讓訓練AI模型只要1,000筆資料

企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。示意圖。(路透)
企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。示意圖。(路透)

企業在AI訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。為解決這些痛點,企業自主AI解決方案領導品牌APMIC與銓鍇國際(CKmates)推出「Test-Time Compute AI算力」解決方案,此方案結合類似DeepSeek R1的全新訓練方案「APMIC Toolbox s1」以及CKmates「AI CKompute」實體機櫃租賃服務。

APMIC指出,「APMIC Toolbox s1」是基於輝達(NVIDIA)NeMo開發的框架,支持AI教母李飛飛所發表的「Simple test-time scaling」訓練方法,具備DeepSeek的優點,但避開中國大陸訓練方法或模型所產生的資安問題,相較DeepSeek更節省90%的成本,訓練資料從80萬筆減少到1千筆。

過去為了實現高準確率的模型,通常需要昂貴的設備與訓練方法,「APMIC Toolbox s1」搭配CKmates「AI CKompute」算力機櫃租賃服務,提供搭載24片H100 GPU高階伺服器,可整櫃直送客戶現場,或以遠端連線方式使用,快速啟動資料訓練與進行高強度測試,不必排隊等雲端GPU資源,也免除將機密數據外移的隱憂。

「Test-Time Compute AI 算力」軟硬體整合解決方案,讓客戶在地端實現「知識蒸餾(Knowledge Distillation)」透過大模型學習企業領域知識,然後縮小到32B~70B的模型上,推論成本可以比ChatGPT節省高達98%以上,成為一個能訓練、推論的多模態的企業數位大腦,能夠分析圖片、文字,也可以進行企業知識的深度推理,相較於傳統的做法,資訊檢索準確度提升了70%,方便企業用戶進行知識管理、撰寫報告,並且透過自然語言輕鬆建立AI。

企業可依業務需求靈活調整「AI CKompute」租用方案,企業可依需求長期租用,甚至可租單一個月或幾天短期使用,以合理費用獲取強大算力支援,避免高昂的前期設備投資與維運負擔。租約到期後,客戶可選擇整機購買或直接歸還,是實踐「資本支出轉營運支出」的高彈性策略,讓企業無需投入鉅額資本支出,即可快速取得所需AI運算資源。

AI 資安 資本支出

延伸閱讀

00923近1月績效跑第一…贏00922、006208、00692!市值型ETF表現皆不俗

台股ETF 跟著趨勢賺

字節跳動旗下「豆包」新模型架構 推理成本最多降83%

佳士得首場AI藝術拍賣會掀爭議 逾4千人連署籲取消

相關新聞

「晶片戰爭」作者米勒:台積投資美 非凡成功

「晶片戰爭」作者米勒(Chris Miller)昨天表示,台積電董事長魏哲家在白宮宣布加碼投資美國一千億美元,可說是獲得...

台積電變美積電?經長:「這六種」情況將不予核准對外投資

朝野立委關切台積電(2330)赴美投資。經濟部長郭智輝20日在立法院經濟委員會表示,台積電赴美投資須經過經濟部投審會審查...

輝達GB300將亮相 分析:代工廠議價能力轉弱「僅台積電有能力漲價」

輝達17日將舉行的GTC技術大會,有望發表新一代人工智慧(AI)伺服器GB300。分析師指出,在地緣政治影響下,供應鏈赴...

台積提議 合資經營英特爾

路透十二日引述四名匿名知情人士獨家報導,台積電已向美國晶片設計商輝達、超微、博通和高通提議入股一家合資企業,共同經營英特...

Meta 6.5兆打造AI軍火庫 廣達、緯穎打強心針

臉書母公司Meta傳正評估斥資逾2,000億美元(約新台幣6.56兆元),興建一座旗下歷來最大的新AI資料中心園區。法人...

「臺澎三號」海纜全斷 數發部緊急調度海纜備援

數位發展部今(25)接獲中華電信通報,「臺澎三號」海纜發生全斷障礙。為疏解斷纜可能影響,數發部即請中華電信緊急調度訊務至...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。