蒸餾Claude?Kimi K3震驚全球科技界 負責人曝三大自研技術

大陸AI模型公司月之暗面推出Kimi K3震驚全球科技界,甚至有人說是另一個「DeepSeek時刻」,不過,也有傳言K3也是蒸餾自美國模型而來,對此,月之暗面業務負責人黃震昕21日澄清K3性能躍升的核心來自底層原創架構創新,並非對現有模型蒸餾復刻。
21世紀經濟報導,黃震昕明確表示:「開源模型、中國大模型不該被貼上低價標籤,我們做出了SOTA級(State-of-the-Art 的縮寫,指當前最優技術或最先進水平)模型,也能匹配合理商業定價。」
此前有傳聞稱Kimi蒸餾自Anthropic的Claude。不過,K3並非來自蒸餾,黃震昕說,K3的底層自研技術有三方面:
其一是Moon Clip,為全新二階優化器,由Kimi首次應用於大模型訓練。當前全球可用訓練數據基本見底,這項技術能讓20T訓練數據跑出40T的訓練效果,同等性能下訓練成本、算力功耗直接減半;
其二是Kimi Linear Tension,自研線性注意力機制,解決傳統線性注意力處理超長任務時性能衰減的痛點。AI可執行任務時長每7個月翻一倍;這套機制讓上下文窗口擴大十倍,訓練成本僅同步擴大十倍;
其三是Attention Residuals(注意力殘差),這是馬斯克曾專門發文稱讚的底層技術,優化模型多層網絡間信息傳遞、復用邏輯,讓2.8兆超大參數模型既能穩定完成訓練,又能讓推理效率同步提升25%。
在商業化層面,黃震昕透露,Kimi現階段暫不提供私有化部署服務,商業模式對標海外成熟頭部AI企業,核心發力打磨模型基礎能力;公司收入結構中API業務佔比最高,暫未對外披露私有化、行業解決方案細分營收佔比。同時明確行業參數規模趨勢:大模型參數規模會持續向上拓展,不會止步於當前2.8兆規模。
對於開源會有減速主義,會降低前沿模型商業回報、降低行業持續研發投入意願,黃震昕稱,Kimi自K2起持續堅持開源路線,這一路線未來也不會改變;核心底層技術、論文均對外公開,對行業保持開放姿態。他也強調,Kimi無法私有化部署,根源是當前K3參數量巨大、部署門檻高,和開源授權策略本身無關。
延伸閱讀
贊助廣告
udn討論區
- 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。








