驍龍新一代旗艦移動平臺發布在即，高通在官方博客中正式揭曉了其搭載的全新Hexagon NPU。這一次升級的核心，不僅僅是算力提升多少的簡單敘事，而是一個更根本的轉變：NPU的角色正在從執行單一模型的推理單元，變成調度多個專用模型的協調中樞。
高通技術公司產品市場高級總監Cisco Cheng在署名博客中給出了一個明確的判斷：隨著AI智能體化的深入，脫穎而出的架構不是依賴單一龐大模型處理所有任務，而是由多個專用模型組成的系統，根據任務、情境和用戶需求進行智能調度。這句話，是理解新一代Hexagon NPU全部設計邏輯的鑰匙。
高通做NPU，比大多數人想象的要早得多
很多人不知道，Neural Processing Unit（NPU）這個概念，最早就是高通提出的。2013年，高通發布了一個名為Zeroth的獨立NPU項目，目標直指“定義一種全新的處理架構”——神經處理單元。到了2015年的驍龍820，高通已經將研究成果落地為實際能力：Hexagon 680 DSP實現了基于加速器的計算機視覺感知、低功耗語音喚醒和本地惡意軟件行為分析。全時開啟的傳感器數據處理、隨時在線的語音喚醒——這些功能在當時看足夠超前，放到現在也不落伍。
2018年的驍龍855是另一個節點。高通在Hexagon 690中首次加入獨立的張量加速器，讓NPU正式具備針對深度學習模型的專用加速能力。從這一代開始，Hexagon NPU的架構輪廓逐漸清晰。
正因在這條路上走了很久，高通對于NPU應該怎么設計、如何使用，向來有自己的想法。
NPU升級的兩個重點：計算更強，調度更順
回到即將發布的驍龍新一代旗艦平臺。高通公布的信息顯示，NPU的改進集中在兩個層面。
Element Accelerator：讓NPU學會“調度”。 這是新一代Hexagon NPU最核心的變化。傳統NPU的設計重心在“算”：把矩陣乘法做快。但智能體需要的不只是“算”，還需要“想”：在推理過程中選擇走哪條路、調用哪個工具、下一步做什么決策。Element Accelerator讓NPU第一次同時具備高效計算和智能調度兩類能力，配合Fast Action Loops和KV-Cache加速，支持最長32K的上下文長度。
共享內存擴容50%：讓數據留在該留的地方。端側大模型推理有一個反直覺的工程現實：解碼階段的瓶頸往往不在計算，而在數據搬運。模型每生成一個詞元，都需要讀取保存對話上下文的KV緩存。如果NPU片上空間不足，數據就必須在NPU與主內存之間頻繁搬移，推高時延和功耗。共享內存擴容后，更多數據留在NPU內部，減少DDR訪問頻次。用高通的話說，這讓智能體在處理更長上下文、調用更多工具以及執行并發任務時，始終保持流暢響應。
在模型層面，新一代NPU支持在終端側運行300億參數的MoE模型，每次生成詞元僅激活約30億個被路由選中的參數。配合從閃存到內存的智能加載機制和INT2到FP16的五種精度策略，開發者可以根據任務復雜度靈活平衡性能、內存和功耗。對于INT4精度模型，預填充性能提升最高50%，40億參數模型首個詞元生成時間低于1.5秒。
不只是旗艦的事，更是在為端側AI鋪路
自智能手機出現“AI”概念以來，已有十余年。但大多數用戶真正用過的AI功能，幾乎都是廠商預裝的——第三方應用絕大多數時候仍然依賴云端處理，很少調用設備的端側算力。根本原因在于，旗艦與非旗艦的AI性能落差太大，開發者不敢輕易將端側AI在大眾應用上落地。
高通顯然看到了這個問題。新一代Hexagon NPU支持多種精度策略，本質上是為開發者提供更大的靈活度；與內存和模型廠商合作推進MoE架構，則是為了以更低的內存需求實現更大的模型體驗。這些技術如果能夠“下放”到更多設備，受益的絕不僅限于新一代旗艦。
更值得關注的是高通的自研架構優勢。由于驍龍平臺的CPU、GPU、NPU全部自研，高通能更容易地打通這幾個計算組件，讓復雜的AI任務被拆解到多個單元里協同執行。手機的AI能力，不再局限于NPU的規格。這或許才是新一代Hexagon NPU最值得期待的地方——它不只是讓旗艦手機跑得更快，更是在為整個行業的端側AI落地鋪路。
轉自：泡泡網
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
