11月18日消息，周易作為國(guó)內(nèi)領(lǐng)先的安謀芯片IP設(shè)計(jì)與服務(wù)提供商，安謀科技近日上海舉辦新品發(fā)布會(huì)，科技正式推出了新一代“周易”X3 NPU。發(fā)布
這也是全新安謀科技打造Arm China“All in AI”產(chǎn)品戰(zhàn)略之后，發(fā)布的算力第一款重磅產(chǎn)品，面向基礎(chǔ)設(shè)施、高達(dá)智能汽車、周易移動(dòng)終端、安謀智能物聯(lián)網(wǎng)四大領(lǐng)域。科技
它可為AI加速卡、發(fā)布智能座艙、全新ADAS高級(jí)輔助駕駛、算力具身智能機(jī)器人、高達(dá)AI PC筆記本、周易AI手機(jī)、智能網(wǎng)關(guān)、智能IPC網(wǎng)絡(luò)攝像機(jī)等提供高效的端側(cè)AI計(jì)算能力。
安謀科技旗下?lián)碛幸幌盗凶匝挟a(chǎn)品，除了“周易”NPU，還有“星辰”CPU、“山海”SPU、“玲瓏”多媒體系列，全面覆蓋核心領(lǐng)域，可匹配多場(chǎng)景AI計(jì)算需求。
“周易”NPU團(tuán)隊(duì)成立于2018年，是國(guó)內(nèi)最早的NPU研發(fā)團(tuán)隊(duì)之一，可提供涵蓋硬件、軟件、工具的全棧式端到端方案，而且研發(fā)支持100％來自中國(guó)本土團(tuán)隊(duì)。
“周易”X3 NPU基于專為大模型而生的最新DSP+DSA通用架構(gòu)，兼顧C(jī)NN與Transformer，有效解決端側(cè)AI大模型運(yùn)行難題。
它單個(gè)Cluster叢簇可配備最多4個(gè)核心，F(xiàn)P8算力8~80 TFlops(萬億次浮點(diǎn)計(jì)算)，而且可靈活配置，單個(gè)核心的帶寬高達(dá)256GB/s。
在架構(gòu)層面，“周易”X3實(shí)現(xiàn)了多項(xiàng)創(chuàng)新，包括：
－ 集成自研解壓硬件WDC：
大模型Weight軟件無損壓縮后，通過硬件解壓能獲得額外15-20％的等效帶寬提升。
－ 新增端側(cè)W4A8/W4A16計(jì)算加速模式：
均為大模型運(yùn)行必備。同構(gòu)對(duì)模型權(quán)重進(jìn)行低比特量化，大幅降低帶寬消耗，支持云端大模型向端側(cè)的高效遷移。
－ 集成AI專屬硬件引擎AIFF(AI Fixed-Function)與專用硬化調(diào)度器：
可實(shí)現(xiàn)超低至0.5％的CPU負(fù)載與低調(diào)度延遲，靈活支持端側(cè)多任務(wù)場(chǎng)景和任意優(yōu)先級(jí)調(diào)度場(chǎng)景，確保高優(yōu)先級(jí)任務(wù)的即時(shí)響應(yīng)。
－ 支持INT4/8/16/32、FP4/8/16/32、BF16多精度融合計(jì)算和強(qiáng)浮點(diǎn)計(jì)算：
可靈活適配智能手機(jī)邊緣部署、AI PC推理、智能汽車等從傳統(tǒng)CNN到前沿大模型的數(shù)據(jù)類型需求，平衡性能與能效。
相比上代“周易”X2，CNN模型性能提升30-50％，多核算力線性度達(dá)到70-80％。
在同算力規(guī)格下，AIGC大模型能力較上一代產(chǎn)品實(shí)現(xiàn)10倍增長(zhǎng)，這得益于16倍的FP16 TFLOPS、4倍的計(jì)算核心帶寬、超過10倍的Softmax和LayerNorm性能提升共同驅(qū)動(dòng)。
基于上述優(yōu)化，“周易”X3 NPU的端側(cè)大模型推理更加高效。
Llama2 7B大模型實(shí)測(cè)中，“周易”X3 NPU IP在Prefill階段算力利用率高達(dá)72％，而且在安謀科技Arm China自研解壓硬件WDC的加持下，Decode階段有效帶寬利用率超過100％，遠(yuǎn)超行業(yè)平均水平，從而滿足大模型解碼階段的高吞吐需求。
除了高性能硬件，“周易”X3 NPU IP還配套提供完善易用的“周易”Compass AI軟件平臺(tái)，通過軟硬一體協(xié)同設(shè)計(jì)，大大提升開發(fā)部署效率。
Compass AI軟件平臺(tái)通過覆蓋開發(fā)全流程的工具鏈、極致的易用性優(yōu)化、開放的生態(tài)布局，解決了端側(cè)AI開發(fā)“適配難、周期長(zhǎng)、門檻高”等難題。
作為核心工具，平臺(tái)中的NN Compiler（神經(jīng)網(wǎng)絡(luò)編譯器）集成Parser（模型解析）、Optimizer（優(yōu)化器）、GBuilder（生成器）、AIPULLM（大模型運(yùn)行工具），可實(shí)現(xiàn)主流模型的高效轉(zhuǎn)化、自動(dòng)化優(yōu)化、部署配置生成。
它還具備以下核心能力：
－ 廣泛的框架與模型支持：
支持超過160種算子與270種模型，兼容TensorFlow、ONNX、PyTorch、Hugging Face等主流AI框架，提供開箱即用的Model Zoo。
－ 創(chuàng)新的Hugging Face模型“一鍵部署”：
通過AIPULLM工具鏈，直接支持Hugging Face格式模型，實(shí)現(xiàn)“一站式”轉(zhuǎn)化與部署，極大降低開發(fā)門檻。
－ 先進(jìn)的模型推理優(yōu)化：
業(yè)界領(lǐng)先的大模型動(dòng)態(tài)shape支持，高效處理任意長(zhǎng)度輸入序列；
提供Tensor、Channel、Token Level多樣量化方式，以及GPTQ等大模型主流量化方案，并增加對(duì)LLM/VLM/VLA及MoE等模型的高性能支持。
－ 靈活的開發(fā)者賦能：
提供多種開放接口，支持用戶模型與自定義算子的開發(fā)與調(diào)試；
配備豐富的調(diào)試工具與Bit精度軟件仿真平臺(tái)，支持多層次白盒開發(fā)與性能調(diào)優(yōu)，簡(jiǎn)化算法移植與部署。
－ 全面的系統(tǒng)與異構(gòu)兼容：
支持Android、Linux、RTOS、QNX等多種操作系統(tǒng)，并通過TVM/ONNX實(shí)現(xiàn)SoC異構(gòu)計(jì)算，高效調(diào)度CPU、GPU、NPU等計(jì)算資源。
發(fā)布會(huì)現(xiàn)場(chǎng)，安謀科技還全面展示了“周易”NPU產(chǎn)品方案與落地成果。
－ “周易”Z1：
算力0.32~3.75 TOPS，適用于AIoT場(chǎng)景，廣泛支持人臉識(shí)別、人臉及人體關(guān)鍵點(diǎn)檢測(cè)、文字識(shí)別等，已進(jìn)入AI智能音箱等多種產(chǎn)品。
－ “周易”Z2/Z3：
算力1.25~5 TOPS，面向AIoT、入門級(jí)座艙等市場(chǎng)，支持前視輔助駕駛方案、艙泊一體方案及安全儀表盤方案、圖像超分辨率優(yōu)化等。
－ “周易”X1：
算力10 TOPS，面向高端AIoT、汽車座艙等市場(chǎng)，支持駕駛員監(jiān)控、乘客監(jiān)控、自動(dòng)泊車、AVM 360環(huán)視、AI圖像降噪等。
－ “周易”X2：
算力10-30 TOPS，面向高端AIoT、AI PC筆記本、AI平板機(jī)、AI手機(jī)等，現(xiàn)場(chǎng)展示了運(yùn)行Stable Diffusion v1.5文生圖、CLIP文搜圖的能力，可實(shí)現(xiàn)端側(cè)多模態(tài)AI流暢運(yùn)行。
－ “周易”X3：
算力8-80 FP8 TFLOPS，面向基礎(chǔ)設(shè)施、智能汽車、移動(dòng)終端、AIoT等市場(chǎng)，現(xiàn)場(chǎng)展示了基于“周易”X3的主流大模型效果，包括運(yùn)行DeepSeek-R1-Distill-Qwen-1.5B模型的文生文AI流暢對(duì)話、運(yùn)行Stable Diffusion v1.5的文生圖效果、運(yùn)行MiniCPM v2.6模型的圖片識(shí)別及圖生文多模態(tài)應(yīng)用等，均展現(xiàn)出優(yōu)異的端側(cè)大模型推理性能。