2月14日，快科技发布消息，安谋科技的“周易”NPU取得了显著进展。该产品已实现端侧部署，并运行了DeepSeek - R1系列模型。这一成就彰显了其出色的性能和成本优势。
端侧部署里程碑
安谋科技推出了搭载先进“周易”NPU处理器的硬件产品。该产品已实现端侧部署并运行DeepSeek - R1系列模型。至2024年底，该产品在模拟平台上完成了部署与优化。同时，在FPGA平台上，它展现了端到端的应用展示。这一成果标志着端侧处理大型模型有了新的解决途径。
大规模端侧运行的模型展现出重要意义，此类模型过去主要在云端完成计算任务。安谋科技的新策略实现了设备本地高效处理大型模型任务，减少了网络依赖，为智能设备的普及推广打下了坚实基础。
架构设计先进
NPU推出的“周易”新型产品，其架构设计针对AI大模型特性进行了优化。这一设计从根本上满足了大型模型的运行需求，同时在数据处理和模型运算等方面表现出更高的效率。至2024年底，Beta测试版已对早期用户开放，旨在收集评估反馈，为后续优化提供依据。
今年上半年，一款针对大模型时代设计的强大处理器将正式面世并公开展示。该处理器基于先进的架构，这一架构为未来功能的升级和性能的进步奠定了坚实的根基，预计将推动端侧AI处理领域的最新发展潮流。
性能表现卓越
测试数据显示，在遵循标准单次输入和设定上下文长度为1024的测试环境下，新发布的“周易”NPU表现出卓越的性能。在首字计算阶段，其算力利用率成功攀升至40%以上；进入解码环节，有效带宽利用率更是达到了80%以上。这些数据揭示了在数据处理的关键步骤中，该处理器能够高效地利用资源。
在1024个上下文长度配置下，7B版本的处理速度最高可达到每秒40个tokens，并支持动态长度模型的推理输入。这一性能特点适用于多种实际应用场景，包括智能客服和文本生成等。
软件栈支持广泛
安谋科技软件栈在大模型支持领域技术成熟度较高，其优化水平显著。目前，该软件栈已支持包括Llama、Qwen、DeepSeek、ChatGLM、MiniCPM在内的多款主流大模型。这为开发者提供了多样化的选择，使他们能够根据实际需求进行应用开发。
Hugging Face的模型库对接工具链现已推出，方便开发者轻松部署主流模型。这一举措大幅减少了开发难度和成本，并有效推动了大型模型应用的普及和实施。
硬件实力强劲
新发布的“周易”NPU采用7纳米工艺制造，单个Cluster的运算能力最高可达到80 TOPS。该芯片能够轻松应对超16K上下文长度的大规模模型部署需求。凭借这一特性，该芯片在处理大型且复杂的模型方面表现出色。
带宽已升级至256GB/s，显著减轻了大型模型在计算过程中的带宽瓶颈。系统支持FP16数据精度的计算，并实现了INT4的软硬量化加速。同时，系统拥有强大的多核算力扩展功能，足以满足端侧模型对低延迟的首字处理要求。
多任务并行出色
新一代“周易”NPU具备出色的多任务处理能力。它通过精准的任务规划和优先级资源分配，确保了多任务之间的顺畅切换。这一功能对于整合传统语音、视觉处理和大型模型应用设备来说至关重要。
该系统能够实现不同业务的高效协同，提升设备整体运行效率，同时为多功能智能设备的未来发展奠定了稳固的硬件基础。
您如何评价安谋科技新发布的“周易”神经网络处理器在智能设备领域的未来发展？恳请您分享您的见解、给予点赞以及推广该篇文章。
