人工智能行业正迎来飞速发展,技术竞争日趋白热化。在此背景下,一款新型人工智能芯片的上市无疑成为了业界关注的焦点。
Corsair开始出货
11月20日,微软投资企业d-Matrix公司宣布,其首款人工智能芯片Corsair已正式开始批量发货。这一动向标志着AI芯片领域新增一员。Corsair芯片的上市预示着在激烈的市场竞争中,它有望在AI产业中崭露头角。对于d-Matrix公司而言,这无疑是一个重要的里程碑,同时也引发了业界对AI芯片发展的广泛关注与期待。
全球科技界对这一出货事件产生了关注。随着AI需求的不断上升,Corsair的入市可能为整个AI产业链带来新的机遇与挑战,进而可能影响部分AI企业的战略选择。
出色的性能数据
Corsair公布了一组引人注目的性能数据。该数据表明,在单台服务器上,Llama38B芯片能够实现每秒处理60,000个tokens的能力,且每个tokens的处理延迟仅为1毫秒。这一性能数据充分展示了芯片卓越的处理效率。在真实的AI应用场景中,这种高效性能有望显著提高处理速度。
该芯片在性能、能源效率和成本方面相较于GPU及其他替代品展现出显著优势。它在注重效率与成本控制的AI产业中成为一大亮点,对寻求性价比的用户具有极大的吸引力。
AI推理瓶颈及现存方案
AI推理运算领域,数据传输问题一直难以解决。这一过程不仅需要庞大的内存支持,还对内存处理速度有着极高的要求。然而,在满足这两项需求上,实现起来极为不易。目前,针对这一问题,存在三种主要的解决方案。其中,第一种方法是通过抽样和流水线技术来减少处理数据量,以此提高深度学习的处理速度。但这种方法是以降低准确性和精确度为代价的。因此,对于那些对精度要求极高的AI推理场景,这种方法可能并不适用。
第二种方案,即苹果、英伟达、英特尔和AMD所采用的,是在传统处理器周边增设专用AI引擎的处理器设计。尽管此方案具有一定合理性,但需整合SRAM及外部DRAM,且仍处于高能耗、低效率的运行状态,对长期发展和大规模应用推广存在不利影响。
d-Matrix的创新方法
Matrix采用了第三种策略,即将计算过程移至内存周边。这种数字存算一体(DIMC)的技术架构独具特色。该架构显著减少了延迟,并降低了能耗。其优势显著,尤其是在处理涉及相对静态(尽管规模较大)的权重数据集时。这些数据集频繁被访问,而DIMC技术能够有效消除大部分能量转移成本和数据传输的延迟。此外,它还能提升数据交互速度,并增强能效。
DIMC架构使得Corsair芯片能够实现高达150TB/s的内存带宽,交互速度提升了十倍,同时能效提升了三倍。这些性能的提升为人工智能推理奠定了坚实的支撑,显著促进了整体运行效率的提升。
Corsair的其他特性
Corsair芯片在多方面展现出优异的性能。该芯片采用PCIeGen5全高全长卡的标准设计,这种设计具有较好的通用性,便于与现有系统相兼容。此外,通过DMXBridge卡实现双卡连接,有效提升了性能表现。
Corsair卡搭载多个DIMC计算核心,其8位峰值计算能力达到2400TFLOP。此外,该卡集成了2GB性能内存,并支持高达256GB的外部容量内存。这些特性共同作用,显著提升了Corsair芯片的综合性能。
对行业格局的影响
Corsair芯片的出货量预计将对AI芯片市场产生重大影响。该芯片凭借其独特性能和技术架构,有可能夺取其他芯片的市场份额。对于追求高效、节能且性能卓越芯片的AI企业而言,Corsair成为了一种新的选择。在数据中心、AI科研机构等机构进行设备升级或新建项目时,Corsair芯片有可能被纳入其考虑范围。
关于Corsair芯片是否能在激烈的AI芯片市场竞争中占据主流地位,您有何见解?敬请于评论区留言,期待您的观点。同时,我们也诚挚邀请您为本文点赞及转发。