12月13日，快科技报道，AMD四年前设定的目标目前已取得显著进展。预计到2025年，其EPYC系列服务器处理器与Instinct系列AI芯片的能效将比2020年提升30倍，而MI300XAI芯片已提前一年达成这一目标，成为业界关注的焦点。
目标进展情况
根据THW的报道，AMD利用新配置的服务器对Llama3.1-70B进行了测试，其推理性能显著提升。新服务器的能效是旧机的28.3倍。然而，AMD并未透露旧服务器的具体型号，但推测可能是EPYC7002系列等。这一成就表明AMD在技术进步方面取得了显著成效。尽管尚未实现30倍的目标，但已非常接近。即便旧服务器的详细信息尚未完全公开，但此对比数据仍具有很高的说服力，彰显了AMD的努力成果。
硬件与软件的双重提升
AMD指出，此类高效率的提升并非仅限于硬件层面。在技术进步中，架构的革新扮演了核心角色。同时，软件的优化亦是不可或缺的一环。硬件上的改进，如芯片架构的升级，是较为直观的变化。然而，软件的优化则是在幕后默默支撑，正是硬件与软件的协同作用，促成了这种显著的进步。这显示出AMD并非依赖单一领域，而是通过全方位的优化，使得整个系统效率显著提升。
MI325X的发布
2024年10月，在AdvancingAI2024会议上，AMD发布了新型AI芯片MI325X。该芯片在性能方面显著提升。它是在MI300X的基础上进行升级，特别是在HBM内存方面实现了显著强化。这一改进使得该芯片在数据处理等方面具备了更多优势。
MI325X的内存优势
MI325X搭载了256GB的HBM3E内存，比MI300X增加了64GB。这一内存容量的增加，为芯片带来了更多的缓存空间。在执行大型任务时，它能够更高效地调用数据。这一改进是芯片技术进步的关键环节。拥有更大内存的芯片，尤其在处理复杂模型时，性能可以得到显著提升。
MI325X平台的性能表现
MI325X可支持由八块模块构成的并行平台。此平台具备高达2TB的HBM3E存储容量和48TB/s的带宽。在FP16精度下，整体性能可达10.4PFlops，FP8精度下则为20.8PFlops。在与NVIDIAH200的对比中，MI325X在处理大模型推理任务时展现出显著优势。无论是单卡还是八卡配置，其在性能上均能领先NVIDIAH20020%至40%。此外，单卡配置在训练性能上领先H20010%，而八卡配置与之持平，实属不易。
投产与推出计划
MI325X加速卡及平台计划在第四季度投入生产。相关地，合作伙伴的整机系统和基础架构解决方案预计将从下一年第一季度陆续发布。这一系列安排显现出AMD在AI芯片领域的战略布局清晰，且正稳步推进产业进步。
观察AMD的现状，众多读者或许对这家公司在人工智能芯片领域的未来发展抱有较高期待。我们诚挚邀请大家在评论区积极点赞、转发，并分享您的观点。
