AMD宣布,对ROCm软件栈进行了更新,推出新的ROCm 10.2。本次更新优先考虑稳定性,更新开发者已依赖的框架、库和工具,使其能够安心升级。另外AMD还将GPU计算支持扩展到另外18款Ryzen处理器,包括Ryzen 7 253、Ryzen 7 249、Ryzen 7 217和Ryzen 5 224等型号以及对应的PRO版本。

根据AMD的发布信息,所有18款处理器均采用了基于“gfx1103”RDNA 3架构的集成显卡,更新带来了对Windows和Linux上HIP、PyTorch和vLLM的验证支持,使开发者能够在无需自定义构建或配置的情况下运行支持的本地AI工作负载。 

这次ROCm 10.2还带来了SGLang和vLLM的改进、ROCm CLI和AMD Skills的更新,以及PCIe相关的RCCL优化。AMD增加了对Radeon PRO W7900D的支持,并扩展了对企业级Linux发行版的兼容性,包括RHEL 10.3、RHEL 9.9和SLES 16.1。

另外AMD还确认为Windows Server 2025和即将推出的Windows Server 2028提供Instinct MI350P的支持,将这款加速卡带入企业级Windows环境。在发布时支持AMD推理微服务(AIM)和GPU分区,部署本地部署的客户将获得工具,简化模型部署,并在不同工作负载间分配GPU容量,同时支持其数据主权和驻留需求。

AMD是在今年5月推出了Instinct MI350P PCIe加速卡,属于标准风冷服务器使用的双槽厚度扩展卡,用于推理工作负载,适配当前数据中心的电力、散热和机架基础设施。这也是AMD时隔四年再次带来PCIe AIC形态的加速卡,期间同类产品采用的是OAM外形规格。

Instinct MI350P PCIe基于CDNA 4架构,采用了N3P工艺的加速器复合核心(XCD)和N6工艺的I/O核心(IOD),整体规格是在MI350X基础上减半。新款GPU包含了有4个XCD模块,每个XCD模块32组计算单元,共计128组,512个矩阵核心,每个XCD配置2MB L2缓存,最高频率达2200MHz;IOD提供有64通道HBM3E显存接口与128MB容量的AMD Infinity缓存;搭配的HBM3E显存采用4堆栈结构,每个堆栈为12层堆叠的36GB,共144GB容量,频率为8Gbps,可提供4TB/s的显存带宽;整卡功耗为450W,可最高配置至600W,通过单个12V-2×6接口供电。