AMD跑大模型终于Yes！MI300X对比NVIDIA H100/200毫不逊色

发布时间：2024-09-05 13:05:03

9月5日消息，据媒体报道，在AI算力领域，NVIDIA长期占据主导地位，但AMD的最新GPU产品MI300X在性能上终于展现出了与NVIDIA H100/200相媲美的实力。

根据The Information发布的评测报告，AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当，显示出AMD在高性能AI计算领域的进步。

这份评测报告由MLCommons提供数据，在测试中，AMD的MI300X GPU以及NVIDIA的H100和H200 GPU均得到了评估。

结果显示，在AI推理任务中，MI300X GPU的性能与H100 GPU不相上下，加上对GPU成本及系统总成本的估计，说MI300X GPU能媲美H100和H200 GPU也不为过。

值得注意的是，这些测试仅使用了来自Meta的Llama 2 70B，尽管测试存在局限性，但这一结果仍然表明，AMD的MI300X GPU在处理大型AI模型方面具有强大的潜力。

业内人士也对AMD在AI领域的发展前景持乐观态度，Transformer作者及Cohere公司创始人之一艾丹·戈麦斯表示，他相信AMD和Tranium等平台将很快进入主流市场。

（责编： admin）

免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。

如有疑问请发送邮件至：goldenhorseconnect@gmail.com