AMD推出能运行更大模型的AI芯片,对标英伟达

  • 来源: 驱动中国   2023-06-14/15:17
  • 驱动中国2023年6月14日消息  据澎湃新闻报道,AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。

    Dingtalk_20230614151635

    据报道,MI300系列芯片包括MI300A,以及特别为大语言模型优化的MI300X。其中,MI300A芯片是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。

    而MI300X是一款为大语言模型进行了优化的版本。据介绍,生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。

    AMD CEO苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。


    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多