深度学习加速器为大规模部署AI提供更优解

时间:2024-12-29 04:12:45 作者:水韵 热度:

7月11日,英特尔面向中国市场推出其第二代深度学习加速器Gaudi2。作为英特尔从云到端产品组合的重要组成,Gaudi2致力于以领先的性价比优势,加速AI训练及推理,为用户提供更高的深度学习性能和效率,从而成为大规模部署AI的更优解。

“人工智能是行业中最具颠覆性的技术,正在对我们的生活产生极大的影响。几乎每个行业都在寻求部署AI的方式,以提高生产力并推动创新。”英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示,英特尔也正在与广泛市场细分领域的客户积极合作,致力于成功将AI部署到他们的业务中。Gaudi2深度学习加速器能有效降低人工智能的准入门槛,并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力,从而帮助他们构建人工智能的未来。

据了解,Gaudi2以第一代Gaudi高性能架构为基础,以多方位性能与能效比提升,加速高性能大语言模型运行,出色性能在一些基准测试中得到了充分认证,其在GPT-3模型、计算机视觉模型ResNet-50、Unet3D,以及自然语言处理模型BERT上均取得了优异的训练结果。

目前,浪潮信息与英特尔合作打造并发售基于Gaudi2深度学习加速器的浪潮信息AI服务器NF5698G7。

浪潮信息高级产品经理王磊表示,Gaudi2深度学习加速器的架构旨在高效扩展,以满足大规模语言模型及生成式AI模型的需求。“NF5698G7是专为面向生成式AI市场创新开发的新一代AI服务器,具备高性能、高扩展、高能效和开放生态等优点,能为AI客户提供强大的大模型训练和推理能力。”


站长声明:以上关于【深度学习加速器为大规模部署AI提供更优解- 】的内容是由各互联网用户贡献并自行上传的,我们新闻网站并不拥有所有权的故也不会承担相关法律责任。如您发现具有涉嫌版权及其它版权的内容,欢迎发送至:1@qq.com 进行相关的举报,本站人员会在2~3个工作日内亲自联系您,一经查实我们将立刻删除相关的涉嫌侵权内容。