寒武纪发布新款 AI 训练卡 MLU370-X8:7nm 工艺,48GB LPDDR5 内存

更新时间:2022-03-21 17:40:12 编辑:小盛

今日,寒武纪正式发布了全新的训练加速卡——MLU370-X8,这款训练加速卡搭载了双芯片的四芯粒思元 370,集成寒武纪 MLU-Link 多芯互联技术,主要面向训练任务。

寒武纪表示,在业界应用广泛的 YOLOv3、Transformer 等训练任务中,8 卡计算系统的并行性能平均达到 350W RTX GPU 的 155%。MLU370-X8 采用了 7nm 工艺,配备 48GB LPDDR5 内存,FP32 单精度浮点性能达到 24 TFLOPS。

据介绍,MLU370-X8 智能加速卡提供 250W 最大训练功耗,可充分发挥 AI 训练加速中常见的 FP32、FP16 或 BF16 计算性能。寒武纪首次将双芯片四芯粒思元 370 整合在 MLU370-X8 智能加速卡中,提供了两倍于标准思元 370 加速卡的内存、编解码资源,同时搭载 MLU-Link™多芯互联技术。

MLU370-X8 智能加速卡支持 MLU-Link™多芯互联技术,提供卡内及卡间互联功能。寒武纪为多卡系统专门设计了 MLU-Link 桥接卡,可实现 4 张加速卡为一组的 8 颗思元 370 芯片全互联,每张加速卡可获得 200GB / s 的通讯吞吐性能,带宽为 PCIe 4.0 的 3.1 倍,可高效执行多芯多卡训练和分布式推理任务。

软件推荐
  • 上海直聘
    28|35.43MB
    求职者可以在这里寻找各种工作,并与HR在线对话
    下载
  • 轻食
    44|45.65MB
    致力于为大家带来更多的科学饮食搭配建议
    下载
  • Xalhar翻译
    121|48.75MB
    拥有自动纠错、语音识别、智能翻译等强大功能
    下载
  • 知更天气
    67|6.56MB
    每当有特殊的天气情况发生时,都能够在第一时间进行通知
    下载