芯砺智能联合燧原科技共同发布基于Chiplet的高效NPU联合计算架构

来源:爱集微 #Chiplet# #NPU联合计算# #AI算力基建# #芯砺智能# #燧原科技#
9812

近日,芯砺智能和燧原科技联合发布基于Chiplet的高效NPU联合计算架构,该架构有效地提高了跨芯粒(Die)多NPU运算单元联合计算的效率,助力AI算力向更高性能,更低成本,更易扩展的方向发展,赋能算力基础设施的建设。

随着AI大模型时代的来临,市场对算力的需求出现了爆发性增长。在后摩尔时代,依靠传统的单一芯片模式,已经很难满足算法和应用的需求,高性能的Chiplet芯片是解决这一问题不可或缺的方案。但Chiplet中多NPU的联合计算依然是一个技术难点,如何让两个或两个以上的算力单元真正达到算力线性叠加的效果一直是业界面临的巨大挑战。

此次燧原科技和芯砺智能共同发布的NPU联合计算架构是双方团队在各自领域长久的技术积累和通力合作的结果。该计算架构基于芯砺智能超低延时(<5ns)的专利性Chiplet D2D 互连技术,完美弥补了跨Die数据传输带来的性能损失。再配合芯砺智能独有的模型切割和优化技术,完美实现了复杂大型网络向跨Die 算力单元NPU的部署,并且保证了运算效率。该架构的效果在FPGA原型平台上得到了验证。

工程团队分别把Resnet50等常用算法分别部署在双FPGA和单FPGA上,试验数据显示双FPGA联合计算效率相对于单FPGA提升了1.936倍。基本达到了线性叠加的作用。

燧原科技COO张亚林表示,燧原科技深耕人工智能算力基础设施建设已拥有云端训练和推理两条产品,我们始终坚持架构创新的技术路线,以提升核心竞争力,此次和芯砺智能共同发布的高效的联合计算架构是AI并行运算上的一个重要里程碑,标志着算力的扩展有了更高效的方式,从而满足超大规模数据中心对于性能和功能不断增强的需求,未来希望能与芯砺智能继续深入合作,一起助力中国的算力底座建设 。

芯砺智能CEO张宏宇表示,芯砺智能的第一代基于Chiplet的高效NPU联合计算架构是继Chiplet D2D互连IP之后的又一项重要突破,感谢燧原科技的认可和支持。此次和燧原共同发布NPU联合计算的架构,进一步强化了我们与燧原科技的战略合作,未来我们还将继续支持配合燧原的算力普惠战略,加速算力底座建设。同时联合计算架构也标准着芯砺智能具备了向边缘端应用场景提供各种可扩展AI算力的核心能力,进一步夯实了芯砺智能打造人工智能时代的算力基础设施,提供“大家都用得起”的算力的宏伟目标。

责编: 爱集微
来源:爱集微 #Chiplet# #NPU联合计算# #AI算力基建# #芯砺智能# #燧原科技#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...