IBM推出新一代光电共封装工艺,可使大模型训练速度提升近五倍

来源:爱集微 #光电共封装# #IBM#
1206

IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。

据报道,IBM推出了新一代光电共封装(CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输,大大补充了现有的短距离光缆系统,有望重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输,以及最大限度地减少GPU停机时间,同时大幅加快AI工作速度。

据悉,这一新技术具有显著优势。首先,极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上。其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。此外,光电共封装技术还可显著提升了数据中心的能效。

责编: 张轶群
来源:爱集微 #光电共封装# #IBM#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...