IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍
发布时间:2024-12-26 22:44:26 作者:玩站小弟 我要评论
12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。IBM推出了新一代光电共封装CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输
。
12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。
IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。
研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共
具体而言,工艺这一新技术带来了三大方面的模型显著优势:
首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。
其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。
这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。
最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。
相关文章
掉粉130万!网红羊毛月抖音账号被禁止关注:因嘲讽00后找不到工作塌房
12月25日消息,今年11月,抖音800万粉丝网红博主“羊毛月”发布一则名为“这么难吗找工作”的视频,并嘲讽00后找不到工作,引发网友热议。许多网友认为2024-12-26极越CEO夏一平上月还请300多位车主吃海底捞:如今被员工围堵
12月12日消息,据媒体报道,极越汽车陷入经营危机,就在今天上午,极越CEO夏一平被极越员工围堵在办公室。夏一平表示:正在积极解决问题,希望大家给一些时间。有网友发现,就在上个月,夏一平还跟车主朋友一2024-12-26- 12月12日消息,今日,国家语言资源监测与研究中心发布“2024年度十大网络用语”。入选十大网络用于的依次为:新质生产力、《黑神话:悟空》、人工智能+、含金量还在上升、City2024-12-26
心理学家谈姆巴佩:下山的死亡率比登山更高,因为你的神经放松了
12月10日讯 TA采访到专门从事运动领域的心理学家Sara Martinez de Espejo,后者对姆巴佩自信心的丧失进行了解读。Sara表示:“攀登珠峰时死亡率更高还是从珠峰下山时死亡率更高?2024-12-26凯迪拉克女销售涉嫌私收购车款“跑路” 有人转账26万无法提车
12月26日消息,据报道,近日,有不少在江苏南京一凯迪拉克4S店购车的市民在网络上反映,自己购车时被店内一女销售陈某某忽悠,将购车款打入她个人账户,迟迟未进公司账户,导致他们无法提车。报道称,陈先生南2024-12-26- WBG转会期一手消息由JR1744792119发表在和平精英 gpWBG转会方案大改WBG以Suk为核心重组除Suk以外其余队员全部挂牌转会怪不得最近看不到Suk试训可能是把卖出去队员的转会费来组建战2024-12-26
最新评论