新型AI芯片将大语言模型能耗减半
创始人
2025-05-15 09:00:58

原标题:新型AI芯片将大语言模型能耗减半

美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。

当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。

研究团队指出,问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。

他们开发的新芯片能够借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。

研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升,这项技术或将成为绿色计算的重要推手。(记者刘霞)

相关内容

热门资讯

南京信息工程大学通报泄题事件 ... 人民网北京1月16日电 (记者郝孟佳)14日,南京信息工程大学教务处发布情况通报称,该校《数字电子技...
《全国工匠学院体系建设与发展报... 大会现场。中国劳动关系学院供图人民网北京1月15日电 (记者李依环)近日,全国工匠学院高质量建设20...
东华大学国家卓越工程师学院成立 东华大学国家卓越工程师学院成立大会现场。校方供图人民网北京1月15日电 近日,东华大学国家卓越工程师...
未来教师公益计划试点工作部署会... 部署会现场。主办方供图人民网北京1月16日电 (记者李依环)为深入贯彻落实《教育强国建设规划纲要(2...
叶燊:以教育家精神铸魂强师 锻... 教育强国建设新征程上,为进一步助力教育家精神融入教师生涯全过程,并转化为广大教师的思想自觉和行动自觉...
每日一题丨孩子不与家人沟通,却... 指导专家:赵晴博士,现就职于中国科学院心理研究所。2018年在澳大利亚格里菲斯大学毕业,获得应用心理...
科学家构建“细胞配方库” 瑞典隆德大学研究团队构建了“细胞配方库”,在免疫细胞重编程领域取得重要进展。他们开发出一项能够大规模...
宇宙中的神秘“小红点”是什么? 在浩瀚宇宙的深邃背景上,詹姆斯·韦布空间望远镜传回的数据中,一批特殊的“小红点”引起了科学家的浓厚兴...