首页
学习
活动
专区
圈层
工具
发布

BitEnergy AI新算法,用整数加法替代了浮点乘法(FPM),节能95%

BitEnergy AI公司的一项创新成果引起了广泛关注:他们开发了一种名为线性复杂度乘法(L-Mul)的技术,该技术使用整数加法代替传统的浮点乘法(FPM),在简化计算的同时,仍能保持较高的精度和准确度。据报道,这种方法有望将AI系统的电力消耗减少高达95%,对于促进可持续的AI发展具有重要意义。

在AI领域,计算效率一直是业界关注的重点。随着模型规模的不断扩大,所需的计算资源也随之增加,这不仅导致了高昂的运营成本,还加剧了能源消耗问题。BitEnergy AI公司的L-Mul技术通过使用更为简单的整数加法代替复杂的浮点乘法,有效降低了运算的复杂度,从而大幅减少了电力消耗。

L-Mul技术的核心在于其独特的计算方式。在传统的深度学习模型中,浮点数的乘法运算往往耗能巨大。L-Mul通过使用整数加法来近似浮点数乘法,不仅能够显著节约能量,而且计算复杂度也大幅降低。实验表明,在张量处理硬件中应用L-Mul操作可以潜在地通过元素级别的浮点张量乘法减少95%的能源成本,以及点积的80%能源成本。

L-Mul技术在多种任务上进行了测试,包括语言理解、结构推理、数学计算和常识问答等,结果表明在这些任务中的表现都非常不错。特别是在Transformer模型中,L-Mul可以直接应用于现代语言模型的核心部分——注意力机制,而对模型性能的影响几乎可以忽略不计。

然而,L-Mul技术的广泛应用还面临一些挑战。目前,这项技术需要特殊类型的硬件支持,而这一点在现有的人工智能硬件上尚未得到充分的优化。BitEnergyAI公司正在积极开发这种硬件,并创建编程接口以促进其集成到现有的AI系统中。随着这些硬件的开发和优化,L-Mul技术有望在未来的AI发展中发挥重要作用,推动人工智能朝更可持续的方向发展。

这一技术突破不仅为AI推理提供了新的思路,而且对于那些致力于打造绿色环保AI解决方案的企业来说,无疑是一个福音。随着气候变化成为全球关注的问题,减少碳排放已经成为各国政府和企业的共识。L-Mul技术的应用,不仅有助于降低数据中心的能耗,还能推动整个AI行业向更加绿色低碳的方向迈进。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Ob9bi9y5vZ021AoUmD6pd_og0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券