IBM推出AI芯片其能效优于基准

IBM声称已开发出世界上**批采用7纳米技术构建的用于AI推理和训练的节能芯片之一。在2月初举行的2021年国际固态电路虚拟会议上发表的一篇论文中,该公司的研究人员详细介绍了一种硬件加速器,该加速器支持多种模型类型,同时在所有模型类型上实现“领先”的电源效率。

AI加速器是一种专用硬件,旨在加速AI应用程序,特别是神经**,深度学习和机器学习。它们在设计上是多核的,并且专注于低精度算术或内存计算,这两者都可以提高大型AI算法的性能,并导致自然语言处理,计算机视觉和其他域。

IBM表示,其四核芯片(仍处于研究阶段)已针对具有许多不同的AI和机器学习模型的低精度工作负载进行了优化。与高精度技术相比,低精度技术需要更少的硅面积和功耗,从而提高了缓存的使用率并减少了内存瓶颈。这通常会减少训练AI模型的时间和精力成本。

IBM的AI加速器芯片是少数采用超低精度“混合FP8 ”格式以用于基于极紫外光刻的软件包来训练深度学习模型的芯片。它也是**个采用电源管理的功能,能够通过武汉教育资源在高功耗的计算阶段放慢速度来最大化性能。它提供了很高的持续利用率,表面上可以转化为卓越的实际应用程序性能。