IBM研究员发表了一篇论文,介绍了将模拟计算用于人工智能(AI)的突破。
在构建人工智能系统的时候,需要对数据模型进行训练。就是对训练数据的不同子集赋予不同的权重,例如描述猫不同特征的图像数据。
在传统(数字)计算机上训练人工智能系统时,人工智能模型分散存储在内存中。计算任务需要在内存和处理单元之间不断传递数据。IBM 表示,这一过程会减慢计算速度,并限制能够实现的能效上限。
将模拟计算用于人工智能,可能会提供一种更有效的方法,实现同数字计算机上运行的人工智能相同的结果。IBM将模拟内存计算或模拟人工智能定义为一种借鉴生物大脑神经网络运行方式关键特征的技术。研究人员表示,在人类和许多其他动物的大脑中,突触的强度(称为权重)决定了神经元之间的通信。
IBM表示,在模拟人工智能系统中,这些突触权重被就地存储在相变存储器(PCM)之类的纳米级电阻存储器件的电导值中。然后,它们在深度神经网络中被用于进行累积乘法运算。
IBM表示,这项技术可以减少在存储器和处理器之间不断发送数据的需求。
在发表于《自然-电子学》(Nature Electronics)的一篇论文中,IBM研究院介绍了一种混合信号模拟人工智能芯片,可运行各种深度神经网络(DNN)推理任务。据IBM 称,这是首款在测试中执行计算机视觉AI任务方面与数字芯片不相上下的模拟芯片,而且能效比后者更高。
该芯片是在IBM的奥尔巴尼纳米技术中心制造的。它由64个模拟内存计算内核(或芯片)组成,每个内核包含一个256 x 256的突触单元交叉阵列。IBM表示,每个芯片中都集成了基于时间的模数转换器,用于在模拟数据和数字数据之间转换。每个芯片还集成了轻量级数字处理单元,IBM 称这些处理单元可执行非线性神经元激活功能和缩放操作。
IBM表示,每块芯片都可以执行一层DNN模型相关的计算。论文作者表示:“利用该芯片,我们对模拟内存计算的计算精度进行了最全面的研究,并在CIFAR-10图像数据集上实现了92.81%的精确度。”
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。