今天IBM公布了一款新软件,称其更容易训练机器学习模型,以便做出决策和从大数据中提取洞察。
这款名为Deep Learning Impact的软件工具,帮助用户开发的AI模型可使用流行的开源、深度学习框架,例如TensorFlow和Caffee,而且从12月开始这款工具将被添加到IBM的Spectrum Conductor软件中。
除了公布新软件之外,IBM还提到了基于Power9处理器的新系统,IBM在今年SC17大会上进行了展示。
IBM表示,这些系统是针对AI工作负载量身定制的,因为这些系统可以在Power9 CPU和硬件加速器(例如GPU和FPGA)之间加速传输数据,通常这些加速器是用与训练和运行机器学习模型的。
Power9系统还将在Power9处理器以及系统中其他加速器之间的高带宽连接。IBM表示,Power9将成为首个片上支持最新高速连接器(包括Nvidia下一代NVLink、OpenCAPI 3.0和PCIe 4.0)的商用平台。
IBM公司副总裁、认知系统开发研究员Brad McCredie表示:“我们看你到片上微处理器——处理片上集成——的时代正在终结,摩尔定律也将消失。”
“Power9让我们有机会尝试新的架构设计,通过跨系统堆栈实现数据带宽最大化,从而推动计算打破当前的限制。”
“Power9的基石是一个内部的信息高速公路,将处理进行分离,强化高级加速器来消化和分析海量数据集。”
下一代Nvidia NVLink和OpenCAPI互连将让附加GPU的性能明显高于x86系统中普遍采用的PCIe 3.0连接器所能实现的性能,而PCIe 4.0互连的速度将是PCIe 3.0的2倍。
IBM称,这个新的Power9系统最大的亮点,就是为美国能源部构建的Summit和Sierra超级计算机,也采用了Nvidia最新基于Volta的Tesla GPU加速器。Summit超级计算机预计性能将提升到是DOE Titan超级计算机的5到10倍。
IBM的重点是为可以有效处理多种类型芯片之间处理的系统奠定基础,这也是与Google、Mellanox、Nvidia和其他OpenPower Foundation成员共同努力的部分结果。
今年早些时候,IBM高级副总裁Bob Picciano谈到了IBM将如何计划打造能够更好地解决与使用AI分析非结构化数据相关工作负载的系统。
好文章,需要你的鼓励
这项研究针对现代文档检索系统中的关键缺陷:独立处理文档片段导致丢失上下文信息。研究团队开发了ConTEB基准测试来评估模型利用文档级上下文的能力,并提出了InSeNT方法,结合后期分块和创新的对比学习策略。实验表明,上下文感知嵌入显著提升检索性能,尤其在处理非自包含文本片段时,同时保持计算效率,对分块策略更具鲁棒性,并且在语料库规模扩大时表现更佳。这一研究为更智能的文档检索系统铺平了道路。
这项由布朗大学和Cohere实验室研究者联合进行的研究全面分析了大型语言模型(LLM)安全研究中的语言不平等现象。通过系统回顾近300篇2020-2024年间的安全相关论文,研究发现LLM安全研究严重偏向英语,即使中文这样的高资源语言也仅获得英语十分之一的研究关注,且这一差距正在扩大。研究还揭示非英语语言很少作为独立研究对象,且英语安全研究常忽略语言覆盖文档化。为解决这一问题,研究者提出了三个未来方向:开发文化敏感的评估基准、创建多语言安全训练数据,以及深入理解跨语言安全泛化挑战。
这项研究提出了ChARM,一种创新的角色扮演AI奖励建模框架,通过行为自适应边界和自我进化策略大幅提升AI角色的真实性和一致性。研究团队创建了包含1,108个角色的RoleplayPref数据集,实验表明ChARM比传统模型提高了13%的偏好排名准确率,应用于DPO技术后在多项基准测试中达到了领先水平。这一突破将为娱乐、教育和心理健康支持等领域带来更加自然、个性化的AI互动体验。
这篇研究重新审视了循环神经网络中的双线性状态转换机制,挑战了传统观点。高通AI研究团队证明,隐藏单元不仅是被动记忆存储,更是网络计算的积极参与者。研究建立了一个从实数对角线到完全双线性的模型层级,对应不同复杂度的状态跟踪任务。实验表明,双线性RNN能有效学习各种状态跟踪任务,甚至只需极少量训练数据。研究还发现,纯乘法交互比加法交互更有利于状态跟踪,为循环网络设计提供了新视角。