至顶网软件与服务频道消息:IBM已经与麻省理工学院的研究人员合作开发了一种新方法,可以更有效地训练“视频识别”深度学习模型。
深度学习是机器学习的一个分支,旨在复制人脑解决问题的方式,已经在语言翻译、图像和语音识别等领域引发了重大颠覆。
视频识别类似于图像分类,深度学习模型会尝试识别视频中的一切,包括所看到的对象和人物,他们在做什么等等。两者之间的主要区别在于,视频相比简单的静态图像具有更多的运动部分,因此训练深度学习模型来理解视频内容要花费更多的时间和精力。
麻省理工学院在今天的一篇博客文章中解释说:“据估计,训练视频识别模型所需要的数据比训练图像分类模型最多可多出50倍,处理能力则是其8倍。”
当然,没有人喜欢为这种任务投入大量的计算资源,因为成本是极高的。此外,这种任务对资源的要求,使其几乎无法在低功率移动设备上运行视频识别模型。
这些问题促使麻省理工学院电气工程与计算机科学系助理教授Song Han领导的研究团队提出了一种更为有效的视频识别训练模型,这项新技术极大地减少了视频识别模型的大小,从而缩短了训练时间并提高了移动设备的性能。
“我们的目标是让使用低功耗设备的任何人都可以使用AI。要做到这一点,我们就需要设计出一种高效的AI模型,这种模型能耗低,且可以在边缘设备上平稳运行。”
图像分类模型通过在图像像素中查找图案来建立工作模式,以构建它们看到的内容呈现。在有足够示例的情况下,该模型可以学习识别人、物体及其之间的关联方式。
视频识别的方式类似,但是深度学习模型更进了一步,使用“三维卷积”在一系列图像(视频帧)编码时间,从而使得模型更大、计算更密集。为了减少计算量,Han和他的同事设计出了一种“时间偏移模块”,该模块将选定视频帧的特征映像移动到相邻的帧,通过混合过去、现在和未来的空间呈现,模型无需明确呈现即可实现时间流逝感。
这项新技术让基于Something-Something视频数据集(一系列密集标记的视频剪辑集合,呈现了人类对日常事务执行所预设的基本动作)的模型训练速度比现有模型快了3倍。
该模型甚至可以实时理解人们的动作,并且能耗很低,例如该模型让摄像头上安装的单板计算机立即对手势进行分类,能耗相当于自行车灯的电量。
Constellation Research首席分析师、副总裁Holger Mueller表示,机器学习仍处于发展早期阶段,采用这种创新方法所能获得的收益也是如此。“今天MIT和IBM合作加速视频识别技术的发展,而这正是目前难度最大的机器学习任务之一。”
IBM和MIT表示,这种新的视频识别模型可以在运用于各个领域,例如可以加快在YouTube或类似服务上分类视频的速度,还可以使医院在本地而不是在云中运行AI应用,从而使机密数据更安全。
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。