至顶网软件与服务频道消息:IBM已经与麻省理工学院的研究人员合作开发了一种新方法,可以更有效地训练“视频识别”深度学习模型。
深度学习是机器学习的一个分支,旨在复制人脑解决问题的方式,已经在语言翻译、图像和语音识别等领域引发了重大颠覆。
视频识别类似于图像分类,深度学习模型会尝试识别视频中的一切,包括所看到的对象和人物,他们在做什么等等。两者之间的主要区别在于,视频相比简单的静态图像具有更多的运动部分,因此训练深度学习模型来理解视频内容要花费更多的时间和精力。
麻省理工学院在今天的一篇博客文章中解释说:“据估计,训练视频识别模型所需要的数据比训练图像分类模型最多可多出50倍,处理能力则是其8倍。”
当然,没有人喜欢为这种任务投入大量的计算资源,因为成本是极高的。此外,这种任务对资源的要求,使其几乎无法在低功率移动设备上运行视频识别模型。
这些问题促使麻省理工学院电气工程与计算机科学系助理教授Song Han领导的研究团队提出了一种更为有效的视频识别训练模型,这项新技术极大地减少了视频识别模型的大小,从而缩短了训练时间并提高了移动设备的性能。
“我们的目标是让使用低功耗设备的任何人都可以使用AI。要做到这一点,我们就需要设计出一种高效的AI模型,这种模型能耗低,且可以在边缘设备上平稳运行。”
图像分类模型通过在图像像素中查找图案来建立工作模式,以构建它们看到的内容呈现。在有足够示例的情况下,该模型可以学习识别人、物体及其之间的关联方式。
视频识别的方式类似,但是深度学习模型更进了一步,使用“三维卷积”在一系列图像(视频帧)编码时间,从而使得模型更大、计算更密集。为了减少计算量,Han和他的同事设计出了一种“时间偏移模块”,该模块将选定视频帧的特征映像移动到相邻的帧,通过混合过去、现在和未来的空间呈现,模型无需明确呈现即可实现时间流逝感。
这项新技术让基于Something-Something视频数据集(一系列密集标记的视频剪辑集合,呈现了人类对日常事务执行所预设的基本动作)的模型训练速度比现有模型快了3倍。
该模型甚至可以实时理解人们的动作,并且能耗很低,例如该模型让摄像头上安装的单板计算机立即对手势进行分类,能耗相当于自行车灯的电量。
Constellation Research首席分析师、副总裁Holger Mueller表示,机器学习仍处于发展早期阶段,采用这种创新方法所能获得的收益也是如此。“今天MIT和IBM合作加速视频识别技术的发展,而这正是目前难度最大的机器学习任务之一。”
IBM和MIT表示,这种新的视频识别模型可以在运用于各个领域,例如可以加快在YouTube或类似服务上分类视频的速度,还可以使医院在本地而不是在云中运行AI应用,从而使机密数据更安全。
好文章,需要你的鼓励
亚马逊云服务部门与OpenAI签署了一项价值380亿美元的七年协议,为ChatGPT制造商提供数十万块英伟达图形处理单元。这标志着OpenAI从研究实验室向AI行业巨头的转型,该公司已承诺投入1.4万亿美元用于基础设施建设。对于在AI时代竞争中处于劣势的亚马逊而言,这项协议证明了其构建和运营大规模数据中心网络的能力。
Meta FAIR团队发布的CWM是首个将"世界模型"概念引入代码生成的32亿参数开源模型。与传统只学习静态代码的AI不同,CWM通过学习Python执行轨迹和Docker环境交互,真正理解代码运行过程。在SWE-bench等重要测试中表现卓越,为AI编程助手的发展开辟了新方向。
当今最大的AI数据中心耗电量相当于一座小城市。美国数据中心已占全国总电力消费的4%,预计到2028年将升至12%。电力供应已成为数据中心发展的主要制约因素。核能以其清洁、全天候供电特性成为数据中心运营商的新选择。核能项目供应链复杂,需要创新的采购模式、标准化设计、早期参与和数字化工具来确保按时交付。
卡内基梅隆大学研究团队发现AI训练中的"繁荣-崩溃"现象,揭示陈旧数据蕴含丰富信息但被传统方法错误屏蔽。他们提出M2PO方法,通过改进数据筛选策略,使模型即使用256步前的陈旧数据也能达到最新数据的训练效果,准确率最高提升11.2%,为大规模异步AI训练开辟新途径。