Meta Platforms开发了一种人工智能(AI)系统,可以扫描维基百科的文章,分析文章引用来源,确定其中一些是否需要更改。
Meta今天详细介绍了这个AI系统,此外还根据开源许可发布了该系统的代码。
维基百科的编辑们通过检查检索信息的来源,来确保维基百科文章中某些信息是否准确,而检查文章所有引用来源是一个非常耗时的过程。维基百科有数百万页,其中一些页面包含多达数百条引文。
Meta此次发布的AI系统旨在通过对一部分论文引文审查工作实施自动化,来简化维基百科编辑们的工作。该系统可以扫描一篇文章并识别文章中是否存在有可疑引文的信息片段,此外还能够推荐相关性更高的来源,用这些来源替换有问题的引用。
例如,一篇关于某款Apple产品的维基百科文章,可能会意外引用Apple网站上讨论另外一个产品的页面,而Meta的这个新IA系统可以发现该引用是错误的,还可以推荐文章应该引用Apple网站上的准确页面。
Meta利用来自维基百科的400万条信息文本片段对该系统进行训练,使其可以检测出错误的引用。此外,Meta还创建了一个名为Sphere的数据集,其中包含来自开放网络的1.34亿个文档。当系统在维基百科文章中发现引用有问题的时候,系统就会搜索Sphere数据集中的文档,找到相关性更高的来源。
该系统找到可替换有问题的引用的新来源,这个过程涉及到多个步骤。
由于Sphere数据集包含1.34亿份文档,因此搜索相关引用可能需要大量时间。Meta研究人员开发了一系列专业指数加快了这个过程。在数据管理过程中,索引是快捷方式的集合,可以更快速地找到特定信息。
Meta的AI系统使用Meta开发的索引加快搜索Sphere数据集以查找引用,这比其他方法速度更快。当系统找到可能被引用为来源的文档时,就会从文档中提取出相关性最高的段落,还能够确定是否有多个文档可能被作为引用来源。
据Meta称,该系统可创建两个文本片段的数学表示,来确定来自Sphere的文档是否能够支持维基百科文章中的某个信息片段,然后对比这些数据表示以确定是否相关性最高。
“我们设计了一系列工具来对比这些数学表示,以确定一段陈述是支持还是反驳另一段陈述,”Meta研究人员在今天发表的一篇博客文章中详细说明称。如果该系统找到了多个可以作为来源引用的文档,就会根据相关可能性对这些文档进行排名。
研究人员详细介绍说:“该模型使用细粒度的语言理解,根据相关可能性对这些引用来源和检索到的替代方案进行排名。在现实部署环境中,该模型将提供相关性最高的链接作为预期引用来源,供编辑们进行审批。”
除了这个系统之外,Meta还开源了Sphere数据库,以及让该数据库更易于搜索的索引。此外,Meta还将公布一个名为distributed-faiss的内部工具代码,该工具可以跨多个服务器而不是在单个设备上运行索引,从而简化处理过程。
Meta相信这个AI系统、Sphere数据集等其他一系列Meta工程师开发的组件,未来可用于支持多个应用场景。Meta详细说明称:“未来可能还会推出一系列可以实时验证文档的编辑,而这次推出的模型将成为这些编辑器的首批组件。除了提出引文之外,该系统还可以根据网络上相关文件提供的信息,对自动完成文本提供建议,以及校对更正。”
好文章,需要你的鼓励
这项研究由浙江大学、复旦大学等机构联合完成,提出了ReVisual-R1模型,通过创新的三阶段训练方法显著提升了多模态大语言模型的推理能力。研究发现优化的纯文本冷启动训练、解决强化学习中的梯度停滞问题、以及分阶段训练策略是关键因素。ReVisual-R1在各类推理基准测试中超越了现有开源模型,甚至在某些任务上超过了商业模型,为多模态推理研究开辟了新途径。
这项研究提出了一种名为"批评式微调"的创新方法,证明仅使用一个问题的批评数据就能显著提升大语言模型的推理能力。研究团队对Qwen和Llama系列模型进行实验,发现这种方法在数学和逻辑推理任务上都取得了显著提升,平均提高15-16个百分点,而且只需要强化学习方法1/20的计算资源。这种简单高效的方法为释放预训练模型的潜在推理能力提供了新途径。
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。