至顶网软件频道消息:Facebook Inc.今天发布了一个名为Talk the Walk(路在嘴里)的人工智能数据集,目的是帮助计算机在游览纽约市的过程学习如何与人类更自然地互动。
目前人工智能软件的通信能力相当有限。原因在于,人工神经网络是通过分析样本文本得到统计模式学习语言,这种方法不是特别地有效。
Facebook创建 的Talk the Walk数据集能使人工智能模型以更接近人类的方式学习。Facebook研究人员Douwe Kiela和Jason Weston在博文中提到, “要最终通过人类语言理解建立人工智能,一个策略就是用更自然的方式训练这些系统,将语言与特定环境联系起来。”
他们表示,“和婴儿在看到和触摸到东西开始学会这些东西的名字一样,这种方法有时也叫形象化人工智能,这种在系统环境中进行的方法有利于学习,训练不是通过大型文本数据集(如维基百科)进行。”
研究人员利用Talk the Walk可以将纽约市作为学习环境。Talk the Walk数据集含不同街区的地图、每个块360度图片和样本对话,对话是一个人试图将另一个人引导到某个位置。这些文件附有Facebook研究人员创建的“基准线”用法,可以作为人工智能使用这些信息方法的参考。
据Facebook称,Talk the Walk可以创建逼真的训练场景,机器学习模型可以在这样的场景里打磨他们的语言技能。要进行模拟需要两个人工智能程序。一个是可以看到360度照片的“游客”,而另一个是只有地图的“导游”。基本思想是让两个程序相互通信,在交换了足够的细节后弄清楚如何从一个街区去另一个街区。
这不是一件容易的事。根据The Verge网站介绍,Facebook估计,要利用Talk the Walk数据创建能可靠地生成导航指令的人工智能模型可能需要几年的时间。Facebook希望通过该项目开发的新人工智能功能不仅可用于导航,也可用于其他领域。
Kiela和Weston在博文里称,“我们自己的实验搞清了一些本地化和沟通的次要问题,但我们希望其他人可利用这事更好地理解目标导向的对话、导航、视觉感知和其他挑战。”
好文章,需要你的鼓励
在AI智能体的发展中,记忆能力成为区分不同类型的关键因素。专家将AI智能体分为七类:简单反射、基于模型反射、目标导向、效用导向、学习型、多智能体系统和层次化智能体。有状态的智能体具备数据记忆能力,能提供持续上下文,而无状态系统每次都重新开始。未来AI需要实现实时记忆访问,将存储与计算集成在同一位置,从而创造出具备人类般记忆能力的数字孪生系统。
中国人民大学和字节跳动联合提出Pass@k训练方法,通过给AI模型多次答题机会来平衡探索与利用。该方法不仅提升了模型的多样性表现,还意外改善了单次答题准确率。实验显示,经过训练的7B参数模型在某些任务上超越了GPT-4o等大型商业模型,为AI训练方法论贡献了重要洞察。
OpenAI首席执行官阿尔特曼表示,公司计划在不久的将来投入数万亿美元用于AI基础设施建设,包括数据中心建设等。他正在设计新型金融工具来筹集资金。阿尔特曼认为当前AI投资存在过度兴奋现象,类似于90年代互联网泡沫,但AI技术本身是真实且重要的。他承认GPT-5发布存在问题,并表示OpenAI未来可能会上市。
南加州大学等机构研究团队开发出突破性的"N-gram覆盖攻击"方法,仅通过分析AI模型生成的文本内容就能检测其是否记住了训练数据,无需访问模型内部信息。该方法在多个数据集上超越传统方法,效率提升2.6倍。研究还发现新一代AI模型如GPT-4o展现出更强隐私保护能力,为AI隐私审计和版权保护提供了实用工具。