ZD至顶网软件频道消息: IBM首席执行官吉尼·罗梅蒂(Ginni Rometty)日前呼吁,业界需在人工智能和认知应用程序方面增加透明度及分析其伦理和社会影响。在此之前,科技界其他领袖也曾发表过类似的看法。
罗梅蒂正在准备在达沃斯世界经济论坛上的演讲,目的是介绍人工智能技术部署的基本原则。
无独有偶。麻省理工学院、哈佛和LinkedIn的Reid Hoffman,还有其他人,他们联合起来建了一个2700万美元的基金会研究人工智能的影响。奥巴马政府最近发布了一份报告人工智能对就业的影响,卡内基梅隆(科技巨头支持的非营利性)及IEEE也发表了自己的看法。
罗梅蒂发言的目的是就有道义心的人工智能部署提出讨论。她在事先准备好的发言稿里指出:
所谓的人工智能是一种新技术及由此衍生的认知系统,人工智能在不久的将来将渗入我们工作和生活的方方面面,可能会令一切变得更美好,和以前的改变世界的各种技术一样,人工智能的意义重大。许多由此导致的问题在今天尚无答案,找到答案需要时间、研究和公开讨论。
罗梅蒂同时还提出三个核心原则,包括:
• 目的。IBM称旗下的人工智能系统是为了扩充人类智慧。罗梅蒂表示,人工智能不会在近期内取代人类。她表示,"我们的技术、产品、服务和政策旨在加强和扩展人类的能力、专业知识和潜力。我们的立足点不仅仅是基于原则,也是基于科学。认知系统不会具有实际意义上的意识或成为独立的个体。"
• 透明度。IBM表示将就旗下人工智能的开发和部署的时间表和目的公开细节。此外,用于训练人工智的数据也将是透明的,IBM鼓励客户在保护自己的数据的同时采用类似的方法。
• 技能。IBM表示,人工智能部署需要将人类因素纳入有关的等式里,要帮助普罗大众获取使用新服务所需的技能。
罗梅蒂的原则颇为广泛,但在实行这些原则时可能会遇到困难。IBM可以公开自己的人工智能训练和用到的数据,但业界各行业以及企业和政府却可能做不到。诚然,有关人工智能的讨论必须继续,因为找到真正的答案可能需要时间。
好文章,需要你的鼓励
文章详细介绍了Character.AI这款主要面向娱乐、角色扮演和互动叙事的AI聊天工具的原理、用户群体、特色功能以及面临的法律与伦理争议,同时揭示了其新推出的视频和游戏互动体验。
上海人工智能实验室研究团队开发了MMSI-Bench,这是首个专注于多图像空间智能评估的全面基准。研究人员花费300多小时,从12万张图像中精心构建了1000道问题,涵盖了位置关系、属性和运动等多种空间推理任务。评测结果显示,即使最先进的AI模型也仅达到41%的准确率,远低于人类的97%,揭示了AI空间认知能力的重大缺陷。研究还识别了四类主要错误:物体识别错误、场景重建错误、情境转换错误和空间逻辑错误,为未来改进提供了明确方向。
思科报告指出,自主型人工智能未来三年内有望承担高达68%的客户服务任务,通过个性化与前瞻性支持提升效率与节省成本,但用户仍重视人与人之间的互动和健全的治理机制。
卡内基梅隆大学研究团队开发了ViGoRL系统,通过视觉定位强化学习显著提升AI的视觉推理能力。该方法让模型将每个推理步骤明确锚定到图像的特定坐标,模拟人类注视点转移的认知过程。与传统方法相比,ViGoRL在SAT-2、BLINK等多项视觉理解基准上取得显著提升,并能动态放大关注区域进行细节分析。这种定位推理不仅提高了准确性,还增强了模型解释性,为更透明的AI视觉系统铺平道路。