ZD至顶网软件频道消息: IBM首席执行官吉尼·罗梅蒂(Ginni Rometty)日前呼吁,业界需在人工智能和认知应用程序方面增加透明度及分析其伦理和社会影响。在此之前,科技界其他领袖也曾发表过类似的看法。
罗梅蒂正在准备在达沃斯世界经济论坛上的演讲,目的是介绍人工智能技术部署的基本原则。
无独有偶。麻省理工学院、哈佛和LinkedIn的Reid Hoffman,还有其他人,他们联合起来建了一个2700万美元的基金会研究人工智能的影响。奥巴马政府最近发布了一份报告人工智能对就业的影响,卡内基梅隆(科技巨头支持的非营利性)及IEEE也发表了自己的看法。
罗梅蒂发言的目的是就有道义心的人工智能部署提出讨论。她在事先准备好的发言稿里指出:
所谓的人工智能是一种新技术及由此衍生的认知系统,人工智能在不久的将来将渗入我们工作和生活的方方面面,可能会令一切变得更美好,和以前的改变世界的各种技术一样,人工智能的意义重大。许多由此导致的问题在今天尚无答案,找到答案需要时间、研究和公开讨论。
罗梅蒂同时还提出三个核心原则,包括:
• 目的。IBM称旗下的人工智能系统是为了扩充人类智慧。罗梅蒂表示,人工智能不会在近期内取代人类。她表示,"我们的技术、产品、服务和政策旨在加强和扩展人类的能力、专业知识和潜力。我们的立足点不仅仅是基于原则,也是基于科学。认知系统不会具有实际意义上的意识或成为独立的个体。"
• 透明度。IBM表示将就旗下人工智能的开发和部署的时间表和目的公开细节。此外,用于训练人工智的数据也将是透明的,IBM鼓励客户在保护自己的数据的同时采用类似的方法。
• 技能。IBM表示,人工智能部署需要将人类因素纳入有关的等式里,要帮助普罗大众获取使用新服务所需的技能。
罗梅蒂的原则颇为广泛,但在实行这些原则时可能会遇到困难。IBM可以公开自己的人工智能训练和用到的数据,但业界各行业以及企业和政府却可能做不到。诚然,有关人工智能的讨论必须继续,因为找到真正的答案可能需要时间。
好文章,需要你的鼓励
全新搜索方式出现,字节发布宽度优先搜索基准WideSearch,垫底的竟是DeepSeek
阿里巴巴团队推出DeepPHY,这是首个专门评估AI视觉语言模型物理推理能力的综合平台。通过六个不同难度的物理环境测试,研究发现即使最先进的AI模型在物理推理任务中表现也远低于人类,成功率普遍不足30%。更关键的是,AI模型虽能准确描述物理现象,却无法将描述性知识转化为有效控制行为,暴露了当前AI技术在动态物理环境中的根本缺陷。
GitHub CEO声称AI将承担所有编程工作,但现实中AI编程工具实际上降低了程序员的生产效率。回顾编程语言发展史,从Grace Hopper的高级语言到Java等技术,每次重大突破都曾因资源限制和固有思维遭到质疑,但最终都证明了抽象化的价值。当前AI编程工具面临命名误导、过度炒作和资源限制三重困扰,但随着技术进步,AI将有助于消除思想与结果之间的障碍。
AgiBot团队联合新加坡国立大学等机构开发出Genie Envisioner机器人操作统一平台,首次将视频生成技术应用于机器人控制。该系统通过100万个操作视频学习,让机器人能够预测行动结果并制定策略,在多个复杂任务上表现优异,仅需1小时数据即可适应新平台,为通用机器人智能开辟全新路径。