在不当使用健康数据引发争议和批评之后,谷歌的人工智能研究部门DeepMind Technologies Ltd.正在扩大其工作范围,并超出了技术的领域。
这家位于英国的公司今天上午宣布组建一个新的团队,负责探索伴随着人工智能的普及引发的伦理挑战。该部门由Verity Harding和技术顾问Sean Legassick领导,Verity Harding先前曾担任谷歌欧洲业务公共策略的领导。DeepMind希望在未来一年内将该部门现有的八个员工的数量增加两倍。
该小组将使用外部“DeepMind Fellows”的建议,“DeepMind Fellows”中包括经济学家、哲学家和其他专家的专家,他们专注的领域以某种方式涉及关于人工智能的讨论。还有计划与大学合作进行类似的研究。
除了为DeepMind的工作制定道德准则之外,该部门将尝试预测人工智能在未来可能重塑社会的方式。这一工作将强调一些重大问题,例如如何确保人工智能系统能够维护用户权利及其可能对经济造成的影响。DeepMind预计,该团队将在明年的某个时候开始发表其第一篇研究论文。
这样说来,组建这个部门的举措不仅仅是学术性质的。今年早些时候,DeepMind因与英国National Health Service合作的一个项目涉嫌违反有关病人记录处理规定而遭到抨击。内部的道德操守团队可以帮助该部门避免将来滥用其人工智能技术。
从长远来看,这个新组建的部门的研究工作也可以使其他谷歌部门受益。该搜索巨头的WAYMO自动驾驶子公司是首当其冲。自动驾驶汽车上路的前景引发了棘手的问题,例如车辆会如何处理在事故不可避免时必须做出的困难选择。
虽然谷歌和其他的科技公司正在人工智能领域进行激烈的竞争,可是许多伦理盲点仍然存在。就在几个月前,DeepMind分享了一个项目的结果,该项目旨在训练神经网络,让它们更能够像人类一样思考,具体的做法是让它们在模拟条件下学习行走的基本知识。
好文章,需要你的鼓励
全新搜索方式出现,字节发布宽度优先搜索基准WideSearch,垫底的竟是DeepSeek
阿里巴巴团队推出DeepPHY,这是首个专门评估AI视觉语言模型物理推理能力的综合平台。通过六个不同难度的物理环境测试,研究发现即使最先进的AI模型在物理推理任务中表现也远低于人类,成功率普遍不足30%。更关键的是,AI模型虽能准确描述物理现象,却无法将描述性知识转化为有效控制行为,暴露了当前AI技术在动态物理环境中的根本缺陷。
GitHub CEO声称AI将承担所有编程工作,但现实中AI编程工具实际上降低了程序员的生产效率。回顾编程语言发展史,从Grace Hopper的高级语言到Java等技术,每次重大突破都曾因资源限制和固有思维遭到质疑,但最终都证明了抽象化的价值。当前AI编程工具面临命名误导、过度炒作和资源限制三重困扰,但随着技术进步,AI将有助于消除思想与结果之间的障碍。
AgiBot团队联合新加坡国立大学等机构开发出Genie Envisioner机器人操作统一平台,首次将视频生成技术应用于机器人控制。该系统通过100万个操作视频学习,让机器人能够预测行动结果并制定策略,在多个复杂任务上表现优异,仅需1小时数据即可适应新平台,为通用机器人智能开辟全新路径。