在不当使用健康数据引发争议和批评之后,谷歌的人工智能研究部门DeepMind Technologies Ltd.正在扩大其工作范围,并超出了技术的领域。
这家位于英国的公司今天上午宣布组建一个新的团队,负责探索伴随着人工智能的普及引发的伦理挑战。该部门由Verity Harding和技术顾问Sean Legassick领导,Verity Harding先前曾担任谷歌欧洲业务公共策略的领导。DeepMind希望在未来一年内将该部门现有的八个员工的数量增加两倍。
该小组将使用外部“DeepMind Fellows”的建议,“DeepMind Fellows”中包括经济学家、哲学家和其他专家的专家,他们专注的领域以某种方式涉及关于人工智能的讨论。还有计划与大学合作进行类似的研究。
除了为DeepMind的工作制定道德准则之外,该部门将尝试预测人工智能在未来可能重塑社会的方式。这一工作将强调一些重大问题,例如如何确保人工智能系统能够维护用户权利及其可能对经济造成的影响。DeepMind预计,该团队将在明年的某个时候开始发表其第一篇研究论文。
这样说来,组建这个部门的举措不仅仅是学术性质的。今年早些时候,DeepMind因与英国National Health Service合作的一个项目涉嫌违反有关病人记录处理规定而遭到抨击。内部的道德操守团队可以帮助该部门避免将来滥用其人工智能技术。
从长远来看,这个新组建的部门的研究工作也可以使其他谷歌部门受益。该搜索巨头的WAYMO自动驾驶子公司是首当其冲。自动驾驶汽车上路的前景引发了棘手的问题,例如车辆会如何处理在事故不可避免时必须做出的困难选择。
虽然谷歌和其他的科技公司正在人工智能领域进行激烈的竞争,可是许多伦理盲点仍然存在。就在几个月前,DeepMind分享了一个项目的结果,该项目旨在训练神经网络,让它们更能够像人类一样思考,具体的做法是让它们在模拟条件下学习行走的基本知识。
好文章,需要你的鼓励
OpenAI和微软宣布签署一项非约束性谅解备忘录,修订双方合作关系。随着两家公司在AI市场竞争客户并寻求新的基础设施合作伙伴,其关系日趋复杂。该协议涉及OpenAI从非营利组织向营利实体的重组计划,需要微软这一最大投资者的批准。双方表示将积极制定最终合同条款,共同致力于为所有人提供最佳AI工具。
中山大学团队针对OpenAI O1等长思考推理模型存在的"长度不和谐"问题,提出了O1-Pruner优化方法。该方法通过长度-和谐奖励机制和强化学习训练,成功将模型推理长度缩短30-40%,同时保持甚至提升准确率,显著降低了推理时间和计算成本,为高效AI推理提供了新的解决方案。
中国科技企业发布了名为R1的人形机器人,直接对标特斯拉的Optimus机器人产品。这款新型机器人代表了中国在人工智能和机器人技术领域的最新突破,展现出与国际巨头竞争的实力。R1机器人的推出标志着全球人形机器人市场竞争进一步加剧。
上海AI实验室研究团队深入调查了12种先进视觉语言模型在自动驾驶场景中的真实表现,发现这些AI系统经常在缺乏真实视觉理解的情况下生成看似合理的驾驶解释。通过DriveBench测试平台的全面评估,研究揭示了现有评估方法的重大缺陷,并为开发更可靠的AI驾驶系统提供了重要指导。