在不当使用健康数据引发争议和批评之后,谷歌的人工智能研究部门DeepMind Technologies Ltd.正在扩大其工作范围,并超出了技术的领域。
这家位于英国的公司今天上午宣布组建一个新的团队,负责探索伴随着人工智能的普及引发的伦理挑战。该部门由Verity Harding和技术顾问Sean Legassick领导,Verity Harding先前曾担任谷歌欧洲业务公共策略的领导。DeepMind希望在未来一年内将该部门现有的八个员工的数量增加两倍。
该小组将使用外部“DeepMind Fellows”的建议,“DeepMind Fellows”中包括经济学家、哲学家和其他专家的专家,他们专注的领域以某种方式涉及关于人工智能的讨论。还有计划与大学合作进行类似的研究。
除了为DeepMind的工作制定道德准则之外,该部门将尝试预测人工智能在未来可能重塑社会的方式。这一工作将强调一些重大问题,例如如何确保人工智能系统能够维护用户权利及其可能对经济造成的影响。DeepMind预计,该团队将在明年的某个时候开始发表其第一篇研究论文。
这样说来,组建这个部门的举措不仅仅是学术性质的。今年早些时候,DeepMind因与英国National Health Service合作的一个项目涉嫌违反有关病人记录处理规定而遭到抨击。内部的道德操守团队可以帮助该部门避免将来滥用其人工智能技术。
从长远来看,这个新组建的部门的研究工作也可以使其他谷歌部门受益。该搜索巨头的WAYMO自动驾驶子公司是首当其冲。自动驾驶汽车上路的前景引发了棘手的问题,例如车辆会如何处理在事故不可避免时必须做出的困难选择。
虽然谷歌和其他的科技公司正在人工智能领域进行激烈的竞争,可是许多伦理盲点仍然存在。就在几个月前,DeepMind分享了一个项目的结果,该项目旨在训练神经网络,让它们更能够像人类一样思考,具体的做法是让它们在模拟条件下学习行走的基本知识。
好文章,需要你的鼓励
英国研究人员开发出一项名为Fastball的三分钟检测技术,通过脑电图头戴设备分析大脑对图像的识别能力,能够在认知衰退早期发现记忆问题。研究涉及107名参与者,发现该技术可有效识别轻度认知障碍患者的记忆缺陷,比现有诊断工具提前10-20年发现阿尔茨海默病征象。该技术可在家中使用,为早期干预治疗提供可能。
浙江大学团队构建了全球首个中文法律诉求生成数据集ClaimGen-CN,包含20万份真实民事法律文书,涵盖100种纠纷类型。研究创新性地关注普通人法律需求,提出事实性和清晰性双重评估标准。通过测试六大主流AI模型发现,当前技术在法律知识理解、逻辑推理等方面仍存在不足,为未来AI法律助手发展指明方向。
随着智能代理AI的兴起,CIO必须调整IT战略重点、降低新安全风险并为员工重新培训技能。75%的CIO将在AI和机器学习项目上投入更多时间。IT部门需要从管理基础设施转向编排智能化,在每个业务流程中嵌入AI代理。CIO应重新考虑人机协作模式、多学科敏捷团队演进、IT治理职能重新定位,以及培养AI数据质量专家、AI诊断师等新兴角色技能。
耶鲁大学研究团队通过构建SCIREAS评估体系和KRUX分析框架,系统研究了大语言模型在科学推理中的表现。研究发现,模型的主要瓶颈不是推理能力而是知识检索能力,基础模型在获得外部知识支持后甚至能超越专门的推理模型。团队还开发了SCILIT01作为开源科学推理基线,为未来AI科学应用的改进提供了新方向。