微软公司表示会逐步停止对旗下一些由人工智能驱动的面部识别工具的访问,包括一项基于视频和图像识别情绪的服务。
微软在今天宣布这一决定的同时还公布了一份27页的“负责任的人工智能标准”,标准解释了微软在公平的和值得信赖的人工智能方面的目标。微软为了达到这些标准而限制了一些面部识别工具的访问,包括旗下的AzureFace API、计算机视觉和视频索引器服务提供的面部识别工具。
微软表示,新用户将不会有机会使用这些功能,而现有客户则必须在今年年底前停止使用这些功能。
面部识别技术已经成了民权和隐私团体的一个主要关注点。此前的研究表明,面部识别技术远非完美,经常大比例地误判女性对象及皮肤较黑的人。这在人工智能用于识别犯罪嫌疑人和其他监控情况时可能会导致很大的潜在问题。
而检测情绪的人工智能工具的使用则更是具争议性。今年早些时候,Zoom Video Communications Inc曾宣布考虑增加“情感人工智能”功能,隐私组织Fight for the Future其时曾发起一项运动敦促Zoom不要这样做,因为担心该技术可能被滥用。
围绕面部识别的争议得到各科技公司的重视,亚马逊网络服务公司和Facebook的母公司Meta Platforms Inc.都在缩减对此类工具的使用。
微软首席人工智能负责人Natasha Crampton在一篇博文中表示,微软认识到要使人工智能系统值得信赖,人工智能系统必须是其所要解决的问题的适当解决方案。Crampton表示,面部识别则被认为是不合适的解决方案,微软将搁置推断“情绪状态和身份属性,如性别、年龄、微笑、面部毛发、头发和化妆”的Azure服务。
她还表示,“人工智能系统有可能加剧社会偏见和不平等,可以说是有关这些系统的最广泛认可的危害之一。我们的法律还没有跟上人工智能的独特风险或社会需求。我们看到有迹象表明政府在人工智能方面的行动正在扩大,但我们也认识到我们有责任采取行动。”
分析师们对于微软的决定是否是一个好决定的看法存在分歧。Pund-IT公司的Charles King告诉记者,除了面部识别技术的争议之外,人工智能归类剖析工具的效果也往往不尽如人意,很少能达到其创造者所声称的效果。King表示,“同样重要的是,寻求更好生活的难民及有色人种在这么多地方受到攻击,归类剖析工具被滥用的可能性非常大。因此,我相信微软限制这一类工具使用的决定是非常合理的。”
而Enderle集团的Rob Enderle则表示,看到微软退避面部识别令人失望,这种工具已经从早期的许多错误中取得了很大的进展。他表示,围绕面部识别的负面宣传已经迫使一些大公司远离该领域。
Enderle表示,“基于人工智能的面部识别技术对于抓捕罪犯、恐怖分子和间谍来说太有价值了,所以政府机构也不会停止使用这种技术。然而,微软的退避意味着他们最终将使用来自专业防务公司或外国供应商的工具,这些工具的效果很可能不会太好,而且也缺乏相同种类的控制。妖怪已经放出来了,再扼杀面部识别技术只会令整个社会不能从中获益。”
微软表示,旗下负责任的人工智能标准并不局限于面部识别。微软还会将这些标准应用于Azure人工智能定制神经语音,Azure人工智能定制神经语音是一种语音到文本的服务,可用于支持转录工具。微软的解释是,2020年3月的一项研究发现,非裔美国人和黑人社区使用该软件时错误率较高,鉴于此,微软已经采取措施改进该软件。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
中科院联合字节跳动开发全新AI评测基准TreeBench,揭示当前最先进模型在复杂视觉推理上的重大缺陷。即使OpenAI o3也仅获得54.87%分数。研究团队同时提出TreeVGR训练方法,通过要求AI同时给出答案和精确定位,实现真正可追溯的视觉推理,为构建更透明可信的AI系统开辟新路径。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
PyVision是上海AI实验室开发的革命性视觉推理框架,让AI系统能够根据具体问题动态创造Python工具,而非依赖预设工具集。通过多轮交互机制,PyVision在多项基准测试中实现显著性能提升,其中在符号视觉任务上提升达31.1%。该框架展现了从"工具使用者"到"工具创造者"的AI能力跃迁,为通用人工智能的发展开辟了新路径。