至顶网软件频道消息:根据CNBC报道称,Facebook拥有一支专注于人工智能开发伦理的“特殊”团队。
人工智能将在未来几十年对世界产生深远影响,Facebook希望监管机构和公众知道他们现在正在采取措施确保人工智能的安全性和道德发展。Facebook目前在其平台上使用人工智能,例如利用人工智能识别照片中的人脸,检测可能有自杀倾向的人,并删除低俗的内容。
过去几周,这家社交巨头受到Cambridge Analytica数据丑闻的审查。据报道,Facebook成立了专门的人工智能道德团队,以确保其人工智能算法是公平的,并且让所有人都受益。
目前还不清楚这个团队中有多少人,但据报道称,团队成员是与Facebook其他团队协作的。
Facebook研究科学家Isabel Kloumann表示:“我们会回头看看,说,‘我们能够积极主动地解决这些问题,在我们发布对任何人口群体是公平的任何给定产品之前了解这些问题,这一点很重要。’”
Kloumann的团队还开发了一个名为“公平流”(Fairness Flow)的软件,分析用于训练人工智能系统的数据。
DeepMind(谷歌在2014年收购)和微软等公司也都有人专门负责人工智能道德,而执法武器制造商Taser上周也宣布成立了自己的人工智能道德委员会。
Google也有一个专门的人工智能道德委员会,但尚不清楚这个委员会有哪些成员、多久会面一次、以及他们主要做什么。
好文章,需要你的鼓励
尽管全球企业AI投资在2024年达到2523亿美元,但MIT研究显示95%的企业仍未从生成式AI投资中获得回报。专家预测2026年将成为转折点,企业将从试点阶段转向实际部署。关键在于CEO精准识别高影响领域,推进AI代理技术应用,并加强员工AI能力培训。Forrester预测30%大型企业将实施强制AI培训,而Gartner预计到2028年15%日常工作决策将由AI自主完成。
这项由北京大学等机构联合完成的研究,开发了名为GraphLocator的智能软件问题诊断系统,通过构建代码依赖图和因果问题图,能够像医生诊断疾病一样精确定位软件问题的根源。在三个大型数据集的测试中,该系统比现有方法平均提高了19.49%的召回率和11.89%的精确率,特别在处理复杂的跨模块问题时表现优异,为软件维护效率的提升开辟了新路径。
2026年软件行业将迎来定价模式的根本性变革,从传统按席位收费转向基于结果的付费模式。AI正在重塑整个软件经济学,企业IT预算的12-15%已投入AI领域。这一转变要求建立明确的成功衡量指标,如Zendesk以"自动化解决方案"为标准。未来将出现更精简的工程团队,80%的工程师需要为AI驱动的角色提升技能,同时需要重新设计软件开发和部署流程以适应AI优先的工作流程。
这项由德国达姆施塔特工业大学领导的国际研究团队首次发现,当前最先进的专家混合模型AI系统存在严重安全漏洞。通过开发GateBreaker攻击框架,研究人员证明仅需关闭约3%的特定神经元,就能让AI的攻击成功率从7.4%暴增至64.9%。该研究揭示了专家混合模型安全机制过度集中的根本缺陷,为AI安全领域敲响了警钟。