微软正在开发一个代号为“巴厘岛(Bali)”的项目,旨在让用户控制关于他们的数据收集。该项目是微软研究院的孵化项目,现阶段似乎正在进行私下测试。
笔者从“Longhorn”的推文中了解到巴厘岛项目的存在,并通过另一个推特用户“Walking Cat”也看到了相关的内容。Longhorn将巴厘岛项目描述为“一个可以删除所有连接和帐户信息的项目(反向隐私项目)。”
打开巴厘岛项目页面的链接。该页面允许拥有代码的用户登录该网站,但并未说没有代码的用户可以申请代码。
巴厘岛项目的“关于”页面将其描述为“新的个人数据库,让用户控制被收集的所有数据……该数据库将使用户能够存储由他们生成的所有数据(原始和推断出的)。将允许用户可视化、管理、控制、共享和货币化这些数据。”
“关于”页面显示,巴厘岛项目是基于“反向隐私”的概念,这是2014年由Yuri Gurevich、Efim Hudis和Jeannette Wing撰写的论文的主题,他们当时都在为微软研究院工作。如果一条个人信息可以由某一方访问,而它的创建者/用户却不能,那么这条信息就是反向隐私。这些作者指出,卫生服务提供者、警察、收费公路运营商、杂货连锁店和雇主都创建了反向隐私数据,在许多情况下,用户可以从拥有这些数据中受益。
巴厘岛项目的“关于”页面显示,该项目处于“初始阶段”,这意味着开发人员专注于帮助用户汇总来自各种网站的个人数据,并能够查看这些数据。
虽然并非每个微软研究院的项目都以某种方式转变为商业化产品或服务,但现在很多项目都已经实现了这一点。所以我认为巴厘岛很有可能在某个时候会成为一个商业实体。与其他技术供应商一样——例如最近因为数据隐私相关问题而负面缠身的脸书,微软也可以通过发布支持用户控制自己数据的技术获益。
微软称,用户对自己数据的控制是微软、Adobe和SAP去年秋天公布的开放数据计划(Open Data Initiative)的核心原则。微软几乎没有提供任何关于此数据所有权模型如何工作的详细信息。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。