谷歌、微软、OpenAI和Anthropic近日宣布成立一个新的行业机构,目的是确保安全且负责任地开发AI模型。
在谷歌博客上发布的联合声明中,四家公司概述了这个名为Frontier Model Forum的组织,该组织负责推进AI研究,确定最佳实践,并与政府、政策制定者和学术界展开合作,为确保人工智能值得信赖和安全性铺平道路。
微软公司副董事长兼总裁Brad Smith表示:“开发AI技术的企业有责任确保其安全、可靠并处于人类控制之下。该举措是重要一步,旨在将科技行业聚集在一起、负责任地推进AI并应对挑战、使其造福全人类。”
自去年11月首次亮相以来,OpenAI的ChatGPT AI聊天机器人因其理解自然语言并使用令人信服的类人对话进行回复而风靡一时。从那时起,AI模型变得更加精致了,能够轻松地进行研究、长篇论文、执行逻辑谜题等。还有一些模型能够通过利用现有材料创建令人信服的图像和视频,从而引起对隐私和冒充的担忧。
声明称,Frontier Model Forum的成员仅限于致力于大规模机器学习模型的公司,这些模型将构建并超越当前模型的能力。成员企业的任务是开发和部署这些“前沿模型”,并对安全构建这些模型做出坚定承诺,以及推出考虑到安全、信任和社区外展的联合举措。
在接下来的几个月中,Frontier Model Forum打算成立一个顾问委员会来指导开展优先事项。创始公司还将重点为政府和社区引导AI模型发展进行决策和咨询。
根据声明,创始公司打算追随其他旨在为AI开发完整性带来积极成果举措的脚步,例如AI合作伙伴关系和MLCommons。
Frontier Model Forum的成立正值世界各国政府逐渐意识到AI模型和新兴行业背后的原始力量之际。上周,所有Frontier Model Forum的成员都加入了向白宫发布的自愿承诺声明,表示在总统拜登4月份会见科学和技术顾问以探讨AI技术的影响之后,他们将致力于解决人们对AI模型风险日益增长的担忧。
在某组织要求联邦贸易委员会调查OpenAI之后,这家公司最近成为美国联邦贸易委员的贸易行为调查目标。
与此同时,欧盟一直在推动全球第一部全面的AI法律,称为“AI法案”(AI Act),该法案将规范欧盟对AI的监管方式。这项立法自4月以来一直被人们所争议,旨在平衡不断发展的行业与消费者的安全和担忧以及隐私、监控、版权等人权。
好文章,需要你的鼓励
Adobe 周二宣布推出适用于 Android 系统的 Photoshop 应用测试版,提供与桌面版相似的图像编辑工具和 AI 功能,初期免费使用,旨在吸引更多偏好手机创作的年轻用户。
弗吉尼亚大学研究团队开发了TruthHypo基准和KnowHD框架,用于评估大语言模型生成生物医学假设的真实性及检测幻觉。研究发现大多数模型在生成真实假设方面存在困难,只有GPT-4o达到60%以上的准确率。通过分析推理步骤中的幻觉,研究证明KnowHD提供的基础依据分数可有效筛选真实假设。人类评估进一步验证了KnowHD在识别真实假设和加速科学发现方面的价值,为AI辅助科学研究提供了重要工具。
文章详细介绍了Character.AI这款主要面向娱乐、角色扮演和互动叙事的AI聊天工具的原理、用户群体、特色功能以及面临的法律与伦理争议,同时揭示了其新推出的视频和游戏互动体验。
亚马逊Nova责任AI团队与亚利桑那州立大学共同开发了AIDSAFE,这是一种创新的多代理协作框架,用于生成高质量的安全策略推理数据。不同于传统方法,AIDSAFE通过让多个AI代理进行迭代讨论和精炼,产生全面且准确的安全推理链,无需依赖昂贵的高级推理模型。实验证明,使用此方法生成的数据训练的语言模型在安全泛化和抵抗"越狱"攻击方面表现卓越,同时保持了实用性。研究还提出了"耳语者"代理技术,解决了偏好数据创建中的困难,为直接策略优化提供了更有效的训练材料。