谷歌、微软、OpenAI和Anthropic近日宣布成立一个新的行业机构,目的是确保安全且负责任地开发AI模型。
在谷歌博客上发布的联合声明中,四家公司概述了这个名为Frontier Model Forum的组织,该组织负责推进AI研究,确定最佳实践,并与政府、政策制定者和学术界展开合作,为确保人工智能值得信赖和安全性铺平道路。
微软公司副董事长兼总裁Brad Smith表示:“开发AI技术的企业有责任确保其安全、可靠并处于人类控制之下。该举措是重要一步,旨在将科技行业聚集在一起、负责任地推进AI并应对挑战、使其造福全人类。”
自去年11月首次亮相以来,OpenAI的ChatGPT AI聊天机器人因其理解自然语言并使用令人信服的类人对话进行回复而风靡一时。从那时起,AI模型变得更加精致了,能够轻松地进行研究、长篇论文、执行逻辑谜题等。还有一些模型能够通过利用现有材料创建令人信服的图像和视频,从而引起对隐私和冒充的担忧。
声明称,Frontier Model Forum的成员仅限于致力于大规模机器学习模型的公司,这些模型将构建并超越当前模型的能力。成员企业的任务是开发和部署这些“前沿模型”,并对安全构建这些模型做出坚定承诺,以及推出考虑到安全、信任和社区外展的联合举措。
在接下来的几个月中,Frontier Model Forum打算成立一个顾问委员会来指导开展优先事项。创始公司还将重点为政府和社区引导AI模型发展进行决策和咨询。
根据声明,创始公司打算追随其他旨在为AI开发完整性带来积极成果举措的脚步,例如AI合作伙伴关系和MLCommons。
Frontier Model Forum的成立正值世界各国政府逐渐意识到AI模型和新兴行业背后的原始力量之际。上周,所有Frontier Model Forum的成员都加入了向白宫发布的自愿承诺声明,表示在总统拜登4月份会见科学和技术顾问以探讨AI技术的影响之后,他们将致力于解决人们对AI模型风险日益增长的担忧。
在某组织要求联邦贸易委员会调查OpenAI之后,这家公司最近成为美国联邦贸易委员的贸易行为调查目标。
与此同时,欧盟一直在推动全球第一部全面的AI法律,称为“AI法案”(AI Act),该法案将规范欧盟对AI的监管方式。这项立法自4月以来一直被人们所争议,旨在平衡不断发展的行业与消费者的安全和担忧以及隐私、监控、版权等人权。
好文章,需要你的鼓励
当前世界充满变数,IT领域除AI外鲜少受到关注。从气候变化到地缘政治紧张局势,IT在公众讨论中边缘化。这在技术变革关键时刻十分危险。CEO、高管和媒体对IT缺乏深度思考,普遍持"不坏就别谈"的态度。CIO需要重新获得利益相关者关注,克服对IT运营的冷漠和无知。技术文盲问题严重,大多数人从未构建过IT系统。IT行业需要重新赢得人心,大幅提升公众IT知识水平。
OpenAI团队的最新研究揭示了大语言模型产生幻觉的根本原因:AI就像面临难题的学生,宁愿猜测也不愿承认无知。研究发现,即使训练数据完全正确,统计学原理也会导致AI产生错误信息。更重要的是,现有评估体系惩罚不确定性表达,鼓励AI进行猜测。研究提出了显式置信度目标等解决方案,通过改革评估标准让AI学会诚实地说"不知道",为构建更可信的AI系统指明方向。
技术驱动的变革比以往更加频繁,但成功并不能得到保证。Gartner研究显示,只有五分之一的组织能够在75%或更多时间内从转型项目中获得预期收益。其余都是昂贵的失败。有效的变革管理能够提高技术采用率,服务于业务目标。变革管理不再是边缘活动或软技能,而是决定新举措是否能够创造商业价值的核心绩效学科。
字节跳动AI实验室提出"逆向工程推理"新范式,通过从优质作品反推思考过程的方式训练AI进行创意写作。该方法创建了包含2万个思考轨迹的DeepWriting-20K数据集,训练的DeepWriter-8B模型在多项写作评测中媲美GPT-4o等顶级商业模型,为AI在开放性创意任务上的应用开辟了新道路。