一群著名科技公司的高管将加入人工智能安全保障委员会(Artificial Intelligence Safety and Security Board),该委员会的任务是就人工智能在关键基础设施中的应用向联邦政府提供建议。
《华尔街日报》今天报道了这一举措。据该报报道,该委员会不仅包括科技行业的代表,还包括学者、民权领袖和几家关键基础设施公司的首席执行官。人工智能安全保障委员会总共将有近二十多名成员。
微软首席执行官Satya Nadella、英伟达首席执行官黄仁勋和OpenAI的San Altman均将参与其中。来自AMD、亚马逊网络服务公司、Anthropic PBC、思科、谷歌和IBM的同行也参与其中
美国国土安全部部长Alejandro Mayorkas将领导该小组。据《华尔街日报》报道,人工智能安全保障委员会将就如何在关键基础设施中安全应用人工智能向国土安全部提供建议。小组成员将从5月开始每三个月召开一次会议。
除了向联邦政府提供建议外,该委员会还将为关键基础设施组织提出人工智能建议。这项工作将重点关注电网运营商、制造商和运输服务提供商等公司。据报道,该委员会的建议将集中在两个主要议题上:在关键基础设施中应用人工智能的方法和该技术带来的潜在风险。
多家网络安全公司已经观察到利用生成式人工智能的黑客攻击活动。在一些活动中,黑客利用大型语言模型生成网络钓鱼电子邮件。在另一些案例中,人工智能被用来支持恶意软件的开发。
人工智能安全保障委员会是依据拜登总统去年签署的人工智能行政命令成立的。该行政令还呼吁联邦政府采取其他一些措施来应对该技术的风险。商务部将制定人工智能生成内容识别指南,而国家标准与技术研究院正在制定人工智能安全标准。
该行政令还对私营公司提出了新要求。特别是要求开发先进人工智能的科技公司现在必须与政府共享有关新模型安全性的数据。这些数据包括所谓的红队测试结果,即通过模拟恶意提示对神经网络安全性的评估。
人工智能生态系统中最大的几家公司已将算法安全作为其研究工作的重点。例如,OpenAI在12 月透露,它正在开发一种自动化方法,以应对高级神经网络带来的风险。该方法使用第二个能力较弱的神经网络来监督高级人工智能模型的输出。
好文章,需要你的鼓励
zip2zip是一项创新技术,通过引入动态自适应词汇表,让大语言模型在推理时能够自动组合常用词组,显著提高处理效率。由EPFL等机构研究团队开发的这一方法,基于LZW压缩算法,允许模型即时创建和使用"超级tokens",将输入和输出序列长度减少20-60%,大幅提升推理速度。实验表明,现有模型只需10个GPU小时的微调即可适配此框架,在保持基本性能的同时显著降低计算成本和响应时间,特别适用于专业领域和多语言场景。
时尚零售巨头维多利亚的秘密因安全事件导致网站和线上订单服务中断,已立即启动应急响应、邀请第三方专家协助恢复运营,实体店仍正常营业。
这项研究创新性地利用大语言模型(LLM)代替人类标注者,创建了PARADEHATE数据集,用于仇恨言论的无毒化转换。研究团队首先验证LLM在无毒化任务中表现可与人类媲美,随后构建了包含8000多对仇恨/非仇恨文本的平行数据集。评估显示,在PARADEHATE上微调的模型如BART在风格准确性、内容保留和流畅性方面表现优异,证明LLM生成的数据可作为人工标注的高效替代方案,为创建更安全、更具包容性的在线环境提供了新途径。