技术无好坏之分,就看为谁所用,为何而用?近几年,我们看到AI技术开始被攻击者所利用,高级威胁、加密应用的出现让攻击者屡屡得手。传统的安全防护手段还停留在对已知威胁和明文流量的感知和识别,但随着新基建的发展,安全产业已经迎来了爆发契机,在这样的前提下,网络安全技术走向智能化成为必然,并且非常紧迫。——新华三集团副总裁、安全产品线总裁孙松儿
AI是趋势也是一把双刃剑
在网络安全领域中,AI是趋势也是一把双刃剑。
之于攻,它可以使攻击变得更加狡猾。攻击者可通过AI来改善攻击方案,发现新漏洞,监控用户行为进行自动化攻击或诱骗动作等等。举个鱼叉钓鱼攻击的例子,攻击者利用AI技术分析目标人员的社交媒体或电子邮件内容,获得其感兴趣的主题,依此生成虚假恶意的电子邮件。这类经过AI技术生成的恶意邮件,真实性和可信性都得到增强,可以躲避垃圾邮件检测,更容易误导目标人员点击或下载。
之于防,面对如此智能的网络攻击,我们需要充分利用AI技术,对传统数据挖掘、统计计算、关联分析方法进行革新与丰富,来发现安全威胁与异常。甚至为了应对智能化攻击,在设计系统之初,即结合AI与安全因素来增加系统的抗AI攻击性,也可以使用AI对抗AI。
智能化 推动网络安全防御体系革新的核心动力
当前,AI在安全领域应用的重要性显而易见,智能化正成为网络安全防御的核心动能。Gartner在2020年10大战略技术趋势报告中,明确指出AI 安全将是未来重要的战略技术趋势之一,安全和风险领导者应该关注三个关键领域——保护AI驱动的系统,利用AI来加强安全防御,以及预测攻击者对AI的恶意使用。对此观点,我深表认同。在新华三集团看来,随着AI技术应用的不断深入,未来网络安全产品和技术结合AI可以从安全理念进阶和安全技术升级两个方面深入。
AI推动安全理念进阶
步入AI时代的安全防护理念必须与时俱进,这也是为何新华三集团一直倡导主动安全理念的原因。凭借开放包容的框架,广泛的内容承载,广阔的延伸与演进空间,主动安全成为构建新一代安全防御体系的基石。主动安全在1.0时代,即已结合威胁情报、大数据分析能力、深度学习的人工智能技术,从全栈、意图以及使能三个方面为企业提供主动防护架构。如今得益于AI技术快速发展和新华三“AI in All” 智能战略,主动安全迈入2.0时代,强化了安全AI的核心,基于人工智能、边缘计算等变革性技术,将每个防御点的使用价值最大化,从而构建“云-网-边-端”协同的防御体系。
AI助力安全技术升级
通过将AI应用到网络安全防护中,能够实现对网络威胁的预先研判、智能防护和自动抵御,有效提升安全威胁检测、态势感知、应急处置和追踪溯源能力,实现安全防护技术的与时俱进。
具体来看,基于AI的安全防御技术还可以从五个方面来体现:一是基于AI 的威胁发现,包括漏洞利用的检测、Web攻击的检测、病毒的发现以及同源性分析;二是基于AI的威胁狩猎,利用AI技术主动搜寻网络中的高级威胁,进行情报研判和情报生产;三是基于AI的安全运维,即通过自动化的方式处置威胁,提升安全分析人员的工作效率和威胁响应速度;四是基于AI的数据隐私保护,包括联邦学习和差分隐私领域的应用等等;最后一点就是基于AI自身系统的防护,加大对AI生产系统的防护,防止如对抗样本、数据投毒和模型窃取等恶意攻击行为。
新一代安全防御系统的能力模型
基于上面所列的技术升级方向,新一代安全防御系统应该具备的能力由此可见:
主动安全2.0的六大技术革新
基于对新一代网络安全防御系统的能力研究,新华三集团的主动安全2.0正在从六大方向入手技术演进。
目前,新华三集团的主动安全体系已经全面加持AI引擎,发布了一系列融入AI技术的新一代安全设备及软件平台,实现了智能分析感知威胁、智能自动防护、智能闭环管理的安全能力,这样的安全防护体系能够全面提升行业用户的安全体验。
主动安全体系进阶 推动安全产业智变升级
不可否认, AI技术在网络安全领域的应用,无疑为应对网络威胁提供了新解法,我们迫切需要抓住人工智能发展机遇,加快智慧安全产业建设,但这需要整个产业各方力量汇聚协同,融合推进。对此我认为可以在安全能力服务平台、安全协同创新平台、安全产业发展平台等三个方面持续投入。
首先,打造智能化安全能力服务平台。通过人工智能技术在网络安全领域的模式创新—实现“安全即服务交付”,发挥云网端融合优势,通过全程全网的安全服务,聚焦行业化安全特色应用,为政府、企事业、教育、金融等百行百业用户提供信息网络安全保障。
其次,建立智能化安全协同创新平台。抓住人工智能发展机遇,通过一些重大科技项目进行牵引,“产学研用”多方联合协作推动网络安全技术协同创新,并在平台上进行技术验证、原型研制和标准制定,实现从跟跑到领跑的转变。
最后,构建智能化安全生态产业发展平台。安全体系各个领域的厂商加强协作与互通,集合我国信息安全领域上下游企业,形成产业的合力,构建“平台+终端+服务+应用+培训”的智能化主动安全生态环境,提升我国在信息安全领域的话语权和影响力。
当然,安全AI系统的对抗能力、安全AI模型的可解释性和公平性仍需进一步强化。而安全AI的应用还要从伦理、道德、政策、技术等方面多维度综合考量,才能最终向用户提供强大可靠的安全AI系统。
聪者听于无声,明者见于未形。以业务为中心、以数据为驱动、以AI为引擎、以合规为先导、以体验为目标的主动安全智变之道,将以“智变”引“质变”,积极推动网络安全产业良性发展。而在主动安全的发展之路上,必须有同行者守望相顾,不仅需要各细分领域安全厂商一起并肩前行,也要有领军者将众多安全技术融会贯通、协同联动起来,为百行百业数字化转型打造“安全大脑”,合力筑牢主动安全之堤,全面护航数字经济腾飞。
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。