7月6日,2023全球数字经济大会数字安全高峰论坛暨BCS2023北京网络安全大会开幕。联合国副秘书长李军华在致辞时指出,数字化转型随着的风险可能会使其收益黯然失色。数字化转型之旅需走出一条更全面的通路,增强网络安全保障,尊重个人隐私,保护支撑数字政府和数字经济的关键数字基础设施。
联合国副秘书长李军华
李军华表示,在许多领域,数字技术已经成为促进创新、提高生产力的重要动力。它同样也推动了数字经济的发展,使其蓬勃增长,促进了制造与服务行业岗位的增加。数字政府则为商业与服务业的繁荣提供了支持框架。不断扩大的数字生态系统在推进各级发展目标方面发挥着关键作用。机器人、人工智能、量子计算、物联网、云和移动计算等在支持人类福祉和可持续发展目标方面具有巨大潜力。
但是,不断发展的数字化转型也伴随着越来越多的风险,这些风险可能会使其带来的好处黯然失色。李军华指出,滥用数字工具已经导致错误信息、虚假信息、仇恨言论、网络犯罪和网络空间军事化等问题增加。
全国政协委员、工商联副主席、奇安信董事长齐向东在主题演讲时也表示,我们已经进入数据和实体经济深度结合的数智时代。数智时代,数据安全事故有可能会导致人工智能“智慧”全无,引发灾难性事故。同时,生成式人工智能技术出现以后,让黑客数量激增,攻防平衡被打破。
因此,李军华强烈呼吁,必须采取措施,包括通过监管措施等,来解决这些问题,并在网络安全和在线安全之间取得平衡。“我们必须在数字化转型之旅中走出一条更全面的通路,增强网络安全保障,尊重个人隐私,保护支撑数字政府和数字经济的关键数字基础设施。”
据了解,联合国已经深刻地意识到这项要务的迫切性。联合国各部门正在其规范和标准制定、人工智能伦理、数据治理、监管沙盒和能力建设等方面的工作中寻求协同效应。
目前正在修订的《全球数字契约》预计将制定一系列原则、目标和行动指南,以推进开放、自由、安全和以人为本的数字未来。通过《全球数字契约》框架下的数字合作,联合国成员国将有机会缩小数字鸿沟,实现可持续发展目标。
北京网络安全大会(BCS)是立足北京、辐射全球的世界级交流平台。数字安全高峰论坛暨2023年北京网络安全大会邀请到联合国副秘书长李军华,埃及最高网络安全委员会执行局主席艾哈迈德·阿卜杜勒·哈菲兹,CertiK联合创始人、哥伦比亚大学计算机系教授顾荣辉,新加坡管理大学计算与信息系统学院副院长朱飞达等海外政府官员和安全专家出席,与中国工程院院士方滨兴,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东,中国电子信息产业发展研究院院长、赛迪研究院院长张立,IDC中国区副总裁兼首席分析师武连峰,华为董事、质量流程 IT 总裁陶景文等知名国内专家学者,共同就关键信息基础设施保护、数字安全产业发展、AI安全对数字经济的影响等议题发表演讲并展开讨论。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。