这项调查涵盖249名企业风险高层管理人员,汇总出2023年第二季度最严峻的五大新兴风险。
根据Gartner公司发布的数据,生成式AI(包括OpenAI ChatGPT和谷歌Bard)的大规模普及已经成为2023年第二季度企业风险管理者们最关注的问题。
Gartner风险与审计实践研究总监Ran Xu表示,“在我们第二季度的调查当中,生成式AI已经成为第二大常见风险,这也是其首次出现在风险因素的前十名中。由此看来,随着公众认知和生成式AI工具普及度的快速增长,再结合潜在用例的巨大广度,这些工具带来的潜在风险已经不容小觑。”
2023年5月,Gartner对249名企业风险高层管理人员进行了调查,其中提出20种新兴风险的基准观点。这份季度新兴风险报告提出了这些风险的潜在影响、时间范围、关注程度和感知机会等细节信息。
而在第二季度的最新调查当中,第三方生存能力成为各类组织最为关注的首要新兴风险(见表1)。财务规划不确定性排名第三,位列第四的则是云集中风险。对中国的贸易紧张局势排名第五,具体又分为当前宏观经济疲软,以及因地缘政治的广泛波动所引发的现实影响与技术担忧。
2023年第二季度最常被提及的五大新兴风险
来源:Gartner(2023年8月)
生成式AI的大规模普及
Gartner此前已经确定了生成式AI的六大风险,以及与功能保障相关的四大AI监管领域。Gartner专家表示,在管理企业风险方面,必须解决以下三大核心难题:
解决问题的关键,是教育企业领导者在使用此类工具时保持谨慎态度和透明公开,以便立足生成式AI工具的输入和输出层面妥善控制知识产权风险。
生成式AI工具可能会在不事先通知的情况下,与其他第三方(例如供应商或服务提供商)共享用户信息,而这很可能违反多个司法管辖区的隐私法条款。例如,中国和欧盟已经开始实施监管,美国、加拿大、印度和英国等国家也提出了监管建议。
第三方生存风险的根源和影响
Xu解释道,“持续不断的通货膨胀几乎不受加息政策的缓解,而且持续时间也比预期更长,这加剧了第三方机构的成本和利润压力。随着美国央行不断提高利率以对抗通胀,信贷紧缩周期必然随之来临,且很可能迫使供应商暂停运营、甚至因借贷成本上升而资不抵债。”
如果经济状况普遍恶化,也可能导致需求进一步下降,从而影响第三方供应商的生存能力、或者是及时交付商品/服务的能力。Gartner专家指出了由第三方生存问题引发的三种潜在后果,供风险管理者根据实际情况进行监控:
好文章,需要你的鼓励
工业升级的关键,或许在于智能本身。“工业+机器人”将成为通向下一阶段工业体系的核心抓手。——黄仁勋。
浙江大学等联合研究发现,AI强化学习效果取决于"模型-任务对齐"程度。当AI擅长某任务时,单样本训练、错误奖励等非常规方法也有效;但面对陌生任务时,这些方法失效,只有标准训练有用。研究团队通过大量实验证实,这种"舒适圈"现象比数据污染更能解释训练差异,为AI训练策略优化提供了新思路。
瑞士政府正式发布了自主研发的人工智能模型,该模型完全基于公共数据进行训练。这一举措标志着瑞士在AI技术自主化方面迈出重要一步,旨在减少对外国AI技术的依赖,同时确保数据安全和隐私保护。该模型的推出体现了瑞士对发展本土AI能力的战略重视。
巴赫切希尔大学研究团队通过对五种不同规模YOLO模型的量化鲁棒性测试发现,静态INT8量化虽能带来1.5-3.3倍速度提升,但会显著降低模型对噪音等图像损伤的抵抗能力。他们提出的混合校准策略仅在大型模型处理噪音时有限改善,揭示了效率与鲁棒性平衡的复杂挑战。