微软高管：合作伙伴对实现负责任人工智能和安全“至关重要”

微软高管近日表示，微软解决方案提供商对于微软实现和维护负责任的人工智能和安全 “至关重要”。

在本周举行的微软Build 2024负责任的人工智能与安全专题讨论会上，CRN 向微软公司安全、合规、身份、管理和隐私副总裁 Vasu Jakkal 询问了托管安全服务提供商（MSSP）和其他以服务为主导的微软合作伙伴在通过人工智能提供更高的安全性以及保护用户免受人工智能带来的威胁方面所扮演的角色。

Jakkal表示，合作伙伴在向客户介绍人工智能、如何使用人工智能以及如何开发使用手册方面 “非常重要”。她表示：“安全是一项团队行动”，“我们必须确保我们的合作伙伴也参与其中”。

微软Build 2024大会

微软在全球拥有约40万家渠道合作伙伴，是CRN的2024 Channel Chiefs成员。

在回答同一个问题时，微软负责人工智能的首席产品官Sarah Bird对CRN表示：“合作伙伴对于帮助更多人了解需要如何实施人工智能至关重要。”

Bird表示，微软还建立了人工智能界面来帮助教育用户，提供入门体验，让用户使用风险较低的数据，并“与值得信赖的供应商合作，这些供应商在如何建立系统、系统的功能以及系统如何处理你的数据方面都是透明的。”

她提到参与了微软去年发起的负责任人工智能（RAI）合作伙伴倡议的服务合作伙伴，该倡议旨在围绕人工智能最佳实践分享信息。

据微软称，这些成员包括埃森哲、Avanade、Capgemini、Cognizant、Kyndryl 和普华永道。微软在宣布该倡议时承诺，将在全球各地区组建一支专门的人工智能法律和监管专家团队，协助人工智能治理系统的实施。

Bird表示：“我认为，这是我们如何真正实现这种规模的一个重要部分。”“尽管我很想与每个人单独合作，但我认为这是不可能的。因此，他们（合作伙伴）真的很重要。”

今年4月，微软Copilot for Security全面上市，带来了生成式人工智能以加快网络安全专业人员的工作速度。Jakkal对与会者表示，无论用户的专业水平如何，使用Copilot的速度都能提高20%以上。

她告诉与会者，Copilot for Security的早期访问有100多家合作伙伴参与，其中包括MSSP。

Jakkal表示，身份攻击“和去年同期相比增长了10倍”，用户点击了钓鱼链接之后，攻击者平均只需72分钟甚至更短的时间就能够获取用户数据访问权限。合规机构每天要发布约250项法规更新。而安全行业有400万个职位空缺。

Jakkal表示，Copilots是安全行业跟上节奏、缩小差距的一种方式。“生成式人工智能为我们提供了一种超级能力”。

Bird对与会者表示，微软已经与社会语言学、面部形态学和其他领域的学者和专家合作，以确保输入的多样性，从而制造出负责任的人工智能。在开发“recall”等人工智能相关技术时，微软采用了红队、自动测试、安全可靠的设计架构和其他技术。

她表示：“我们既要确保有更多的人能够参与到推动未来技术发展的工作中来，又要确保技术能够理解哪些人将会使用这项技术，并确保这项技术能够有效地为他们服务。”

微软还研究了如何将传统的安全流程引入负责任的人工智能，并针对人工智能带来的新危险（如人工智能程序的有害输出）改进传统流程。

她还表示，微软起初并不确定开发人员是否会喜欢该公司发布的首个大规模GenAI版本——GitHub Copilot。Bird表示：“实际上，我们已经看到，开发人员表示他们的速度提高了40%，但满意度提高了75%。”

Jakkal表示， Copilot提高的质量和准确性与加快专业人员的速度同样重要。根据微软的测试，没有经验的用户使用Copilot的准确率提高了35%，而经验丰富的专业人员的准确率提高了7%。

Bird表示，微软对Copilot最初的体会之一是，人们认为工具会出错，但实际上是“我们没有把正确的数据传送到系统中”，这造成了更多的数据工程和清理工作，而这些工作都是由微软解决方案提供商承担的。

她表示：“我们非常惊讶，人们在组织内部能够访问那些他们本不该访问的数据。”“他们现在不得不去清理数据……人工智能正在推动许多无论如何都该做的事情，但是也许你没有这种强制力。”

另一位嘉宾Chitra Gopalakrishnan 负责微软 Windows 和设备的治理、风险和合规工作，她对与会者表示，Copilot+ PC 中新的“recall”功能遵循了负责任的人工智能原则，将用户的内容保存在设备本地，“让客户始终掌握控制权”。

这些控制允许用户“非常容易地关闭这些快照的保存……他们甚至可以阻止网站或者应用程序列表。”她表示：“IT管理员和商业用户还可以‘通过组策略禁用recall’。”