如今企业在部署AI方案之前,首先需要解决一系列治理、合规与安全问题,而这必然会在技术、道德、社会和监管等各个层面带来多种复杂挑战。
IBM在今年早些时候推出了watsonx解决方案集,专注于满足企业的特殊需求。之后,IBM又推出watsonx Granite基础模型,希望进一步增强其AI安全储备。而即将在12月初全面上线的watsonx.governance,则专注于企业AI模型的管理与治理任务,希望补齐企业IT的最后一块拼图。
watsonx.governance
IBM的全新watsonx.governance为组织提供一套全面的工具包,用于管理风险、提高透明度并为遵守未来的AI相关法规做好准备。它允许企业建立自动化的AI治理流程、监控模型并采取纠正措施,最终提高整个体系的可见度。
IBM Watsonx.governance
IBM的watsonx.governance是IBM提供的一套新工具,能够在AI模型的管理与治理方面提供多种关键功能:
IBM Consulting也在扩展其战略专业知识,以帮助客户采用负责任的AI实践,包括推动模型治理、乃至更广泛组织治理的全面自动化。其中包括解决AI道德、组织文化、责任、训练、监管合规、风险管理和网络安全威胁等种种现实问题。
watsonx.governance产品将作为IBM watsonx AI与数据平台的一部分,与AI助手和数据存储方案等其他产品一道,帮助企业扩展并加速其AI计划。此外,IBM还为其开发的watsonx模型提供知识产权保护。
企业在部署生成式AI时往往面临着一系列重大挑战,具体涉及治理、合规和安全等层面。如果无法保障数据隐私和安全、保障AI训练中使用的敏感信息并防止数据泄露,技术落地将永远无从谈起。
道德和偏见问题也同样重要。由于AI模型会从训练数据当中继承偏见和倾向,因此可能导致不公平结果,特别是在招聘和执法等敏感领域。此外,不同司法管辖区中法规条款的不断变化又进一步增加了复杂性,要求企业随时关注专业知识并遵守新的法律标准。
此外,不少AI模型还缺乏透明度和可解释性,这就拉高了理解和证明AI驱动决策合理性的门槛,也让产生失误或危害之后的责任划分变得愈发复杂。
新的watsonx.governance以及IBM最近发布的watsonx Granite基础模型解决了上述问题,并帮助组织应对AI带来的挑战,确保技术实践始终负责任且符合道德。
而完整的watsonx产品组合将帮助企业利用AI进行创新,同时保持自身AI规划的透明度、问责制与控制力。
Watsonx
IBM并不是唯一一家挺身而出,愿意帮助企业应对AI安全与负责任部署挑战的厂商。普华永道、德勤、毕马威和埃森哲等传统企业咨询公司都提供一系列服务,希望帮助企业解决这方面问题。谷歌和微软等领先的AI技术提供商也分别推出了针对性的解决方案。
而凭借广泛的方法学基础与深厚的技术积累,IBM几乎是唯一一位有能力全方位解决生成式AI入驻企业时各种现实问题的选手。Watsonx也重塑了我们对于IBM和AI的看法:蓝色巨人正不断通过实用工具补充自己的先进技术解决方案,希望将AI安全可靠地交付给企业客户,并借此积累起强大的商业声誉。IBM对其watsonx路线图的关注和推进速度值得赞赏,我们也将随时关注相关产品在市场上的实际表现。
好文章,需要你的鼓励
机器人和自动化工具已成为云环境中最大的安全威胁,网络犯罪分子率先应用自动化决策来窃取凭证和执行恶意活动。自动化攻击显著缩短了攻击者驻留时间,从传统的数天减少到5分钟内即可完成数据泄露。随着大语言模型的发展,"黑客机器人"将变得更加先进。企业面临AI快速采用压力,但多数组织错误地关注模型本身而非基础设施安全。解决方案是将AI工作负载视为普通云工作负载,应用运行时安全最佳实践。
MBZUAI研究团队发布了史上最大的开源数学训练数据集MegaMath,包含3716亿个Token,是现有开源数学数据集的数十倍。该数据集通过创新的数据处理技术,从网页、代码库和AI合成等多个来源收集高质量数学内容。实验显示,使用MegaMath训练的AI模型在数学推理任务上性能显著提升,为AI数学能力发展提供了强大支撑。
面对心理健康专业人士短缺问题,谷歌、麦肯锡和加拿大重大挑战组织联合发布《心理健康与AI现场指南》,提出利用AI辅助任务分担模式。该指南构建了包含项目适应、人员选择、培训、分配、干预和完成六个阶段的任务分担模型,AI可在候选人筛选、培训定制、客户匹配、预约调度和治疗建议等环节发挥作用。该方法通过将部分治疗任务分配给经过培训的非专业人员,并运用AI进行管理支持,有望缓解治疗服务供需失衡问题。
这项由多个知名机构联合开展的研究揭示了AI系统的"隐形思维"——潜在推理。不同于传统的链式思维推理,潜在推理在AI内部连续空间中进行,不受语言表达限制,信息处理能力提升约2700倍。研究将其分为垂直递归和水平递归两类,前者通过重复处理增加思考深度,后者通过状态演化扩展记忆容量。