红帽如何用AI节省500万美元？揭秘IT支持服务的创新之旅

通过这些AI工具，红帽不仅增强了自助服务功能，还加快了支持请求的响应速度。预计红帽将避免约500万美元的成本支出，并提高IT支持团队的工作满意度，从而优化客户体验。

红帽的技术支持服务是公司成功的核心，也是客户选择红帽的关键因素。随着客户数量的增加，支持请求的数量也持续攀升，红帽的支持服务面临着巨大的压力。

全球范围内，红帽拥有1,100名技术支持专家，24小时为客户提供服务，每月处理约30,000个新支持案例。为了确保支持服务的高效性与可扩展性，红帽体验工程团队在全球范围内推进AI技术，以提升客户体验并减轻支持团队的负担。

红帽的目标是减少重复性任务、缩短信息检索时间，从而加速响应速度，提高问题解决效率。

红帽体验工程团队AI与数据高级总监Mandy Elliott表示：“面对海量支持资料，我们希望利用AI提升效率，同时确保数据隐私的安全。”

红帽体验工程团队采取灵活、实验性的方式推动AI计划的实施。为了确保AI应用的成功，团队采用了“下注图”（betmap）方法，这种方法注重迭代实验和实时反馈，灵活性强。

红帽的AI技术战略负责人Manikandan Sivanesan表示：“AI能力非常强大，项目很容易失控。虽然灵活性和实验性思维至关重要，但保持项目的专注同样重要。”

AI驱动的四大创新项目

• 优化红帽客户门户的案例管理与故障排查工具

• 开发AI摘要模型生成简洁的解决方案摘要

• 创建AI驱动的案例交接支持工具

• 开发自动生成标准化知识库文章的AI工具

团队最初在红帽企业Linux AI平台上进行AI模型实验，该平台支持开发适用于企业应用的Granite系列大语言模型（LLM）。经过验证后，这些应用被成功扩展并部署在红帽OpenShift AI on AWS平台上，后者是一个为混合云环境专门设计的企业级AI和机器学习（ML）平台。

首个项目聚焦于优化红帽客户门户中的案例管理与故障排查工具，改进了知识文章的排序方式，使其能够更精准地匹配用户问题的相关性。体验工程团队与IBM Research以及红帽IT团队紧密合作，开发了一款基于AI的文本重排序（textual reranking）解决方案，采用了经过微调的IBM Slate Retriever模型，并在红帽IT的OpenShift AI集群上运行，通过GPU加速提升了处理性能。

面对约130,000篇知识库文章，其中许多内容难以被用户高效发现，团队开发了一款AI摘要模型，能够自动生成精准且简洁的知识库摘要。该模型在IBM watsonx.ai和OpenShift AI的数据科学流水线上运行，快速生成易于理解的解决方案摘要，帮助用户高效查找所需信息。

红帽还开发了一款AI驱动的摘要工具，用于简化支持案例的交接。该工具最初是为全球24小时“接力支持”设计的，现在已扩展到更多支持团队。通过GPU加速的Mistral大语言模型，该工具能快速生成支持案例的简洁摘要，优化跨时区、跨团队的协作。

此外，团队还试点了一款AI工具，用于自动化生成标准化的知识库文章，以提高内容一致性并减少人工工作量。

预计红帽的AI驱动创新将帮助公司节省超过500万美元的成本，仅故障排除优化项目就节省了150万美元。自动化生成KCS知识库文章预计每年将为公司节省800万美元。

红帽体验工程团队AI与数据高级总监Mandy Elliott表示：“AI优化了自助服务流程，使支持工程师能够更迅速地响应客户需求。”这不仅让工程师能集中精力处理更有价值的任务，还提升了他们的工作满意度。

这些解决方案不仅增强了红帽的IT支持能力，还为AI项目的最佳实践奠定了基础。Manikandan Sivanesan总结道：“AI的能力巨大，但项目容易失控。灵活性和实验性思维很重要，但保持项目专注同样关键。”

红帽的AI解决方案灵活多样，团队根据每个具体场景选择最合适的技术与模型，确保了项目的成功实施。