全球领先的开源解决方案提供商红帽公司日前宣布,即将在红帽OpenShift AI上集成支持NVIDIA NIM微服务。这一举措旨在在一致的开源AI/ML混合云平台支持下,为数十种人工智能(AI)模型实现优化推理。企业将能够利用红帽OpenShift AI和NVIDIA NIM(NVIDIA 企业AI 软件平台的一部分,是一套易于使用的推理微服务),加速生成式AI(GenAI)应用的交付,从而更快地实现价值。
红帽 OpenShift AI 对 NVIDIA NIM 的支持,基于红帽行业领先的开放混合云技术,包括 红帽企业Linux和 红帽OpenShift,建立在对 NVIDIA 企业 AI 的现有优化基础之上。作为最新合作的一部分,NVIDIA 将实现 NIM 与 KServe 的互操作性,KServe 是一个基于 Kubernetes 的开源项目,适用于高度可扩展的 AI 用例,同时也是 红帽OpenShift AI 的核心上游贡献者。这将有助于促进 NVIDIA NIM 微服务在红帽 OpenShift AI 未来迭代中的持续互操作性。
这种集成使企业能够利用 GenAI 功能提高生产率,例如利用虚拟助理扩展客户服务、对 IT 单据进行案例汇总,以及利用特定领域的协同机器人加速业务运营。
通过将红帽OpenShift AI 与 NVIDIA NIM 结合使用,企业可以从以下方面获益:
NVIDIA NIM 微服务旨在加速企业的 GenAI 部署。NIM 支持多种 AI 模型,包括开源社区模型、NVIDIA AI 基础模型和自定义模型,通过行业标准的应用编程接口(API),能够在企业内部或云端提供无缝、可扩展的 AI 推断服务。
支持证言
Chris Wright, 红帽CTO兼全球工程高级副总裁
“在与 NVIDIA 的合作中,红帽专注于消除障碍,降低复杂性,从而让企业能快速构建、管理和部署AI应用。红帽 OpenShift AI 为扩展 NIM 微服务的覆盖范围提供了一个可扩展、灵活的基础,通过预构建的容器和行业标准 API 为开发人员赋能,所有这些都由开源创新驱动。”
Justin Boitano,NVIDIA企业产品副总裁
“每个企业开发团队都希望尽可能快速、安全地将他们的生成式人工智能应用投入生产。在红帽 OpenShift AI 中集成 NVIDIA NIM 标志着我们合作的一个新里程碑,因为这将帮助开发人员利用性能优化的基础和嵌入模型,在任何云或数据中心中快速构建和扩展现代企业应用。”
好文章,需要你的鼓励
一加正式推出AI功能Plus Mind和Mind Space,将率先在一加13和13R上线。Plus Mind可保存、建议、存储和搜索屏幕内容,并将信息整理到Mind Space应用中。该功能可通过专用按键或手势激活,能自动创建日历条目并提供AI搜索功能。一加还计划推出三阶段AI战略,包括集成大语言模型和个人助手功能,同时将推出AI语音转录、通话助手和照片优化等工具。
北航团队推出Easy Dataset框架,通过直观的图形界面和角色驱动的生成方法,让普通用户能够轻松将各种格式文档转换为高质量的AI训练数据。该工具集成了智能文档解析、混合分块策略和个性化问答生成功能,在金融领域实验中显著提升了AI模型的专业表现,同时保持通用能力。项目已开源并获得超过9000颗GitHub星标。
预计到2035年,数据中心用电需求将增长一倍以上,达到440TWh,相当于整个加利福尼亚州的用电量。AI工作负载预计将占2030年数据中心需求的50-70%。传统冷却系统电机存在功率浪费问题,通常在30-50%负载下运行时效率急剧下降。采用高效率曲线平坦的适配电机可显著降低冷却系统功耗,某大型数据中心通过优化电机配置减少了近4MW冷却功耗,为13500台AI服务器腾出空间,年增收入900万美元。
卢森堡计算机事件响应中心开发的VLAI系统,基于RoBERTa模型,能够通过阅读漏洞描述自动判断危险等级。该系统在60万个真实漏洞数据上训练,准确率达82.8%,已集成到实际安全服务中。研究采用开源方式,为网络安全专家提供快速漏洞风险评估工具,有效解决了官方评分发布前的安全决策难题。