企业软件巨头Red Hat近日在年度用户大会Red Hat Summit上发布了一系列与人工智能相关的公告。
这些公告包括将Red Hat Lightspeed生成式AI平台扩展到Red Hat OpenShift和Red Hat Enterprise Linux,使用户能够使用自然语言以更有效的方式与这些产品进行交互,此外还推出了Red Hat OpenShift AI的高级版本,这是一款开放式的混合AI和机器学习开发平台,可以更轻松地构建支持AI的应用,在开源应用现代化项目Konveyor中添加了生成式AI功能。
OpenShift和RHEL获得生成式AI的助力
Red Hat Lightspeed是去年被引入Red Hat Ansible Automation Platform平台的,为Red Hat的工作流程自动化平台带来了先进的自然语言处理功能,这些功能很快将扩展到Red Hat主要的Kubernetes发行版Red Hat OpenShift中,让组织可以用它来构建运行在任何云架构上的容器化、云原生应用。
Red Hat表示,OpenShift被不同业务部门的团队普遍使用,但并非这些团队的每个成员都是构建和部署应用的专家。Lightspeed的这项集成预计将于今年晚些时候推出,旨在帮助OpenShift新手构建和开发他们所需的技能,从而从应用平台中获得更多收益,降低门槛。Red Hat表示,对于专家来说,它就是一种“力量倍增器”。
简而言之,Red Hat Lightspeed旨在让OpenShift更易于使用。例如,它可以给部署新应用的用户提出建议,例如建议需要启用自动缩放、建议适当大小的云实例等等。一旦用户的应用启动并运行了一段时间,它就会评估使用模式,如果容量要求低于预期,则会自动缩减规模。
对于Red Hat Enterprise Linux,Lightspeed将帮助用户更轻松地部署、管理和维护他们的Linux环境。例如,用户将能够提出常见问题并快速解决部署中的任何问题。通过这种方式,就可以帮助简化企业规划和系统管理任务、提高性能、增强安全性,或者帮助用户根据情况需要调整他们的Linux环境。
Red Hat举了一个例子,当新的Common Vulnerability and Exploit发布的时候,RHEL Lightspeed就会给管理员标记出来,管理员可以使用他们的自然声音告诉Lightspeed继续更新。
但是,它将进一步提醒用户在生产中运行哪些受影响的计算机,以便用户知道不要立即将这些计算机脱机并执行更,而是使用Lightspeed在下一个生产维护时段安排更新。
与OpenShift一样,Lightspeed预计将于今年晚些时候在RHEL中提供。
Red Hat表示,Lightspeed本身也进行了增强,可以支持相关性更高的代码推荐,提供更好的整体用户体验。例如,它现在可以利用IBM watsonx Code Assistant使用现有的Ansible内容来训练生成式AI模型。更重要的是,这些内容还可以通过针对每个组织的自动化模式量身定制的watsonx代码建议得到了增强。
Lightspeed还有一个增强的管理仪表板,允许管理员深入了解员工如何使用该平台。
Red Hat公司高级副总裁兼首席产品官Ashesh Badani表示,此次更新展示了Red Hat致力于帮助用户充分利用生成式AI的承诺。他说:“Red Hat Lightspeed将生产就绪的AI交到了IT组织这个能够更快地提供最多创新的用户手中。”
OpenShift AI的新部署和模型服务选项
Red Hat不仅将AI集成到自己的平台中,还打算成为AI开发的主要参与者之一。为此,Red Hat公司在Red Hat OpenShift中推出了Red Hat OpenShift AI平台的新增强功能,用于构建云原生AI应用。
新功能包括边缘模型服务(现已提供预览版),可以将AI模型扩展到使用单节点版本OpenShift的基于远程边缘的应用。Red Hat公司表示,通过此功能,开发人员就可以在资源最有限的环境中通过间歇性或气隙网络开发具有推理功能的应用。
同时,增强的模型服务功能将让OpenShift AI用户从中受益,他们可以使用支持预测性和生成性AI的多个模型服务器。支持的服务器包括KServe,这是一个Kubernetes自定义资源版本,可为每种类型的模型编排服务,以及文本生成推理服务器或大型语言模型的TGIS服务引擎。Red Hat公司表示,这些增强的模型服务功能将使团队能够在单个平台上针对多个用例运行预测和生成式AI,从而降低成本和简化操作。
最后,OpenShift AI通过添加项目工作区和额外的工作台映像,使AI模型开发过程变得更加容易,使数据科学家们能够灵活地使用他们首选的集成开发环境和工具包。
AI驱动的策略即代码
Red Hat公司表示,这次宣布推出的另一项新功能是在Red Hat Ansible Automation Platform平台中的“自动化策略即代码”,该平台使用AI算法来执行安全和治理策略,并在庞大的混合云资产中保持合规性。
Red Hat表示,这个新功能代表在了自动化成熟度方面迈出的最新一步,使企业更容易遵守不断变化的内部或外部要求,更好地准备IT基础设施以大规模地支持AI。
生成式AI增强的应用现代化
Red Hat表示,正在Konveyor中引入生成式AI功能,这个开源项目主要是通过将遗留应用重建为云原生应用来实现现代化。
Red Hat表示,Konveyor本质上为Red Hat的应用迁移工具包提供了基础技术,而生成式AI的引入将有助于提高重新平台运营的经济性。
Red Hat称,Konveyor现在可以集成IBM watsonx Code Assistant等生成式AI模型,后者将直接在开发人员的集成开发环境中,在云中重建遗留应用的整个过程中提供编码建议,从而节省大量时间。此外,Konveyor还将使用检索增强生成技术来利用组织的应用迁移数据,有效了解他们如何实现应用现代化,从而提高代码推荐的质量。
为应用注入生成式AI
最后,Red Hat推出了Podman Desktop开发人员体验的专用扩展,称为Podman AI Lab,允许开发人员在个人计算机和工作站上的容器内构建、测试和运行由AI驱动的生成应用。
据称,Podman AI Lab附带了一个目录,可以简化创建生成式AI应用的过程,而且包括了常见用例的模板,例如可以增强客户支持和虚拟助理的聊天机器人。其他模板则包括了用于提取大量内容的文本摘要器、帮助开发人员进行应用开发的代码生成器、用于识别和定位图像和视频帧中对象和人员的对象检测功能,以及用于立即将音频转录为文本的音频到文本转录功能。
Red Hat公司副总裁、应用开发者业务部总经理Sarwar Raza表示,很多传统应用开发者发现,在集成生成式AI方面存在很大的学习曲线。他说:“Podman AI Lab使他们能够使用熟悉的工具和环境,以更安全的方式将AI模型应用到他们的代码和工作流程中,而不需要昂贵的基础设施投资或广泛的AI专业知识。”
好文章,需要你的鼓励
AWS通过升级SageMaker机器学习平台来扩展市场地位,新增观测能力、连接式编码环境和GPU集群性能管理功能。面对谷歌和微软的激烈竞争,AWS专注于为企业提供AI基础设施支撑。SageMaker新功能包括深入洞察模型性能下降原因、为开发者提供更多计算资源控制权,以及支持本地IDE连接部署。这些更新主要源于客户需求,旨在解决AI模型开发中的实际问题。
南洋理工大学研究团队开发了WorldMem框架,首次让AI拥有真正的长期记忆能力,解决了虚拟世界模拟中的一致性问题。该系统通过记忆银行存储历史场景,并使用智能检索机制,让AI能准确重现之前的场景和事件,即使间隔很长时间。实验显示在Minecraft和真实场景中都表现出色,为游戏、自动驾驶、机器人等领域带来广阔应用前景。
AI虽具备变革企业洞察力的潜力,但成功依赖于数据质量。大多数AI项目失败源于数据混乱分散而非算法局限。谷歌BigQuery云数据AI平台打破数据孤岛,简化治理,加速企业AI应用。通过AI自动化数据处理,实现实时分析,并与Vertex AI深度集成,使企业能够高效处理结构化和非结构化数据,将智能商业转型从愿景变为现实。
MTS AI研究团队提出RewardRanker系统,通过重排序模型和迭代自训练显著提升AI代码生成质量。该方法让13.4B参数模型超越33B大模型,在多种编程语言上表现优异,甚至在C++上超越GPT-4。通过引入困难负样本和PPO优化,系统能从多个代码候选中选出最优方案,为AI编程助手的实用化奠定基础。