开源AI进企业,红帽建议分三步构建AI应用 原创

红帽的AI理念可以总结为“开源”与“混合”两个关键词。

AI应该开源or闭源?这在科技界一直颇有争议。

开源派的信条是“众人拾柴火焰高”。由于其代码公开,任何人都可以审查和验证模型的安全性及隐私保护措施。这种透明性有助于及时发现并修复潜在的安全漏洞,确保用户数据的安全。

在开源领军企业红帽看来,开源与闭源并无绝对的对错。但是闭源模式下,生态垄断和安全隐患的迹象已初露端倪。相对而言,开源模式由于受到广泛社区的监督,能够更迅速地应对安全挑战。

把开源理念引入AI模型

红帽的AI理念可以总结为“开源”与“混合”两个关键词。

首先,红帽致力于构建开放的生态系统,将开源思想带入AI领域。红帽的所有AI产品和解决方案均为开源,从模型调优、应用开发到部署,覆盖了整个流程。这种开放策略不仅促进了技术的快速迭代,还将增强整个生态系统的活力。

其次,红帽推崇混合云战略,认为AI应用的消费模式应当多样化。红帽认为,完全依赖云端处理不仅浪费资源,还限制了灵活性。AI模型可以在云端开发,也可以在本地数据中心,甚至是简单的笔记本上建模,这样的灵活性使得资源的利用更为高效。

红帽全球副总裁兼大中华区总裁曹衡康指出,当前许多公司开发的AI模型过于复杂,动辄万亿参数的规模。红帽主张化繁为简,用比较简单的数据合成方式,把AI模型建立和调优的工作量降低,以轻量化的方式推动AI发展。

开源AI进企业,红帽建议分三步构建AI应用

红帽不做硬件,也不开发应用,而是致力于搭建一个全面的一站式AI平台,帮助企业构建、部署和管理AI模型与应用。

在生态合作方面,红帽已与超过5000家硬件企业及4000家软件企业建立了合作关系。这些举措,使红帽在国际IT媒体CRN的评选中,荣登推动AI发展的20家AI云公司榜单。

实施AI创新从来不简单

企业需要抓住AI机遇,但事实上,真正实施AI创新远不是一件简单的事。

“AI模型的选择还只是冰山一角”,红帽大中华区解决方案架构部高级总监王慧慧说道,“在实际实施过程中,企业不仅需要评估AI的应用场景,并运用AI专业知识来为特定场景选择适当的模型,还要处理AI实施过程中的各项难题,加上AI技术高门槛和专业人才的稀缺,使得实际情况更为复杂。”

王慧慧总结了企业在AI创新过程中面临的六大主要挑战:

• 安全合规要求高:数据泄漏、数据隐私侵犯和数据主权风险,以及严格的行业和政府监管要求,使企业在安全合规方面面临巨大压力。

• 成本高:高昂且难以采购的GPU,难以招聘的数据科学家,以及供应商锁定导致的议价困难,都使得AI实施成本居高不下。

• 复杂度高:AI模型训练与调优的复杂性、多样的工具和框架选择、复杂的系统架构,都增加了AI实施的难度。

• ROI低:回报率低,回报周期长,时间成本高,AI应用场景不明,业务目标难以实现,使得AI投资回报率不高。

• 协作效率低:企业在使用AI模型赋能应用、训练和调优模型、部署和管理AI模型的过程中,协作效率低下。

• 人才稀缺:人才稀缺:数据科学和AI人才的稀缺,知识技能的匮乏,以及陡峭的学习曲线,导致企业在AI技术更新上落后于技术趋势。

针对这些挑战,红帽基于混合云提供从基础架构、平台、模型到AI赋能应用的全流程能力。

在AI应用层,红帽提供跨开放混合云的AI赋能企业应用;

在AI模型层,红帽提供多样化的模型选择,提高企业AI创新的投资回报;

在AI平台层,红帽提供领先的AI平台,帮助企业安全高效地部署和管理AI模型及应用;

在AI基础设施层,红帽为企业的AI模型和AI应用提供安全的可扩展基础设施和自动化解决方案。

此外,红帽还提供集咨询、实施、赋能于一体的开放创新实验室服务,加速企业AI实施的创新步伐。

“三步走”构建AI应用

为了帮助企业构建AI应用,红帽提出了一个“三步走”策略。

Podman Desktop提供了本地开发者工作流程,可用于模型微调;而InstructLab工具则帮助模型训练人员以较低成本对齐模型,从而提升开发效率和效果。

第一步,在资源受限的桌面环境下,采用小数据集进行实验性训练。无论是应用开发人员还是模型开发人员,都可以在自己的笔记本或PC工作服务器上使用容器化方式开发AI应用。这其中Podman Desktop工具提供了可以做模型微调的本地开发者工作流程,InstructLab则可以帮助模型训练人员以较低成本对齐模型。

第二步,企业通过完整的合成数据生成技术,采用“教师”模型和“学生”模型的训练方法进行生产级模型训练。红帽企业级Linux AI平台在这里发挥了关键作用,其能够无缝开发、测试和运行适用于企业级应用的Granite模型。这个平台汇集了开放的Granite模型、InstructLab模型对齐工具,以及红帽企业Linux的可启动镜像等资源。

第三步,企业在更大的分布式集群环境下进行生产级模型训练,同时充分利用Kubernetes扩展和自动化,实现MLOps的全部功能。在这一步中,混合MLOps平台OpenShift AI能够帮助企业在混合云环境中大规模创建和交付依托AI技术的应用。OpenShift AI支持数据的获取和准备、模型的训练和微调、模型供应、模型监控及硬件加速。

王慧慧表示,我们希望通过这样的解决方案和三步走端到端平台,满足企业用户不同阶段的需求。

红帽在国内的发展策略

在谈及红帽在国内的重点发展策略时,曹衡康提到了两个关键方向。

第一,配合国家战略,加速企业智能制造升级。红帽致力于通过开源技术重塑行业技术架构,并打通行业生态。尤其在工业控制、通讯技术、信息技术等领域,推动行业AI转型。

红帽的云原生方案旨在助力制造业实现IT、OT和AI的整合创新。例如,通过工控微服务与IT微服务的混合部署,制造企业可以大幅降低自动化、数字化和信息化的整体成本;而工控微服务与AI微服务的结合能够显著降低实时分析高解析度数据的复杂度,进而提升预测性维护和数字孪生等应用场景的分析准确性。

第二,赋能与融合国内AI生态,加速AI在全行业的应用。通过与国内外GPU厂商、OEM、ISV及云厂商的合作,加速金融、电信、广义制造业和汽车等行业的AI应用。

通过开源技术和全面的AI解决方案,相信红帽将帮助企业在复杂的AI创新旅程中走得更远、飞得更高。

来源:至顶网软件与服务频道

0赞

好文章,需要你的鼓励

2024

06/20

16:02

分享

点赞

邮件订阅