云原生和AI都是现在时下的热词,“云原生AI”又是什么?是不是有凑热闹的嫌疑?
“云原生AI”意味着数据从采集、落地到使用都是在云上直接实现,而且通过人工智能运用这些数据,产生更有效的模型进行投产,让模型基于云化,使用DevOps技术等,让云化的内容和CI/CD这样的逻辑搭配在一起,就更灵活的把AI能力部署到终端,例如用PRC控制机械臂,产生更大的价值。
云原生与AI结合可以说优势多多,红帽资深解决方案架构师赵锡漪表示,在制造业场景中,通过DevOps或CI/CD的方法把容器调度起来,同时把人工智能的逻辑也调度进去,就会快速实现生产的转型,实现一条生产线上今天和明天生产不同的产品,甚至在焊接时,根据算法不断调整焊接位置,达到可预期的未来。
数据引擎、数据科学、应用开发都是一个CI/CD过程,需要一个平台将其串联,实现多段联合。
红帽的云原生AI能力就体现在OpenShift上,OpenShift可以实现两点,第一,隔离,让有限的项目有限的资源使用在特定的事情上;第二,共享,按政策相互间可以联通协作。
OpenShift可以同时调度英特尔OpenVINO和英伟达GPU框架,并将两者进行协同。而且OpenShift支持软性的多GPU共享,一个数据中心可以将GPU分给了很多用户。
红帽是一家开源、中立、平台型的厂商,其优势就是集合大家的优势,将这些优势应用到整个AI算法构建过程中,就变成了一个逐步可完善的过程。
赵锡漪表示,使用AI能力包括两种方式:一种是研究数据,之后进行模型构建,这也是红帽Open Data Hub产品的核心;第二种是已经写好的更底层代码,直接使用GPU资源,可以用OpenShift虚拟化,将GPU切成多个vGPU。
Prometheus、Grafana、Seldon、Spark、Jupyterhub、Ceph、Kafka、Argo组件都可以由Open Data Hub进行调度。Open Data Hub可通过MLflow模式,将这些组件经提供好的参数,直接匹配成一套可运行的环境,用户在Python上直接写代码即可,不需要再进行底层配置,这些都是红帽围绕AI构建的整个生态环境。
云上管理AI有一个组件SELODM很有价值,它可以把不同的AI模型组合在一起,通过Graff的组件把它描述成一个协同工作的模型。比如三个模型中先做两个模型的运算,然后通过前两个模型算出谁的接近率到90%以上,就把它用到的B模型的输入里面,然后B模型再输出,最终形成一个总运算结果。
用户使用SELODM组件可以同时将几个模型下发到生产中,按照比例设置这边和那边各用多少,最后评估谁的模型更有效,来发布一个更有效的模型。
在AI实践中数据科学家有两个瓶颈,第一,怎么开始,因为拿到的数据和设计的数学公式和业务目标并不是真正匹配起来;第二,怎么投产,已有模型但不知道谁来做、怎么做。赵锡漪指出,使用SELODM组件的框架可以把模型和科数学科学家偶合,变成一种平台化的对接行为,减少沟通方面的瓶颈。
在OpenShift快速搭建数据科学实验室,可以用一个典型的工业制造项目MANUfacturing Edge Lightweight Accelerator来进行解读。
MANUfacturing Edge Lightweight Accelerator项目包括多域、多云如何组合、这些云如何协同、怎样在传统系统上独立构建出一个新的数学科学实验室,然后把原来已经在生产线的数据采集之后交给数学实验室,由数学实验室形成一些AI模型,再下发给生产线上的一些监控设备和监控窗口,形成一个对原有监控体系的完整体系。
项目有基础的框架,同时它是轻量级的,所以无论你想做什么样的事情,都可以在这个架构上开始。赵锡漪表示,项目还带有边缘计算特性,对于一些边缘计算的场景应用也是个很好的起步项目。
红帽还将推出AI/ML on OpenShift动手实验营,提供一个免费的培训环境,并且红帽AI/ML Innovation Lab创新实验室也将进入中国,为中国客户提供咨询服务。红帽首席架构师张家驹表示,红帽AI/ML Innovation Lab创新实验室可以帮助企业从Open Source环境搭建选择,以及需求整理、设计,直到最终做一个原型的过程。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。