DevOps 团队、ML 工程师和数据科学家现可放心地存储、保障、治理和管理AI组件,包括业界首个检测恶意ML模型的平台
2023年12月5日 —— 流式软件公司、企业软件供应链平台提供商JFrog推出ML模型管理功能,这是业界首套旨在简化机器学习(ML)模型管理和安全性的功能。JFrog 平台中的全新ML模型管理功能使AI交付与企业现有的 DevOps 和 DevSecOps 实践保持一致,从而加速、保护和管理ML组件的发布。
JFrog 联合创始人兼首席技术官 Yoav Landman 表示:"如今,数据科学家、ML工程师和 DevOps 团队在交付软件方面没有通用的流程。这往往会导致团队之间发生摩擦,造成一定规模的困难,以及整体产品组合在管理和合规性方面缺乏标准。如果没有 Python 及其所依赖的软件包,机器学习模型制品是不完整的,且通常使用 Docker 容器为其提供服务。我们的客户已经将JFrog视为制品管理和DevSecOps流程的黄金标准。数据科学家和软件工程师开发了现代化AI功能,他们已经是 JFrog 的原生用户。随着我们将机器学习模型管理以及模型安全性和合规性引入统一的软件供应链平台,以帮助他们在AI时代大规模交付可信软件,因此,此次发布也就顺理成章地成为下一步举措。"
越来越多用户使用AI和 ML。IDC 研究表明,包括软件、硬件和服务在内的全球 AI/ML 市场预计将在 2023 年增长 19.6%,超过 5000 亿美元。然而,随着越来越多的 ML 模型投入生产,最终用户往往面临着成本、缺乏自动化、缺乏专业知识以及扩展能力等方面的挑战。[1]
IDC DevOps 与 DevSecOps 研究副总裁 Jim Mercer 表示:“将 ML 模型从头到尾部署到生产中需要耗费大量时间和精力。然而,即使投入生产,用户也会面临模型性能、模型漂移和偏差等挑战。因此,拥有一个单一的记录系统,帮助实现ML模型的自动开发、持续管理和安全性,所有其他组件打包到应用程序中,这样就能够为优化流程提供一个令人信服的替代方案。”
使用 JFrog 全新 ML 模型管理功能,企业能够:
JFrog产品与工程高级副总裁Yossi Shaul表示:“越来越多的企业开始将ML模型纳入其应用程序中,而且随着一些政府法规要求软件供应商明确列出其软件中的内容,我们相信不久后这些指导方针也将涵盖 ML和 AI 模型。我们很高兴能为客户提供代理、存储、保障和管理模型以及其他软件组件的简便方法,帮助他们加快创新步伐,同时为未来需求做好充分准备。”
[1] IDC,《MLOps -- ML 与 DevOps 的结合》,作者:DevOps 与 DevSecOps 研究副总裁 Jim Mercer,2022 年 3 月
https://www.idc.com/getdoc.jsp?containerId=US48544922&pageType=PRINTFRIENDLY
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。