全新 JFrog Artifactory 集成为开发人员和数据科学家提供开源软件解决方案,可简化并安全加速 ML 模型开发
2024年5月7日 —— 流式软件公司、JFrog 软件供应链平台的缔造者JFrog (纳斯达克股票代码:FROG)近期宣布实现JFrog Artifactory和Databricks开发的开源软件平台MLflow的全新机器学习(ML)生命周期集成。继今年早些时候发布与 Qwak 和 Amazon SageMaker 的原生集成后,JFrog 扩展了其通用AI解决方案,为企业提供以 Artifactory 作为模型注册中心的单一记录系统。这项全新集成让 JFrog 用户在简化的端到端 DevSecOps 工作流中,结合所有其他软件开发组件,高效地构建、管理和交付 ML 模型以及生成式AI(GenAI)驱动的应用程序。通过确保每个模型不可变性和可追溯性,企业可以验证 ML 模型的安全性和来源,从而发展负责任的AI实践。
行业研究表明,为创建新的AI驱动应用程序而构建的 ML 模型中,有 80% 或更多的模型无法部署,这主要是由于将模型集成到当前操作时存在技术障碍。JFrog与MLflow的集成通过将MLflow常用的开源模型开发解决方案与企业成熟的DevOps工作流无缝结合,帮助企业克服技术难题。从实验到生产,这一集成为ML模型提供端到端的可视性、自动化、可控性和可追溯性。
JFrog首席技术官Yoav Landman表示: “企业要想成功地接受并大规模交付AI和GenAI驱动的应用,开发人员和数据科学团队就必须像管理所有软件包一样,以可信赖的方式对模型进行管理。唯有使用一个通用的、可扩展的、统一针对所有二进制文件的单一记录系统才能实现这一目标,该系统可提供版本控制、生命周期控制和安全控制,而我们与MLflow的新集成可提供这些功能。”
JFrog MLOps:所有模型的单一事实来源
基于与市场上所有主要ML工具的成功集成,JFrog Artifactory 和 MLflow 的集成使 ML 工程师、Python、Java 和 R 开发人员能够自由地使用自己偏好的工具堆栈,并将 Artifactory 作为其黄金标准模型注册表。JFrog 的通用可扩展平台还能够原生代理 Hugging Face,使开发人员能够始终访问可用的开源模型,同时检测恶意模型并执行许可合规性。该解决方案还配备了JFrog平台提供的软件安全功能和扫描仪,以维护无风险的ML应用。
MLSecOps —— 值得信赖且经过策划的模型
JFrog安全研究团队最近在公开的Hugging Face AI库中发现了数百个恶意AI ML模型的实例,这构成了数据泄露或攻击的重大风险。这一事件凸显了潜伏于AI驱动系统中的潜在威胁,并强调了增强安全意识和维护网络安全的必要性。
JFrog Artifactory 与 MLflow 的集成将助力用户更轻松地构建、训练和部署模型,并利用 JFrog 的扫描环境,严格检查上传到 Hugging Face 的每个新模型,从而在安全性、模型管理、版本控制、可追溯性和信任度等方面实现更大的优化。
好文章,需要你的鼓励
这项由清华大学与NVIDIA合作的研究提出了"负例感知微调"(NFT)算法,挑战了"自我提升仅适用于强化学习"的传统观念。通过构建隐式负面策略处理错误答案,NFT在数学推理任务上匹配甚至超越了顶尖强化学习算法的表现。研究不仅证明了监督学习与强化学习在特定条件下的等价性,还展示了如何利用负面反馈显著提升大语言模型的数学能力,为AI训练方法论开辟了新视角。
这项研究提出了一种名为混合推理策略优化(HRPO)的新方法,通过强化学习使大型语言模型能够结合离散标记和连续隐藏表示进行推理。HRPO设计了创新的门控机制,初始时以标记嵌入为主,逐渐增加隐藏状态的比例,并通过强化学习优化这一混合策略。实验表明,HRPO在知识和推理任务上显著优于现有方法,甚至使小型模型达到大型模型的性能,同时展现出跨语言推理等有趣特性。
这项研究介绍了REARANK,一种基于大语言模型的创新列表式推理重排序助手。通过强化学习技术,该模型在排序前先进行明确推理,显著提升了排序性能和可解释性。仅使用179个标注样本训练的REARANK-7B在多个信息检索基准测试中表现卓越,甚至在推理密集型任务上超越了GPT-4。研究证明了结合推理能力与高效排序策略的重要性,为构建更智能的信息检索系统提供了新思路。
"当我看到梵高的每一笔中都有他的痛苦时,才明白我们看的不是作品,而是作者的人生。AI正以惊人的速度接近人类水平通用智能,让Google从'伦敦那帮疯子在搞AGI'转变为全公司共识。DeepMind让AI'合理地幻觉'来创造突破,就像Astra技术让用户第一次惊呼'AI能做到比想象更多'——这不仅是技术革命,更是重新定义创造力的开始。"