Docker公司今日宣布推出重要新功能,旨在大幅简化智能体AI应用程序的构建、运行和部署过程。
该公司通过将应用程序打包在轻量级、可移植的软件容器中来简化应用程序的构建、测试和部署,现在宣布扩展其Docker Compose工具以支持AI智能体和AI模型,使开发者能够轻松大规模部署这些应用。公司还推出了Docker Offload,允许开发者将AI模型扩展到云端,并与Google Cloud、Microsoft Azure以及众多AI软件开发工具包提供商等集成合作伙伴展开合作。
Docker工程执行副总裁Tushar Jain表示:"智能体应用程序正在快速发展,但构建生产级智能体系统仍然过于困难。我们现在通过让基于智能体的开发像基于容器的应用开发一样简单、安全和可重复,使每个开发者都能使用智能体应用程序。"
智能体AI是新一代AI软件的一部分,涉及使用大语言模型为工具提供动力,使其能够自主行动并在最少人工监督下实现复杂目标。与通常依赖直接交互(如问答)的传统AI聊天机器人不同,AI智能体可以做出决策、制定行动计划并适应变化的环境,通过问题解决来完成逐步目标。
Docker Compose一直是Docker面向开发者的核心工具之一,用于运行存在于多个容器中的应用程序——这些标准化软件包包含运行应用程序所需的一切,包括代码、运行时、系统工具、库和配置。
该公司表示,正在扩展Compose以应对智能体时代的挑战,允许开发者定义由AI模型和将其投入生产所需工具组成的智能体架构。这包括在单个Compose文件中定义智能体、模型和工具。开发者还可以在本地运行智能体工作负载或无缝部署到云服务。
Compose允许开发者与Docker的模型上下文协议网关安全连接,促进与其他AI工具和数据服务的通信和发现。该协议使开发者能够将大语言模型和AI应用程序与数据服务集成,而无需重写代码或创建复杂的应用程序接口。
Enterprise Strategy Group首席分析师Torsten Volk表示:"扩展Docker Compose为开发者提供与传统应用相同的熟悉、简单的AI部署体验,正是我们所需要的。此外,直接在云端运行AI模型的新功能——而不会堵塞您的笔记本电脑——是另一个重大进步。这应该会对企业大规模采用AI的速度产生真正的影响。"
Docker推出Offload功能
智能体AI应用程序需要比标准AI模型使用更多的图形处理单元功率,因为它们要完成复杂任务。本地机器在必要容量方面经常落后,导致缓慢的结果。
为解决这一挑战,Docker今日发布了测试版的Docker Offload。这项新服务允许开发者在需要时将AI和GPU密集型工作负载转移到云端。
根据Docker的说法,新服务允许开发者保持本地速度并仅在需要时访问云端;大型模型和多智能体系统可以转移到高性能云环境。开发者可以根据隐私、成本和性能需求选择在何处何时转移工作负载。
新的Offload功能直接集成到Docker Desktop中,通过现成的配置选项轻松使用和访问。
此云可用性的集成合作伙伴包括通过无服务器环境的Google Cloud和即将推出的Microsoft Azure。Compose集成还支持流行的智能体AI框架,包括CrewAI、Embabel、Google的智能体开发工具包、LangGraph、Spring AI和Vercel AI SDK。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。