Oracle 宣布限量发布 Oracle 云基础设施远程软件服务(Oracle Cloud Infrastructure, OCI) 生成式 AI 服务。全新的生成式 AI 服务可支持大型语言模型 (LLM),帮助组织实现端到端业务流程自动化,改善决策和客户体验,同时还能保护数据安全和隐私。
OCI Generative AI 服务是一个由 OCI 与知名企业 AI 平台 Cohere 合作构建的托管服务,可帮助用户通过可用的 API 将 LLM 集成到自己的应用中。待正式发布后,此服务和 Cohere 模型可与 AI Vector Search 无缝运行。AI Vector Search 是 Oracle Database 23c 的一项功能,可提供检索增强生成 (RAG) 技术。这是一种生成式 AI 技术,可将预训练的 LLM 和专有业务数据相结合,从而提高响应的准确性。此服务还将为嵌入到 Oracle SaaS 应用套件中的生成式 AI 功能奠定基础,其中包括 Oracle Fusion Cloud Applications Suite、Oracle NetSuite 和 Oracle Cerner 等行业应用。
Oracle Cloud Infrastructure 执行副总裁 Clay Magouyrk 表示:“Oracle 的行业知识使我们能够为组织创建生成式 AI 服务,以实现流程自动化、做出更明智的决策并改善客户体验。通过 Oracle 与 Cohere 的合作,客户能够轻松、安全地将生成式 AI 嵌入到其技术堆栈中,并相信我们的解决方案能够符合他们严苛的数据安全和隐私要求。这一方法有助于组织使用自己的数据来优化这些模型,打造可满足内部运营需求的模型。”
OCI 拥有低成本、安全且快速的 AI 基础设施,客户可以以托管服务的方式将 Cohere 的模型用于企业用例。OCI Generative AI 服务的客户可在 Oracle 的 AI Supercluster 架构上的专用基础设施中运行工作负载,从而自主控制特定成本和吞吐量需求,比如使用自己的数据来进行模型优化,或者是部署定制模型。
全新的 OCI Generative AI 服务包含以下模型:
Cohere 总裁兼首席运营官 Martin Kon 表示:“Oracle 和 Cohere 的企业 AI 产品以数据安全、模型定制和低延迟为中心,助力企业快速、经济高效且负责任地部署有意义的 AI 技术。我们正与 Oracle 密切合作,采用数据安全和隐私优先的策略,让企业能够利用 AI 来赋能业务。”
Altair 首席技术官 Sam Mahalingam 表示:“Oracle 是 Altair 重要的合作伙伴。Altair 专注于计算科学和人工智能,在 Oracle 强有力的支持下,Altair 已开始将大型语言模型整合到我们的解决方案中。我们相信,生成式 AI 将改变我们的工作方式。例如,客户以自然语言描述想要的结果,然后 LLM 就会自动生成解决方案。在数据分析中,客户不再需要为机器学习编写代码,只需要提出预测需求即可。在工程设计中,客户则可以描述产品属性,由模型来完成设计工作。生成式 AI 的使用场景无所不在。”
除了推出 OCI Generative AI 服务,Oracle AI 也将继续在多个限量发布计划中为现有服务添加增强功能,其中包括:
Wikibon 高级分析师 Marc Staimer 表示:“OCI Generative AI 服务是一款全新的生成式 AI 云技术服务,可提供企业级安全性、灵活性和用户调优功能,满足市场需求。该服务提供严格的安全和治理来保护用户的专有数据,也能够确保仅让客户使用和查看该模型。同样重要的是,客户可以控制专用的 OCI Supercluster AI 基础设施,对模型进行微调或部署定制模型,同时还能满足特定的成本和吞吐量需求。OCI Generative AI 服务是企业功能和成本性能的理想组合。”
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。