Oracle 宣布限量发布 Oracle 云基础设施远程软件服务(Oracle Cloud Infrastructure, OCI) 生成式 AI 服务。全新的生成式 AI 服务可支持大型语言模型 (LLM),帮助组织实现端到端业务流程自动化,改善决策和客户体验,同时还能保护数据安全和隐私。
OCI Generative AI 服务是一个由 OCI 与知名企业 AI 平台 Cohere 合作构建的托管服务,可帮助用户通过可用的 API 将 LLM 集成到自己的应用中。待正式发布后,此服务和 Cohere 模型可与 AI Vector Search 无缝运行。AI Vector Search 是 Oracle Database 23c 的一项功能,可提供检索增强生成 (RAG) 技术。这是一种生成式 AI 技术,可将预训练的 LLM 和专有业务数据相结合,从而提高响应的准确性。此服务还将为嵌入到 Oracle SaaS 应用套件中的生成式 AI 功能奠定基础,其中包括 Oracle Fusion Cloud Applications Suite、Oracle NetSuite 和 Oracle Cerner 等行业应用。
Oracle Cloud Infrastructure 执行副总裁 Clay Magouyrk 表示:“Oracle 的行业知识使我们能够为组织创建生成式 AI 服务,以实现流程自动化、做出更明智的决策并改善客户体验。通过 Oracle 与 Cohere 的合作,客户能够轻松、安全地将生成式 AI 嵌入到其技术堆栈中,并相信我们的解决方案能够符合他们严苛的数据安全和隐私要求。这一方法有助于组织使用自己的数据来优化这些模型,打造可满足内部运营需求的模型。”
OCI 拥有低成本、安全且快速的 AI 基础设施,客户可以以托管服务的方式将 Cohere 的模型用于企业用例。OCI Generative AI 服务的客户可在 Oracle 的 AI Supercluster 架构上的专用基础设施中运行工作负载,从而自主控制特定成本和吞吐量需求,比如使用自己的数据来进行模型优化,或者是部署定制模型。
全新的 OCI Generative AI 服务包含以下模型:
Cohere 总裁兼首席运营官 Martin Kon 表示:“Oracle 和 Cohere 的企业 AI 产品以数据安全、模型定制和低延迟为中心,助力企业快速、经济高效且负责任地部署有意义的 AI 技术。我们正与 Oracle 密切合作,采用数据安全和隐私优先的策略,让企业能够利用 AI 来赋能业务。”
Altair 首席技术官 Sam Mahalingam 表示:“Oracle 是 Altair 重要的合作伙伴。Altair 专注于计算科学和人工智能,在 Oracle 强有力的支持下,Altair 已开始将大型语言模型整合到我们的解决方案中。我们相信,生成式 AI 将改变我们的工作方式。例如,客户以自然语言描述想要的结果,然后 LLM 就会自动生成解决方案。在数据分析中,客户不再需要为机器学习编写代码,只需要提出预测需求即可。在工程设计中,客户则可以描述产品属性,由模型来完成设计工作。生成式 AI 的使用场景无所不在。”
除了推出 OCI Generative AI 服务,Oracle AI 也将继续在多个限量发布计划中为现有服务添加增强功能,其中包括:
Wikibon 高级分析师 Marc Staimer 表示:“OCI Generative AI 服务是一款全新的生成式 AI 云技术服务,可提供企业级安全性、灵活性和用户调优功能,满足市场需求。该服务提供严格的安全和治理来保护用户的专有数据,也能够确保仅让客户使用和查看该模型。同样重要的是,客户可以控制专用的 OCI Supercluster AI 基础设施,对模型进行微调或部署定制模型,同时还能满足特定的成本和吞吐量需求。OCI Generative AI 服务是企业功能和成本性能的理想组合。”
好文章,需要你的鼓励
谷歌研究团队推出VaultGemma,这是其首个采用差分隐私技术的大语言模型。该模型基于Gemma 2构建,拥有10亿参数,通过在训练阶段引入校准噪声来防止模型"记忆"敏感用户数据。研究团队建立了差分隐私缩放定律,平衡计算预算、隐私预算和数据预算。尽管添加差分隐私会影响准确性,但VaultGemma在性能上与同规模非私有模型相当。该模型现已在Hugging Face和Kaggle平台开放下载。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
英国宽带服务商Olilo正式推出多千兆宽带服务,专门面向技术人员、工程师、系统管理员和家庭实验室爱好者。该公司自建Layer 2网络基础设施,提供对称多千兆宽带,支持静态IPv4地址和原生IPv6。Olilo与伦敦三大互联网交换中心建立对等连接,在英国对等网络中排名第24位。服务经过150多名技术用户的付费封闭测试,并通过Discord社区持续收集用户反馈优化服务。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。