Cloudera公司提供了一组用于统一数据管理的工具,这亦使其成为目前第一家提供此类工具的公司。此外,Cloudera还将其SDX架构称为该平台的“秘制酱汁”。
目前,企业对数据在不同环境中的可移植性和使用方式灵活性的需求日益旺盛。
该项需求亦驱使相关企业获取一套明确的解决方案。对Hadoop阵营主力Cloudera而言,这一解决方案正是SDX,全称为“共享式数据架构”。
然而,在本次于纽约召开的Strata数据大会上,该公司创始人兼首席技术官Amr Awadallah在接受采访时表示,对于Cloudera公司而言,SDX不只是一种“架构演习”。
Amr Awadallah表示:“该架构的性能已经有目共睹。Cloudera平台将凭借其“秘制酱汁”——SDX架构——一举超越我们的竞争对手。”
Awadallah解释称,推出此项目在一定程度上是为了引导客户认知。对此,他补充称,多数客户还没有意识到企业需要投入大量工作以确保数据管理工作的跨平台统一。
Awadallah补充道:“在单一项目中,平均40%,甚至可能达到50%的工程时间都用于研究如何确保跨平台统一。目前,我们已经从开源社区中选取了大约30个项目,并开始尝试为这些项目提供相同的授权与处理方式。”
“我们过去未能意识到跨平台统一的关键性,而客户现在需要同时具备灵活性与互操作性的架构……如果不能达到跨平台统一,客户将只能够实现个别要素的逐一开源。”
SDX架构支持多种公有云、私有云与内部部署形式,且允许客户以不同方式使用并分析其数据,具体包括用于机器学习的Spark与用于分析的Impala。
Awadallah表示,“企业希望实现可移植性,实际上是希望获得在本地与云之间、云与云之间自由移动的能力。这表明企业不愿意被锁定于Azure、亚马逊或谷歌等某一家供应商身上,而是希望能够以不同的方式灵活地提取数据价值。”
“跨平台统一还意味着在不同计算与存储的混合体系中存在相同的访问控制、策略、合规性以及元数据管理机制。”
考虑到Cloudera公司的首要客户为金融机构与政府部门,所以该公司推出的SDX架构将安全性、治理能力与合规性视为重中之重。
该架构提供了授权方式,具体涵盖系统访问、细粒度访问控制、高敏信息加密等,并且还可审计访问信息人员的身份、所在位置以及具体时间点。
Cloudera在此次大会上宣布,为了让其产品与平台获得尽可能多受众群体的青睐,该公司旗下的平台即服务方案Altus现已正式登陆微软Azure云。
今年6月,Cloudera与亚马逊合作推出Altus,而随后加入的Azure版本与前者基本相同。Awadallah表示,预计明年该公司还将会推出Altus的Google Cloud版本。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。