至顶网软件频道消息: 今天AWS推出了一款专为机器学习设计的新处理器芯片,这也是Amazon在云计算领域雄心勃勃的另一个标志。
这款名为Inferentia的芯片将通过AWS EC2计算服务、SageMaker AI服务和(今天公布的新服务)Amazon Elastic Inference提供,旨在加速由机器学习模型执行的推理或预测过程,为Amazon Alexa和自动驾驶汽车等服务提供动力。
Inferentia芯片是由Amazon几年前成立的芯片设计公司Annapurna Labs设计,据称它与GPU(主要来自于Nvidia公司,一直是机器学习的首选芯片)相比具有低延迟和低成本等优点。
预计Inferentia芯片将于明年上市。AWS首席执行官Andy Jassy在今天上午的re:Invent大会主题演讲中简要介绍了Inferentia芯片,但他给出的设计或者规格细节很少,只是说Inferentia芯片支持多种数据类型和所有主流框架,如PyTorch和TensorFlow和MXNet。此外它还将提供数百的TOPS性能,聚合起来可以实现上千的TOPS性能。
Inferentia芯片是本周以来AWS宣布推出第二款芯片。周一晚上,AWS宣布推出名为Graviton的处理器,该处理器可通过AWS EC2云计算服务提供给云客户。Graviton是基于智能手机、网络路由器和各种其他设备中使用的Arm架构,并将逐渐用于计算机服务器中,例如AWS设计用于海量数据中心的计算机服务器。
Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“AWS宣布将自开自己的支持多种框架的机器学习推理芯片是一个重大的消息。与Google Cloud不同,这项AWS服务将广泛应用并具有弹性。目前AWS针对推理提供CPU、GPU、FPGA、以及现在自己的ASIC。”
在过去几年中我们看到,市场中出现了大量新芯片用于特定应用的优化,特别是机器学习和人工智能。例如,Google提供对自定义Tensor处理单元芯片的云访问。芯片设计兴起的一个原因是,所谓的超大规模数据中心企业需要对他们的硬件进行尽可能多的效率优化。
所有这些都让数据中心领导者英特尔处于了守势。英特尔收购了Altera和Movidius等多家公司,为其核心X86产品线增加了新的芯片设计和专业技术。此外英特尔还调整了X86芯片(如目前的至强产品线),以更好地应对机器学习和其他任务。
Amazon还发布了Elastic Inference,这是一项由GPU提供支持的深度学习推理加速服务。Jassy表示,这项服务仅根据需要提供尽可能多的AWS计算实例,可以节省高达75%的推理成本。
此外,AWS推出了一系列与人工智能相关的服务和产品,包括自主模型汽车Deep Racer,开发者可用来研究强化学习,预订价为249美元。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。