至顶网软件频道消息: 今天AWS推出了一款专为机器学习设计的新处理器芯片,这也是Amazon在云计算领域雄心勃勃的另一个标志。
这款名为Inferentia的芯片将通过AWS EC2计算服务、SageMaker AI服务和(今天公布的新服务)Amazon Elastic Inference提供,旨在加速由机器学习模型执行的推理或预测过程,为Amazon Alexa和自动驾驶汽车等服务提供动力。
Inferentia芯片是由Amazon几年前成立的芯片设计公司Annapurna Labs设计,据称它与GPU(主要来自于Nvidia公司,一直是机器学习的首选芯片)相比具有低延迟和低成本等优点。
预计Inferentia芯片将于明年上市。AWS首席执行官Andy Jassy在今天上午的re:Invent大会主题演讲中简要介绍了Inferentia芯片,但他给出的设计或者规格细节很少,只是说Inferentia芯片支持多种数据类型和所有主流框架,如PyTorch和TensorFlow和MXNet。此外它还将提供数百的TOPS性能,聚合起来可以实现上千的TOPS性能。
Inferentia芯片是本周以来AWS宣布推出第二款芯片。周一晚上,AWS宣布推出名为Graviton的处理器,该处理器可通过AWS EC2云计算服务提供给云客户。Graviton是基于智能手机、网络路由器和各种其他设备中使用的Arm架构,并将逐渐用于计算机服务器中,例如AWS设计用于海量数据中心的计算机服务器。
Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“AWS宣布将自开自己的支持多种框架的机器学习推理芯片是一个重大的消息。与Google Cloud不同,这项AWS服务将广泛应用并具有弹性。目前AWS针对推理提供CPU、GPU、FPGA、以及现在自己的ASIC。”
在过去几年中我们看到,市场中出现了大量新芯片用于特定应用的优化,特别是机器学习和人工智能。例如,Google提供对自定义Tensor处理单元芯片的云访问。芯片设计兴起的一个原因是,所谓的超大规模数据中心企业需要对他们的硬件进行尽可能多的效率优化。
所有这些都让数据中心领导者英特尔处于了守势。英特尔收购了Altera和Movidius等多家公司,为其核心X86产品线增加了新的芯片设计和专业技术。此外英特尔还调整了X86芯片(如目前的至强产品线),以更好地应对机器学习和其他任务。
Amazon还发布了Elastic Inference,这是一项由GPU提供支持的深度学习推理加速服务。Jassy表示,这项服务仅根据需要提供尽可能多的AWS计算实例,可以节省高达75%的推理成本。
此外,AWS推出了一系列与人工智能相关的服务和产品,包括自主模型汽车Deep Racer,开发者可用来研究强化学习,预订价为249美元。
好文章,需要你的鼓励
Queen's大学研究团队提出结构化智能体软件工程框架SASE,重新定义人机协作模式。该框架将程序员角色从代码编写者转变为AI团队指挥者,建立双向咨询机制和标准化文档系统,解决AI编程中的质量控制难题,为软件工程向智能化协作时代转型提供系统性解决方案。
苹果在iOS 26公开发布两周后推出首个修复更新iOS 26.0.1,建议所有用户安装。由于重大版本发布通常伴随漏洞,许多用户此前选择安装iOS 18.7。尽管iOS 26经过数月测试,但更大用户基数能发现更多问题。新版本与iPhone 17等新机型同期发布,测试范围此前受限。预计苹果将继续发布后续修复版本。
西北工业大学与中山大学合作开发了首个超声专用AI视觉语言模型EchoVLM,通过收集15家医院20万病例和147万超声图像,采用专家混合架构,实现了比通用AI模型准确率提升10分以上的突破。该系统能自动生成超声报告、进行诊断分析和回答专业问题,为医生提供智能辅助,推动医疗AI向专业化发展。