据The Information近日报道,微软计划建造一台拥有数百万处理器的超级计算机,以支持OpenAI的研究。
该系统将面向人工智能工作负载运行。据报道,微软高管将这台超级计算机命名为“星际之门”(Stargate),据信这是微软更广泛计划的一部分,微软还将建造其他几个人工智能集群。该项目预计耗资高达 1000 亿美元。
OpenAI已经使用微软的基础设施来训练其人工智能模型。2020 年,这家云计算和软件巨头披露,它已经建造了一台 Azure 托管的超级计算机,配备了10000块显卡,以支持OpenAI的工作。据这两家公司称,该系统在推出时是全球最快的五台超级计算机之一。
去年3月,微软提供了与OpenAI 基础设施合作的最新情况。该公司详细介绍了其这家人工智能开发商建造的、最初为10000块GPU超级计算机的升级情况,该系统目前包含数以万计的 A100 芯片。微软高管Scott Guthrie表示,该系统的成本“可能高于”数亿美元。
今天来自 The Information 的报道显示,更多升级正在进行中。据该刊物的消息来源称,微软计划在 2030 年之前再建立几个人工智能基础设施。据报道,该计划分为五个阶段,据信微软和 OpenAI 目前正处于第三个阶段的中间。
第四阶段预计将建造一台新的超级计算机,“大约”在2026年启动。第五阶段则将以微软高管内部称为“星际之门”的系统为中心。这台超级计算机及其数以百万计的芯片预计最早将于2028年投入使用。
截至去年3月,微软主要使用英伟达(Nvidia)公司的显卡为其OpenAI的超级计算基础设施提供动力。这种情况在未来有可能发生改变。11 月,该公司详细介绍了内部开发的名为 Azure Maia的人工智能加速器,该加速器配备了1050亿个晶体管。
OpenAI有可能不会是星际之门和微软预计部署的其他新人工智能集群的唯一用户。去年,微软详细说明了它已经使用为 OpenAI 构建的超级计算基础设施来训练自己的人工智能模型。微软还向云计算客户提供硬件,它也可能在星际之门上采用这种方法,以便更快地收回该系统可能高昂的成本。
鉴于星际之门预计最早将于 2028 年上线,它很可能不会被用来训练OpenAI的GPT-4的后继者。上周,Insider 报道称,GPT-5 将在几个月后投入使用。据悉,OpenAI 已经有了该模型的工作原型,其功能比 GPT-4 有“实质性的提升”。
好文章,需要你的鼓励
OpenAI CEO描绘了AI温和变革人类生活的愿景,但现实可能更复杂。AI发展将带来真正收益,但也会造成社会错位。随着AI系统日益影响知识获取和信念形成,共同认知基础面临分裂风险。个性化算法加剧信息茧房,民主对话变得困难。我们需要学会在认知群岛化的新地形中智慧生存,建立基于共同责任而非意识形态纯洁性的社区。
杜克大学等机构研究团队通过三种互补方法分析了大语言模型推理过程,发现存在"思维锚点"现象——某些关键句子对整个推理过程具有决定性影响。研究表明,计划生成和错误检查等高层次句子比具体计算步骤更重要,推理模型还进化出专门的注意力机制来跟踪这些关键节点。该发现为AI可解释性和安全性研究提供了新工具和视角。
传统数据中心基础设施虽然对企业至关重要,但也是预算和房地产的重大负担。模块化数据中心正成为强有力的替代方案,解决企业面临的运营、财务和环境复杂性问题。这种模块化方法在印度日益流行,有助于解决环境问题、满足人工智能的电力需求、降低成本并支持新一代分布式应用。相比传统建设需要数年时间,工厂预制的模块化数据中心基础设施可在数周内部署完成。
法国索邦大学团队开发出智能医学文献管理系统Biomed-Enriched,通过AI自动从PubMed数据库中识别和提取高质量临床案例及教育内容。该系统采用两步注释策略,先用大型AI模型评估40万段落质量,再训练小型模型处理全库1.33亿段落。实验显示该方法仅用三分之一训练数据即可达到传统方法效果,为医学AI发展提供了高效可持续的解决方案。